openvinotoolkit

OpenVINO™：用于优化与部署 AI 推理的开源工具套件

预训练深度学习模型与示例（高品质且极速）。

📚 OpenVINO™ 的 Jupyter notebook 教学。

用于增强 OpenVINO™ 推理的神经网络压缩框架

为使用 OpenVINO™ 优化之模型所设计的可扩展推理服务器

使用简单的 C++/Python API 并通过 OpenVINO Runtime 运行生成式 AI 模型。