openvino

用于构建企业 RAG 流程的统一框架，支持小型、专门模型

OpenVINO™：用于优化与部署 AI 推理的开源工具套件

YOLOX 是高性能的无锚 YOLO，搭配 MegEngine、ONNX、TensorRT、ncnn 与 OpenVINO，性能超越 yolov3~v5。文档：https://yolox.readthedocs.io/

📄 Awesome OCR 多语言工具套件，基于 ONNX Runtime、OpenVINO、MNN、PaddlePaddle、TensorRT 与 PyTorch

使用 OpenCV 4 及以上版本的 Go 包，支持计算机视觉。包括 DNN、CUDA、OpenCV Contrib 与 OpenVINO。

NanoDet-Plus⚡ 超快且轻量的无锚点目标检测模型。🔥 仅 980 KB（int8）/1.8 MB（fp16），在手机上可达 97 FPS 🔥

异常检测库，包含先进算法与功能，如实验管理、超参数优化与边缘推理

TNN：由腾讯优图实验室和光影实验室开发的统一深度学习推理框架，适用于手机、桌面和服务器。TNN 以跨平台能力、高性能、模型压缩和代码裁剪等优秀特性著称。基于 ncnn 和 Rapidnet，TNN 进一步加强了对手机设备的支持和性能优化，并且

A repository for storing models that have been inter-converted between various frameworks. Supported frameworks are TensorFlow, PyTorch, ONNX, OpenVINO, TFJS, TFTRT, TensorFlowLite (Float32/16/INT8), EdgeTPU, CoreML.

预训练深度学习模型与示例（高品质且极速）。

近乎实时的 OpenAI Whisper 实作

📚 OpenVINO™ 的 Jupyter notebook 教学。

OpenMMLab 模型部署框架

在 PyTorch 中进行快速且准确的人体姿态估计。包含论文“Real-time 2D Multi-Person Pose Estimation on CPU: Lightweight OpenPose”的实现。

在 CPU 和 AI PC 上实现快速 stable diffusion

一款简单易用和高性能的 AI 部署框架

添加 bisenetv2。我对 BiSeNet 的实现

以极少的时间与更少的数据建立计算机视觉模型。

用于增强 OpenVINO™ 推理的神经网络压缩框架

为使用 OpenVINO™ 优化之模型所设计的可扩展推理服务器

使用深度学习（Tensorflow、Tensorflow lite、TensorRT、OpenVX、OpenVINO）针对 CPU、GPU、VPU 与 NPU 打造的全球最快 ANPR / ALPR 实现。支持多字符集（拉丁文、韩文、中文）、多操作系统（Jetson、Android、Raspberry Pi、Linux、Windows）与多架构（ARM、x86）。

Deep Learning Streamer (DL Streamer) Pipeline Framework 是一个基于 GStreamer* 多媒体框架的开源流媒体分析框架，用于在云端或边缘创建复杂的媒体分析管线。

🤗 Optimum Intel：利用 Intel 优化工具加速推理