openvino

用於構建企業 RAG 流程的統一框架，支援小型、專門模型

OpenVINO™：用於優化與部署 AI 推論的開源工具套件

YOLOX 是高效能的無錨 YOLO，搭配 MegEngine、ONNX、TensorRT、ncnn 與 OpenVINO，性能超越 yolov3~v5。文件：https://yolox.readthedocs.io/

📄 Awesome OCR 多語言工具套件，基於 ONNX Runtime、OpenVINO、MNN、PaddlePaddle、TensorRT 與 PyTorch

使用 OpenCV 4 及以上版本的 Go 套件，支援電腦視覺。包括 DNN、CUDA、OpenCV Contrib 與 OpenVINO。

NanoDet-Plus⚡ 超快且輕量的無錨點目標檢測模型。🔥 只需 980 KB（int8）/1.8 MB（fp16），在手機上可達 97 FPS 🔥

異常偵測庫，包含先進演算法與功能，如實驗管理、超參數優化與邊緣推理

TNN：由騰訊優圖實驗室和光影實驗室開發的統一深度學習推理框架，適用於手機、桌面和服務器。TNN 以跨平台能力、高性能、模型壓縮和代碼裁剪等優秀特性著稱。基於 ncnn 和 Rapidnet，TNN 進一步加強了對手機設備的支持和性能優化，並且

A repository for storing models that have been inter-converted between various frameworks. Supported frameworks are TensorFlow, PyTorch, ONNX, OpenVINO, TFJS, TFTRT, TensorFlowLite (Float32/16/INT8), EdgeTPU, CoreML.

預訓練深度學習模型與範例（高品質且極速）。

近乎即時的 OpenAI Whisper 實作

📚 OpenVINO™ 的 Jupyter notebook 教學。

OpenMMLab 模型部署框架

在 PyTorch 中進行快速且準確的人體姿態估計。包含論文「Real-time 2D Multi-Person Pose Estimation on CPU: Lightweight OpenPose」的實作。

在 CPU 和 AI PC 上實現快速 stable diffusion

一款簡單易用且高效能的 AI 部署框架

新增 bisenetv2。我對 BiSeNet 的實作

以極少的時間與更少的数据建立電腦視覺模型。

用於增強 OpenVINO™ 推理的神經網路壓縮框架

為使用 OpenVINO™ 優化之模型所設計的可擴充推論伺服器

使用深度學習（Tensorflow、Tensorflow lite、TensorRT、OpenVX、OpenVINO）針對 CPU、GPU、VPU 與 NPU 打造的全球最快 ANPR / ALPR 實作。支援多字元集（拉丁文、韓文、中文）、多作業系統（Jetson、Android、Raspberry Pi、Linux、Windows）與多架構（ARM、x86）。

Deep Learning Streamer (DL Streamer) Pipeline Framework 是一個基於 GStreamer* 多媒體框架的開源串流媒體分析框架，用於在雲端或邊緣建立複雜的媒體分析管線。

🤗 Optimum Intel：利用 Intel 優化工具加速推論