tensorrt

Ultralytics YOLOv5（基于 PyTorch）用于目标检测、实例分割、分类、训练与导出

NVIDIA® TensorRT™ 是一套在 NVIDIA GPU 上进行高效深度学习推理的 SDK。本仓库包含 TensorRT 的开源组件。

PyTorch 版 YOLOv3、YOLOv3-SPP 与 YOLOv3-tiny 的实时目标检测实现，支持训练、验证、推理与多格式导出

YOLOX 是高性能的无锚 YOLO，搭配 MegEngine、ONNX、TensorRT、ncnn 与 OpenVINO，性能超越 yolov3~v5。文档：https://yolox.readthedocs.io/

Hello AI World：部署深度学习推理网络与深度视觉原语的指南，使用 TensorRT 与 NVIDIA Jetson

BoxMOT：可插拔的 Python 与 C++ 最先进多目标追踪模块，支持轴对齐和方向性边界框。

使用 TensorRT 网络定义 API 实现流行的深度学习网络

📄 Awesome OCR 多语言工具套件，基于 ONNX Runtime、OpenVINO、MNN、PaddlePaddle、TensorRT 与 PyTorch

易用的 PyTorch 到 TensorRT 转换器

TNN：由腾讯优图实验室和光影实验室开发的统一深度学习推理框架，适用于手机、桌面和服务器。TNN 以跨平台能力、高性能、模型压缩和代码裁剪等优秀特性著称。基于 ncnn 和 Rapidnet，TNN 进一步加强了对手机设备的支持和性能优化，并且

《Pytorch实用教程》（第二版）无论是零基础入门、CV、NLP、LLM项目应用，或是进阶工程化部署落地，都在这里。相信在本书的帮助下，读者能够轻松掌握 PyTorch 的使用，成为优秀的深度学习工程师。

Tengine 是一个轻量、高效、模块化的推理引擎，适用于嵌入式装置

PyTorch、ONNX 与 TensorRT 实作的 YOLOv4。

轻量级 C++ AI 工具包：100+ 模型，支持 MNN、ORT 与 TRT，包括 Det、Seg、Stable‑Diffusion、Face‑Fusion。

近乎实时的 OpenAI Whisper 实作

为加速基础设施与微服务架构优化的生成式 AI 参考工作流程

DAMO-YOLO：一种快速且准确的物体检测方法，采用 NAS backbone、Efficient RepGFPN、ZeroHead、AlignedOTA 以及蒸馏增强等新技术

OpenMMLab 模型部署框架

使用 TensorRT 为 NVIDIA GPU 编译 PyTorch/TorchScript/FX 的编译器

计算机视觉相关好玩的 AI 项目（Python、C++、embedded system）

适用于 Torch 和 TensorRT 的深度学习服务器与 CLI

🍅🍅🍅YOLOv5-Lite：演进自 YOLOv5，模型大小仅 900+KB (int8) 和 1.7M (fp16)。在 Raspberry Pi 4B 上可达 15 FPS~

将任何计算机或边缘设备变成计算机视觉项目的指挥中心。

YOLO5Face：为什么要重新发明人脸检测器 (https://arxiv.org/abs/2105.12931) ECCV Workshops 2022

micronet 是一个模型压缩与部署库。压缩：1、量化：量化感知训练 (QAT)、高比特 (>2b)、低比特 (≤2b)/三元与二元；后训练量化 (PTQ)、8 比特 (tensorrt)；2、剪枝：正常、规则与群组卷积通道剪枝；3、群组

使用 Tensorflow 2.0、Android 实现的 YOLOv4、YOLOv4-tiny、YOLOv3、YOLOv3-tiny。将 YOLO v4 .weights 转换为 tensorflow、tensorrt 和 tflite

适用于 YOLO 模型的 NVIDIA DeepStream SDK 8.0 / 7.1 / 7.0 / 6.4 / 6.3 / 6.2 / 6.1.1 / 6.1 / 6.0.1 / 6.0 / 5.1 实现

🚀 更简单、更快速的 NVIDIA YOLO 部署工具包 🛠️

一款简单易用和高性能的 AI 部署框架

使用 TensorRT 加速的 YOLOv8！