tensorrt

Ultralytics YOLOv5 trong PyTorch dùng để phát hiện đối tượng, phân đoạn thực thể, phân loại, đào tạo và xuất.

NVIDIA® TensorRT™ là một SDK dành cho suy luận học sâu hiệu năng cao trên GPU NVIDIA. Kho lưu trữ này chứa các thành phần mã nguồn mở của TensorRT.

Bản cài đặt PyTorch của YOLOv3, YOLOv3-SPP và YOLOv3-tiny dùng để phát hiện đối tượng thời gian thực với tính năng huấn luyện, xác thực, suy luận và xuất ra nhiều định dạng.

YOLOX là một mô hình YOLO không mỏ neo (anchor-free) hiệu suất cao, vượt trội hơn yolov3~v5 với sự hỗ trợ của MegEngine, ONNX, TensorRT, ncnn và OpenVINO. Tài liệu: https://yolox.readthedocs.io/

Hướng dẫn Hello AI World về cách triển khai mạng suy luận học sâu và các nguyên thủy thị giác sâu với TensorRT và NVIDIA Jetson.

BoxMOT: Các mô-đun theo dõi đa đối tượng SOTA bằng Python và C++ có thể cắm vào, hỗ trợ hộp bao quanh định hướng và song song với trục

Triển khai các mạng học sâu phổ biến bằng API định nghĩa mạng TensorRT

📄 Bộ công cụ OCR đa ngôn ngữ lập trình tuyệt vời dựa trên ONNX Runtime, OpenVINO, MNN, PaddlePaddle, TensorRT và PyTorch.

Công cụ chuyển đổi PyTorch sang TensorRT dễ sử dụng

TNN: được phát triển bởi Tencent Youtu Lab và Guangying Lab, một framework suy luận học sâu đồng nhất cho di động, máyδ để bàn và máy chủ. TNN nổi bật với các tính năng xuất sắc bao gồm khả năng đa nền tảng, hiệu suất cao, nén mô hình và cắt tỉa mã. Dựa trên ncnn và Rapidnet, TNN củng cố hơn nữa việc hỗ trợ và tối ưu hóa hiệu suất cho thiết bị di động, đồng thời...

Hướng dẫn thực tế PyTorch (Phiên bản thứ hai): Dành cho người mới bắt đầu, ứng dụng dự án CV, NLP, LLM, hoặc triển khai kỹ thuật nâng cao. Cuộc hành trình trở thành kỹ sư học sâu giỏi bắt đầu từ đây.

Tengine là một công cụ suy luận mô-đun, hiệu năng cao, gọn nhẹ dành cho thiết bị nhúng.

Cài đặt YOLOv4 bằng PyTorch, ONNX và TensorRT

Một bộ công cụ AI C++ gọn nhẹ: hơn 100 mô hình với MNN, ORT và TRT, bao gồm Det, Seg, Stable-Diffusion, Face-Fusion.

Một bản triển khai gần như thời gian thực của Whisper từ OpenAI.

Quy trình làm việc tham khảo AI tạo sinh được tối ưu hóa cho cơ sở hạ tầng tăng tốc và kiến trúc vi dịch vụ.

DAMO-YOLO: một phương pháp phát hiện đối tượng nhanh và chính xác với một số công nghệ mới, bao gồm NAS backbones, RepGFPN hiệu quả, ZeroHead, AlignedOTA và cải tiến chưng cất.

Framework triển khai mô hình OpenMMLab

Trình biên dịch PyTorch/TorchScript/FX cho GPU NVIDIA sử dụng TensorRT

các dự án thị giác máy tính | các dự án AI thú vị liên quan đến thị giác máy tính (Python, C++, hệ thống nhúng)

Máy chủ Deep Learning và CLI dành cho Torch và TensorRT

YOLOv5-Lite: Phát triển từ yolov5 với kích thước mô hình chỉ hơn 900kb (int8) và 1.7M (fp16). Đạt 15 FPS trên Raspberry Pi 4B~

Biến bất kỳ máy tính hoặc thiết bị edge nào thành trung tâm điều khiển cho các dự án computer vision của bạn.

YOLO5Face: Tại sao phải chế tạo lại bộ phát hiện khuôn mặt (https://arxiv.org/abs/2105.12931) ECCV Workshops 2022)

micronet, thư viện nén và triển khai mô hình. nén: 1、lượng tử hóa: lượng tử hóa khi huấn luyện (QAT), High-Bit (>2b), Low-Bit (≤2b); lượng tử hóa sau huấn luyện (PTQ), 8-bit (tensorrt); 2、cắt tỉa: cắt tỉa kênh tích chập thông thường, đều và theo nhóm; 3、group

YOLOv4, YOLOv4-tiny, YOLOv3, YOLOv3-tiny được triển khai bằng Tensorflow 2.0 và Android. Chuyển đổi trọng số YOLO v4 sang tensorflow, tensorrt và tflite

Triển khai NVIDIA DeepStream SDK 8.0 / 7.1 / 7.0 / 6.4 / 6.3 / 6.2 / 6.1.1 / 6.1 / 6.0.1 / 6.0 / 5.1 cho các mô hình YOLO

🚀 Bộ công cụ triển khai YOLO dễ dàng và nhanh hơn cho NVIDIA 🛠️

Một framework triển khai AI đơn giản, dễ sử dụng và hiệu năng cao

Tăng tốc YOLOv8 bằng TensorRT!