openvino

Khung tổng hợp để xây dựng các pipeline RAG doanh nghiệp với các mô hình nhỏ, chuyên biệt

OpenVINO™ là bộ công cụ mã nguồn mở để tối ưu hóa và triển khai suy luận AI

YOLOX là một mô hình YOLO không mỏ neo (anchor-free) hiệu suất cao, vượt trội hơn yolov3~v5 với sự hỗ trợ của MegEngine, ONNX, TensorRT, ncnn và OpenVINO. Tài liệu: https://yolox.readthedocs.io/

📄 Bộ công cụ OCR đa ngôn ngữ lập trình tuyệt vời dựa trên ONNX Runtime, OpenVINO, MNN, PaddlePaddle, TensorRT và PyTorch.

Gói Go cho thị giác máy tính sử dụng OpenCV 4 trở lên. Bao gồm hỗ trợ cho DNN, CUDA, OpenCV Contrib và OpenVINO.

NanoDet-Plus⚡Mô hình phát hiện vật thể không mỏ neo siêu nhanh và nhẹ. 🔥Chỉ 980 KB(int8) / 1.8MB (fp16) và chạy 97FPS trên điện thoại🔥

Thư viện phát hiện bất thường bao gồm các thuật toán tiên tiến và tính năng như quản lý thí nghiệm, tối ưu hóa siêu tham số và suy luận biên.

TNN: được phát triển bởi Tencent Youtu Lab và Guangying Lab, một framework suy luận học sâu đồng nhất cho di động, máyδ để bàn và máy chủ. TNN nổi bật với các tính năng xuất sắc bao gồm khả năng đa nền tảng, hiệu suất cao, nén mô hình và cắt tỉa mã. Dựa trên ncnn và Rapidnet, TNN củng cố hơn nữa việc hỗ trợ và tối ưu hóa hiệu suất cho thiết bị di động, đồng thời...

Kho lưu trữ các mô hình đã được chuyển đổi qua lại giữa các framework khác nhau. Các framework được hỗ trợ gồm TensorFlow, PyTorch, ONNX, OpenVINO, TFJS, TFTRT, TensorFlowLite (Float32/16/INT8), EdgeTPU, CoreML.

Các mô hình Deep Learning được huấn luyện trước và các bản demo (chất lượng cao và cực kỳ nhanh)

Một bản triển khai gần như thời gian thực của Whisper từ OpenAI.

📚 Hướng dẫn Jupyter notebook cho OpenVINO™

Framework triển khai mô hình OpenMMLab

Ước lượng tư thế con người nhanh chóng và chính xác trong PyTorch. Bao gồm mã nguồn triển khai bài báo "Real-time 2D Multi-Person Pose Estimation on CPU: Lightweight OpenPose"

Chạy stable diffusion nhanh trên CPU và AI PC

Một framework triển khai AI đơn giản, dễ sử dụng và hiệu năng cao

Thêm bisenetv2. Triển khai BiSeNet của tôi

Xây dựng các mô hình thị giác máy tính trong thời gian ngắn hơn và với ít dữ liệu hơn.

Framework nén mạng nơ-ron để tăng cường suy luận OpenVINO™

Một máy chủ suy luận có khả năng mở rộng cho các mô hình được tối ưu hóa bằng OpenVINO™

Triển khai ANPR / ALPR nhanh nhất thế giới cho CPU, GPU, VPU và NPU sử dụng deep learning (Tensorflow, Tensorflow lite, TensorRT, OpenVX, OpenVINO). Hỗ trợ đa bộ ký tự (Latin, Hàn, Trung), đa hệ điều hành (Jetson, Android, Raspberry Pi, Linux, Windows) và đa kiến trúc (ARM, x86).

Deep Learning Streamer (DL Streamer) Pipeline Framework là một khung phân tích phương tiện truyền thông mã nguồn mở, dựa trên GStreamer, dùng để tạo các pipeline phân tích phương tiện phức tạp cho Cloud hoặc Edge.

🤗 Optimum Intel: Tăng tốc suy luận với các công cụ tối ưu hóa của Intel.