mnn

MNN: Công cụ suy luận siêu nhanh, nhẹ, đã được kiểm chứng thực tế bởi Alibaba, cung cấp năng lượng cho LLM trên thiết bị và Edge AI hiệu suất cao.

📄 Bộ công cụ OCR đa ngôn ngữ lập trình tuyệt vời dựa trên ONNX Runtime, OpenVINO, MNN, PaddlePaddle, TensorRT và PyTorch.

Phần mềm AI chat và AI agent mạnh mẽ nhất trên Android

NanoDet-Plus⚡Mô hình phát hiện vật thể không mỏ neo siêu nhanh và nhẹ. 🔥Chỉ 980 KB(int8) / 1.8MB (fp16) và chạy 97FPS trên điện thoại🔥

TNN: được phát triển bởi Tencent Youtu Lab và Guangying Lab, một framework suy luận học sâu đồng nhất cho di động, máyδ để bàn và máy chủ. TNN nổi bật với các tính năng xuất sắc bao gồm khả năng đa nền tảng, hiệu suất cao, nén mô hình và cắt tỉa mã. Dựa trên ncnn và Rapidnet, TNN củng cố hơn nữa việc hỗ trợ và tối ưu hóa hiệu suất cho thiết bị di động, đồng thời...

Một bộ công cụ AI C++ gọn nhẹ: hơn 100 mô hình với MNN, ORT và TRT, bao gồm Det, Seg, Stable-Diffusion, Face-Fusion.

YOLOv5-Lite: Phát triển từ yolov5 với kích thước mô hình chỉ hơn 900kb (int8) và 1.7M (fp16). Đạt 15 FPS trên Raspberry Pi 4B~

Một ứng dụng Android dành cho siêu phân giải và nội suy. Bao gồm RealSR-NCNN, SRMD-NCNN, RealCUGAN-NCNN, Real-ESRGAN-NCNN, Waifu2x-NCNN, Anime4kcpp, nearest, bilinear, bicubic, AVIR...

Một framework triển khai AI đơn giản, dễ sử dụng và hiệu năng cao

Dự án triển khai LLM dựa trên MNN. Dự án này đã được hợp nhất vào MNN.

Trình phát hiện đối tượng không neo (anchor-free) thời gian thực tại biên với hiệu suất tốt