mnn

MNN : un moteur d'inférence léger et ultra-rapide éprouvé par Alibaba, propulsant des LLM sur appareil et l'Edge AI haute performance.

📄 Boîtes à outils OCR impressionnantes pour plusieurs langages de programmation basées sur ONNX Runtime, OpenVINO, MNN, PaddlePaddle, TensorRT et PyTorch.

Le logiciel d'agent IA et de chat IA le plus puissant sur Android

NanoDet-Plus : modèle de détection d'objets sans ancres, ultra-rapide et léger. Seulement 980 Ko (int8) / 1,8 Mo (fp16) et 97 FPS sur mobile.

TNN : développé par Tencent Youtu Lab et Guangying Lab, un framework d'inférence de deep learning uniforme pour mobile, desktop et serveur. TNN se distingue par sa compatibilité multiplateforme, ses hautes performances, la compression de modèles et l'élagage de code. Basé sur ncnn et Rapidnet, TNN renforce le support et l'optimisation des performances pour les appareils mobiles.

Une boîte à outils IA légère en C++ : plus de 100 modèles avec MNN, ORT et TRT, incluant la détection, la segmentation, Stable-Diffusion et Face-Fusion.

YOLOv5-Lite : Évolué à partir de YOLOv5, avec une taille de modèle de seulement 900+ ko (int8) et 1,7 Mo (fp16). Atteint 15 FPS sur Raspberry Pi 4B

Une application Android pour la super-résolution et l'interpolation. Inclut RealSR-NCNN, SRMD-NCNN, RealCUGAN-NCNN, Real-ESRGAN-NCNN, Waifu2x-NCNN, Anime4kcpp, nearest, bilinear, bicubic, AVIR...

Un framework de déploiement d'IA simple, facile à utiliser et haute performance

Projet de déploiement LLM basé sur MNN. Ce projet a été fusionné dans MNN.

Un détecteur d'objets sans ancres en temps réel à la périphérie avec des performances décentes