mnn

MNN: Un motor de inferencia ultrarrápido y ligero, probado en batalla por Alibaba, que impulsa LLMs en el dispositivo y Edge AI de alto rendimiento.

📄 Herramienta de OCR Awesome basada en múltiples lenguajes de programación utilizando ONNX Runtime, OpenVINO, MNN, PaddlePaddle, TensorRT y PyTorch.

El software de agente de IA y chat de IA más potente en Android.

NanoDet-Plus: modelo de detección de objetos sin anclajes súper rápido y ligero. 🔥 Con solo 980 KB (int8) / 1.8 MB (fp16) y ejecuta a 97 FPS en teléfonos móviles 🔥

TNN: desarrollado por Tencent Youtu Lab y Guangying Lab, un framework de inferencia de aprendizaje profundo uniforme para móviles, escritorio y servidores. TNN se destaca por varias características sobresalientes, incluyendo su capacidad multiplataforma, alto rendimiento, compresión de modelos y poda de código. Basado en ncnn y Rapidnet, TNN refuerza aún más el soporte y la optimización de rendimiento para dispositivos móviles, y también

Un kit de herramientas de IA ligero en C++: más de 100 modelos con MNN, ORT y TRT, incluyendo detección, segmentación, Stable-Diffusion y Face-Fusion.

🍅🍅🍅YOLOv5-Lite: Evolucionado de yolov5 y el tamaño del modelo es de solo 900+kb (int8) y 1.7M (fp16). Alcanza 15 FPS en la Raspberry Pi 4B~

Una aplicación de Android para superresolución e interpolación. Contiene RealSR-NCNN, SRMD-NCNN, RealCUGAN-NCNN, Real-ESRGAN-NCNN, Waifu2x-NCNN, Anime4kcpp, nearest, bilinear, bicubic, AVIR...

Un framework de despliegue de IA de alto rendimiento y fácil de usar.

Proyecto de despliegue de LLM basado en MNN. Este proyecto ha sido integrado en MNN.

Un detector de objetos anchor-free en tiempo real para el borde con un rendimiento decente