mnn

MNN: Eine blitzschnelle, leichtgewichtige Inferenz-Engine, die von Alibaba erprobt wurde und leistungsstarke On-Device-LLMs sowie Edge-KI antreibt.

📄 Awesome OCR-Toolkit für mehrere Programmiersprachen basierend auf ONNX Runtime, OpenVINO, MNN, PaddlePaddle, TensorRT und PyTorch.

Die leistungsstärkste AI-Agent- und AI-Chat-Software auf Android / Operit ist einer der leistungsstärksten und am längsten entwickelten AI-Agenten auf Android.

NanoDet-Plus: Superschnelles und leichtgewichtiges, anchor-free Objekterkennungsmodell. Nur 980 KB (int8) / 1,8 MB (fp16) und läuft mit 97 FPS auf Mobiltelefonen

TNN: Entwickelt vom Tencent Youtu Lab und Guangying Lab, ein einheitliches Deep-Learning-Inferenz-Framework für Mobilgeräte, Desktops und Server. TNN zeichnet sich durch herausragende Funktionen wie Plattformunabhängigkeit, hohe Leistung, Modellkomprimierung und Code-Pruning aus. Basierend auf ncnn und Rapidnet verstärkt TNN die Unterstützung und Leistungsoptimierung für Mobilgeräte weiter.

Ein schlankes C++-KI-Toolkit: Über 100 Modelle mit MNN, ORT und TRT, einschließlich Det, Seg, Stable-Diffusion und Face-Fusion.

🍅🍅🍅YOLOv5-Lite: Weiterentwicklung von yolov5 mit einer Modellgröße von nur über 900 KB (int8) und 1,7 MB (fp16). Erreicht 15 FPS auf dem Raspberry Pi 4B~

Eine Android-Anwendung für Super-Resolution und Interpolation. Enthält RealSR-NCNN, SRMD-NCNN, RealCUGAN-NCNN, Real-ESRGAN-NCNN, Waifu2x-NCNN, Anime4kcpp, nearest, bilinear, bicubic, AVIR...

Ein einfach zu bedienendes und leistungsstarkes KI-Bereitstellungsframework

LLM-Bereitstellungsprojekt basierend auf MNN. Dieses Projekt wurde in MNN integriert.

Ein Edge-Echtzeit-Objektdetektor ohne Ankerpunkte mit solider Leistung.