mnn

MNN: Alibabaによって実証された超高速で軽量な推論エンジンであり、高性能なオンデバイスLLMやEdge AIを駆動します。

📄 ONNX Runtime、OpenVINO、MNN、PaddlePaddle、TensorRT、PyTorchをベースとした、多言語対応のAwesome OCRツールキット。

Android上で最も強力で長期間にわたって発展してきたAI Agentであり、AIチャットソフトウェアです。

NanoDet-Plus⚡超高速で軽量なアンカーフリー物体検出モデル。🔥わずか980 KB(int8) / 1.8MB (fp16) で、携帯電話上で97FPSで動作🔥

TNN: Tencent Youtu LabとGuangying Labによって開発された、モバイル、デスクトップ、サーバー向けの統一的な深層学習推論フレームワーク。TNNは、クロスプラットフォーム対応能力、高性能、モデル圧縮、コードプルーニングなど、いくつかの優れた特徴を際立たせている。ncnnとRapidnetを基盤として、TNNはモバイルデバイス向けのサポートとパフォーマンス最適化をさらに強化している。

軽量なC++ AIツールキット：MNN、ORT、TRTを備えた100以上のモデル。Det、Seg、Stable-Diffusion、Face-Fusionなどを含む。

🍅🍅🍅YOLOv5-Lite: yolov5 から進化し、モデルサイズはわずか 900+kb (int8) および 1.7M (fp16)。Raspberry Pi 4B で 15 FPS を達成

超解像および補間用の Android アプリケーション。RealSR-NCNN、SRMD-NCNN、RealCUGAN-NCNN、Real-ESRGAN-NCNN、Waifu2x-NCNN、Anime4kcpp、nearest、bilinear、bicubic、AVIR などを搭載しています。

簡単で使いやすく高性能なAIデプロイフレームワーク

MNN をベースにした LLM デプロイプロジェクト。このプロジェクトは MNN に統合されました。

優れたパフォーマンスを備えたエッジリアルタイムアンカーフリー物体検出器。