npu

Lemonade aide les utilisateurs à découvrir et exécuter des applications d'IA locales en utilisant des LLM optimisés directement sur leurs GPU et NPU.

Tengine est un moteur d'inférence modulaire, léger et haute performance pour appareils embarqués.

cubestudio开源云原生一站式机器学习/深度学习/大模型AI平台/MaaS/mlops/人工智能平台/训推平台，算法全链路流程，多租户，算力租赁平台，token中转，拖拉拽任务流pipeline编排，多机多卡分布式训练，超参搜索，推理服务，VGPU虚拟化，云边端协同，边缘计算，自动化标注平台，deepseek等大模型sft微调/奖励模型/强化学习训练，vllm/ollama/mindie大模型多机推理，私有知识库llmops智能体，AI模型市场，支持国产异构算力调度,昇腾/寒武纪/海光/摩尔/沐曦等，支持ib/roce/RDMA，信创支持

Exécutez des LLM sur les NPU AMD Ryzen™ AI en quelques minutes. Similaire à Ollama, mais conçu spécifiquement et profondément optimisé pour les NPU AMD.

Un projet open-source pour les développeurs Windows souhaitant apprendre à intégrer l'IA via des modèles locaux et des API dans leurs applications.

Un framework Pytorch basé sur Lightning pour les modèles de recommandation, facile à utiliser et à étendre

Une API Python proche du métal pour programmer les AMD Ryzen™ AI NPUs (AI Engines), construite sur une chaîne d'outils de compilation basée sur MLIR open-source.

Environnement d'exécution pour plateformes basées sur AIE et FPGA

Alternative à Ollama pour le NPU Rockchip : Une solution efficace pour exécuter des modèles d'IA et de deep learning sur les appareils Rockchip avec un support NPU optimisé (rkllm)