npu
标记 npu 主题、收录中的开源项目，按星标数排序。
相关主题
常跟 npu 一起出现在同一个项目上的主题。
近期新秀
近 90 天内创建、标记 npu 主题的项目。
- #1
Build AI agents that run 100% on-device. Sub-100ms latency on Qualcomm NPU. Zero cloud dependency.
★ 486
- #1
Lemonade 帮助用户发现并运行本地 AI 应用，直接在自己的 GPU 和 NPU 上提供优化 LLM，加入我们的 Discord：https://discord.gg/5xXzkMu8Zk
★ 5,585+55近 7 天星标变化 - #2★ 4,533+1近 7 天星标变化
- #3
cubestudio 开源云原生一站式机器学习/深度学习/大模型AI平台/MaaS/mlops/人工智能平台/训推平台，算法全链路流程，多租户，算力租赁平台，token中转，拖拉拽任务流pipeline编排，多机多卡分布式训练，超参搜索，推理服务，VGPU虚拟化，云边端协同，边缘计算，自动化标注平台，deepseek等大模型sft微调/奖励模型/强化学习训练，vllm/ollama/mindie大模型多机推理，私有知识库llmops智能体，AI模型市场，支持国产异构算力调度,昇腾/寒武纪/海光/摩尔/沐曦等，支持ib/roce/RDMA，信创支持
★ 2,469+12近 7 天星标变化 - #4
在几分钟内于 AMD Ryzen™ AI NPU 上运行 LLM。就像 Ollama 一样——但专为 AMD NPU 打造并经过深度优化。
★ 1,834+14近 7 天星标变化 - #5
一个供 Windows 开发者学习如何将具备本地模型与 API 的 AI 加入 Windows 应用程序的开源项目。
★ 1,498+0近 7 天星标变化 - #6
一个用于推荐模型的 Lighting PyTorch 框架，易于使用且易于扩展。
★ 1,214+5近 7 天星标变化 - #7★ 686+4近 7 天星标变化
- #8★ 685+3近 7 天星标变化
- #9
Rockchip NPU 的 Ollama 替代方案：在 Rockchip 设备上运行 AI 与深度学习模型的高效解决方案（rkllm），并提供优化的 NPU 支持
★ 601+4近 7 天星标变化
