NotPunchnox/rkllama

Rockchip NPU 的 Ollama 替代方案：在 Rockchip 设备上运行 AI 与深度学习模型的高效解决方案（rkllm），并提供优化的 NPU 支持

↗ 在 GitHub 打开

星数

602

Fork 数

99

语言

Python

许可

GPL-3.0

最后推送

2周前

Python python offline ai llm llm-inference client server client-server rk3588 rockchip ia llm-apps npu npu-llm orange-pi orangepi orangepi5 orangepi5pro rk3576

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。