NotPunchnox/rkllama

Rockchip NPU 的 Ollama 替代方案：在 Rockchip 裝置上執行 AI 與深度學習模型的高效解決方案（rkllm），並提供優化的 NPU 支援

↗ 在 GitHub 開啟

星數

602

Fork 數

99

語言

Python

授權

GPL-3.0

最後推送

2 週前

Python python offline ai llm llm-inference client server client-server rk3588 rockchip ia llm-apps npu npu-llm orange-pi orangepi orangepi5 orangepi5pro rk3576

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。