NotPunchnox/rkllama

Rockchip NPU 向け Ollama 代替: 最適化された NPU サポート (rkllm) により Rockchip デバイス上で AI およびディープラーニングモデルを実行するための効率的なソリューション

↗ GitHub で開く

スター

602

フォーク

99

言語

Python

ライセンス

GPL-3.0

最終プッシュ

2 週間前

Python python offline ai llm llm-inference client server client-server rk3588 rockchip ia llm-apps npu npu-llm orange-pi orangepi orangepi5 orangepi5pro rk3576

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。