turboderp-org の追跡中のオープンソースリポジトリを、スター数順に表示します。
最新のコンシューマー向けGPU上でLLMをローカル実行するための高速推論ライブラリ。
最新のコンシューマー向け GPU で LLM をローカル実行するための、最適化された量子化および推論ライブラリ
ExLlamaV2 用 Web UI
