1CatAI の追跡中のオープンソースリポジトリを、スター数順に表示します。
Tesla V100 (SM70)向けvLLMフォーク。AWQ 4-bitサポート、CUDA 12.8ビルドフロー、マルチGPU V100でのQwen3.5 27B/35Bの検証済みデプロイメントを搭載。