メインコンテンツへスキップ
buildradar
Sign in

1CatAI/1Cat-vLLM

@1CatAI

Tesla V100 (SM70)向けvLLMフォーク。AWQ 4-bitサポート、CUDA 12.8ビルドフロー、マルチGPU V100でのQwen3.5 27B/35Bの検証済みデプロイメントを搭載。

スター
931
フォーク
184
言語
Python
ライセンス
Apache-2.0
最終プッシュ
13 時間前
Python

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。