オーナー · weicj

weicj

weicj の追跡中のオープンソースリポジトリを、スター数順に表示します。

1 件のリポジトリ

#1
vLLM-2080Ti-Definitive ↗@weicjPython
デュアルRTX 2080 Ti 22GB + NVLink向けの決定版vLLMランタイム。FP8ウェイトをサポートし、Qwen 27Bのローカル推論で単一リクエストのデコード時に最大100+ tok/sを実現
★ 828+53直近 7 日のスター増減