vllm-project/llm-compressor
@vllm-projectvLLMでの最適化されたデプロイメントのために、様々な圧縮アルゴリズムをLLMに適用するためのTransformers互換ライブラリ。
スター
3,753
フォーク
644
言語
Python
ライセンス
Apache-2.0
最終プッシュ
7 日前
関連 Intel（0）
関連 Intel はまだありません
このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。