vllm-project/llm-compressor
@vllm-projectTransformers-kompatible Bibliothek zur Anwendung verschiedener Komprimierungsalgorithmen auf LLMs für ein optimiertes Deployment mit vLLM
Sterne
3.753
Forks
644
Sprache
Python
Lizenz
Apache-2.0
Letzter Push
vor 4 Tagen
Verwandte Intel (0)
Noch keine verwandte Intel
Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.