vllm-project/llm-compressor
@vllm-project与 Transformers 兼容的库,可对 LLM 应用各种压缩算法,以 vLLM 优化部署
星数
3,753
Fork 数
644
语言
Python
许可
Apache-2.0
最后推送
1周前
相关情报(0)
还没有相关情报
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。
与 Transformers 兼容的库,可对 LLM 应用各种压缩算法,以 vLLM 优化部署
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。