vllm-project/llm-compressor
@vllm-project與 Transformers 兼容的庫,可對 LLM 應用各種壓縮演算法,以 vLLM 優化部署
星數
3,753
Fork 數
644
語言
Python
授權
Apache-2.0
最後推送
1 週前
相關情報(0)
還沒有相關情報
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。
與 Transformers 兼容的庫,可對 LLM 應用各種壓縮演算法,以 vLLM 優化部署
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。