vllm-project/llm-compressor
@vllm-projectBiblioteca compatível com Transformers para aplicar vários algoritmos de compressão a LLMs para implantação otimizada com vLLM
Estrelas
3.753
Bifurcações
644
Linguagem
Python
Licença
Apache-2.0
Último push
há 4 dias
Intel relacionado (0)
Ainda não há intel relacionado
Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.