SqueezeAILab/SqueezeLLM

[ICML 2024] SqueezeLLM: Quantização densa e esparsa

↗ Abrir no GitHub

Estrelas

724

Bifurcações

52

Linguagem

Python

Licença

MIT

Último push

há 2 anos

Python llm large-language-models transformer quantization llama natural-language-processing small-models text-generation model-compression efficient-inference localllm post-training-quantization

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.