Lightning-AI/lit-llama
@Lightning-AIImplementação do modelo de linguagem LLaMA baseada em nanoGPT. Suporta flash attention, quantização Int8 e GPTQ 4bit, fine-tuning com LoRA e LLaMA-Adapter, e pré-treinamento. Licenciado sob Apache 2.0.
Estrelas
6.085
Bifurcações
517
Linguagem
Python
Licença
Apache-2.0
Último push
há 1 ano
Intel relacionado (0)
Ainda não há intel relacionado
Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.