FasterDecoding/Medusa

@FasterDecoding

Medusa: Framework simples para acelerar a geração de LLM com múltiplas cabeças de decodificação

↗ Abrir no GitHub

Estrelas

2.771

Bifurcações

205

Linguagem

Jupyter Notebook

Licença

Apache-2.0

Último push

há 2 anos

Jupyter Notebook llm llm-inference

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.