Pular para o conteúdo principal
buildradar
Sign in

Wenyueh/MinivLLM

@Wenyueh

Baseado no Nano-vLLM, uma replicação simples do vLLM com implementação independente de paged attention e flash attention

Estrelas
1.020
Bifurcações
172
Linguagem
Python
Licença
Apache-2.0
Último push
há 2 semanas
Python

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.