Pular para o conteúdo principal
buildradar
Sign in

efeslab/Nanoflow

@efeslab

Uma estrutura de atendimento de alto desempenho orientada a vazão para LLMs

Estrelas
975
Bifurcações
53
Linguagem
Jupyter Notebook
Licença
Último push
há 5 meses
Jupyter Notebookllmcudallama2inferencellm-servingmodel-serving

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.