Pular para o conteúdo principal
buildradar
Sign in

FMInference/H2O

@FMInference

[NeurIPS'23] H2O: Heavy-Hitter Oracle para Inferência Gerativa Eficiente de Modelos de Linguagem de Grande Porte.

Estrelas
532
Bifurcações
89
Linguagem
Python
Licença
Último push
há 2 anos
Pythonlarge-language-modelshigh-throughputgpt-3heavy-hitterskv-cachesparsity

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.