Saltar al contenido principal
buildradar
Sign in

FMInference/H2O

@FMInference

[NeurIPS'23] H2O: Heavy-Hitter Oracle para la inferencia generativa eficiente de modelos de lenguaje de gran tamaño.

Estrellas
532
Bifurcaciones
89
Lenguaje
Python
Licencia
Último push
hace 2 años
Pythonlarge-language-modelshigh-throughputgpt-3heavy-hitterskv-cachesparsity

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.