Aller au contenu principal
buildradar
Sign in

FMInference/H2O

@FMInference

[NeurIPS'23] H2O : Heavy-Hitter Oracle pour une inférence générative efficace des grands modèles de langage.

Étoiles
532
Bifurcations
89
Langage
Python
Licence
Dernier push
il y a 2 ans
Pythonlarge-language-modelshigh-throughputgpt-3heavy-hitterskv-cachesparsity

Aucune intel associée pour le moment

Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.