Zum Hauptinhalt springen
buildradar
Sign in

FMInference/H2O

@FMInference

[NeurIPS'23] H2O: Heavy-Hitter Oracle für effiziente generative Inferenz großer Sprachmodelle.

Sterne
532
Forks
89
Sprache
Python
Lizenz
Letzter Push
vor 2 Jahren
Pythonlarge-language-modelshigh-throughputgpt-3heavy-hitterskv-cachesparsity

Noch keine verwandte Intel

Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.