Lompat ke konten utama
buildradar
Sign in

FMInference/H2O

@FMInference

[NeurIPS'23] H2O: Heavy-Hitter Oracle untuk Inferensi Generatif yang Efisien pada Large Language Models.

Bintang
532
Fork
89
Bahasa
Python
Lisensi
Push terakhir
2 tahun yang lalu
Pythonlarge-language-modelshigh-throughputgpt-3heavy-hitterskv-cachesparsity

Belum ada intel terkait

Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.