Lompat ke konten utama
buildradar
Sign in

feifeibear/LLMSpeculativeSampling

@feifeibear

Inferensi cepat dari large language model melalui speculative decoding

Bintang
926
Fork
96
Bahasa
Python
Lisensi
Apache-2.0
Push terakhir
2 tahun yang lalu
Python

Belum ada intel terkait

Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.