Lompat ke konten utama
buildradar
Sign in

hao-ai-lab/LookaheadDecoding

@hao-ai-lab

[ICML 2024] Putuskan Ketergantungan Sekuensial dari Inferensi LLM Menggunakan Lookahead Decoding.

Bintang
1.342
Fork
83
Bahasa
Python
Lisensi
Apache-2.0
Push terakhir
2 tahun yang lalu
Python

Belum ada intel terkait

Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.