vllm-project/speculators
@vllm-projectPustaka terpadu untuk membangun, mengevaluasi, dan menyimpan algoritma speculative decoding untuk inferensi LLM di vLLM
Bintang
815
Fork
214
Bahasa
Python
Lisensi
Apache-2.0
Push terakhir
2 hari yang lalu
Intel terkait (0)
Belum ada intel terkait
Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.