FasterDecoding/Medusa

@FasterDecoding

Medusa: Framework Sederhana untuk Mempercepat Generasi LLM dengan Multiple Decoding Heads

↗ Buka di GitHub

Bintang

2.771

Fork

205

Bahasa

Jupyter Notebook

Lisensi

Apache-2.0

Push terakhir

2 tahun yang lalu

Jupyter Notebook llm llm-inference

Belum ada intel terkait

Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.