vllm-project/llm-compressor
@vllm-projectPerpustakaan yang kompatibel dengan Transformers untuk menerapkan berbagai algoritma kompresi pada LLM guna optimalisasi penerapan dengan vLLM
Bintang
3.753
Fork
644
Bahasa
Python
Lisensi
Apache-2.0
Push terakhir
7 hari yang lalu
Intel terkait (0)
Belum ada intel terkait
Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.