turboderp-org/exllamav2
@turboderp-orgPustaka inferensi cepat untuk menjalankan LLM secara lokal pada GPU kelas konsumen modern
Bintang
4.614
Fork
341
Bahasa
Python
Lisensi
MIT
Push terakhir
6 bulan yang lalu
Intel terkait (0)
Belum ada intel terkait
Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.