turboderp-org/exllamav3
@turboderp-orgPustaka kuantisasi dan inferensi yang dioptimalkan untuk menjalankan LLM secara lokal di GPU kelas konsumen modern
Bintang
1.267
Fork
146
Bahasa
Python
Lisensi
MIT
Push terakhir
6 hari yang lalu
Intel terkait (0)
Belum ada intel terkait
Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.