sqliteai/warp
@sqliteaiJalankan model Kimi K3 dengan 2,78 triliun parameter secara penuh di luar RAM yang tersedia dengan melakukan streaming bobot yang diaktifkan langsung dari NVMe. Mesin inferensi C yang dapat disematkan dan bebas dependensi.
Bintang
2.373
Fork
177
Bahasa
C
Lisensi
Apache-2.0
Push terakhir
2 minggu yang lalu
Intel terkait (0)
Belum ada intel terkait
Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.