Michael-A-Kuykendall/shimmy
@Michael-A-Kuykendall⚡ Mesin inferensi WebGPU berbasis Pure-Rust — Kompatibel dengan OpenAI-API, mendukung GGUF secara native, berjalan di GPU apa pun. Tanpa Python. Tanpa llama.cpp. Berupa biner tunggal.
Bintang
5.816
Fork
561
Bahasa
Rust
Lisensi
Apache-2.0
Push terakhir
2 minggu yang lalu
Intel terkait (0)
Belum ada intel terkait
Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.