noonghunna/club-3090
@noonghunnaResep komunitas untuk menjalankan LLM pada GPU CUDA RTX 3090/4090/5090. Mendukung multi-engine (vLLM, llama.cpp, ik_llama) dan agnostik terhadap model. Saat ini menyediakan konfigurasi Qwen3.6-27B, Qwen3.6 35B, Gemma 4 26B, dan Gemma 4 31B untuk kartu 1× dan 2×.
Bintang
2.166
Fork
134
Bahasa
Python
Lisensi
Apache-2.0
Push terakhir
1 minggu yang lalu
Intel terkait (0)
Belum ada intel terkait
Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.