noonghunna/club-3090
@noonghunna在 RTX 3090/4090/5090 CUDA GPU 上部署 LLM 的社群配置集。支援多引擎(vLLM、llama.cpp、ik_llama)且與模型無關。目前提供適用於 1 張與 2 張顯示卡的 Qwen3.6-27B、Qwen3.6 35B、Gemma 4 26B、Gemma 4 31B 設定。
星數
2,224
Fork 數
140
語言
Python
授權
Apache-2.0
最後推送
8 小時前
相關情報(0)
還沒有相關情報
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。