noonghunna/club-3090
@noonghunna在 RTX 3090/4090/5090 CUDA GPU 上部署 LLM 的社群配置集。支援多引擎(vLLM、llama.cpp、ik_llama)且與模型無關。目前提供適用於 1 张与 2 张显卡的 Qwen3.6-27B、Qwen3.6 35B、Gemma 4 26B、Gemma 4 31B 設定。
星数
2,166
Fork 数
134
语言
Python
许可
Apache-2.0
最后推送
1周前
相关情报(0)
还没有相关情报
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。