turboderp-org/exllamav2
@turboderp-org一個快速推理庫，能在現代消費級 GPU 上本地運行 LLM。
星數
4,614
Fork 數
341
語言
Python
授權
MIT
最後推送
6 個月前
相關情報（0）
還沒有相關情報
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。
一個快速推理庫，能在現代消費級 GPU 上本地運行 LLM。
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。