turboderp-org/exllamav3
@turboderp-org一個優化的量化與推理庫，用於在現代消費級 GPU 上本地運行 LLM
星數
1,267
Fork 數
146
語言
Python
授權
MIT
最後推送
1 週前
相關情報（0）
還沒有相關情報
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。
一個優化的量化與推理庫，用於在現代消費級 GPU 上本地運行 LLM
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。