turboderp-org/exllamav2
@turboderp-org一个快速推理库，能在现代消费级 GPU 上本地运行 LLM。
星数
4,614
Fork 数
341
语言
Python
许可
MIT
最后推送
6个月前
相关情报（0）
还没有相关情报
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。
一个快速推理库，能在现代消费级 GPU 上本地运行 LLM。
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。