Tiiny-AI/PowerInfer

高速大型语言模型本地部署服务

↗ 在 GitHub 打开

星数

9,765

Fork 数

598

语言

C++

许可

MIT

最后推送

4个月前

C++llm large-language-models llm-inference llama local-inference

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。