Tiiny-AI/PowerInfer

高速大型語言模型本地部署服務

↗ 在 GitHub 開啟

星數

9,765

Fork 數

598

語言

C++

授權

MIT

最後推送

4 個月前

C++llm large-language-models llm-inference llama local-inference

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。