mit-han-lab/TinyChatEngine

TinyChatEngine：裝置端 LLM 推論庫

↗ 在 GitHub 開啟

星數

961

Fork 數

102

語言

C++

授權

MIT

最後推送

2 年前

C++cpp deep-learning large-language-models c on-device-ai quantization x86-64 edge-computing arm cuda-programming

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。