mit-han-lab/TinyChatEngine

TinyChatEngine：设备端 LLM 推理库

↗ 在 GitHub 打开

星数

961

Fork 数

102

语言

C++

许可

MIT

最后推送

2年前

C++cpp deep-learning large-language-models c on-device-ai quantization x86-64 edge-computing arm cuda-programming

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。