MegEngine/InferLLM

一个轻量级的 LLM 模型推理框架。

↗ 在 GitHub 打开

星数

753

Fork 数

93

语言

C++

许可

Apache-2.0

最后推送

2年前

C++llm mobile deeplearning inference

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。