xLLM-AI/xllm

针对 LLM、VLM、DiT 与 REC 模型的高性能推理引擎，针对各种 AI 加速器进行了优化。托管于 OpenAtom Foundation。

↗ 在 GitHub 打开

星数

1,552

Fork 数

290

语言

C++

许可

Apache-2.0

最后推送

1周前

C++large-language-models llm-inference deepseek qwen inference glm inference-engine

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。