xLLM-AI/xllm

針對 LLM、VLM、DiT 與 REC 模型的高效能推論引擎，針對各種 AI 加速器進行最佳化。託管於 OpenAtom Foundation。

↗ 在 GitHub 開啟

星數

1,552

Fork 數

290

語言

C++

授權

Apache-2.0

最後推送

6 天前

C++large-language-models llm-inference deepseek qwen inference glm inference-engine

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。