SemiAnalysisAI/InferenceX

@SemiAnalysisAI

开源持续推理基准研究平台 — Kimi K3 2.8T、MiniMax M3、DeepSeekv4、GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 ＆即将推出™ TPUv6e/v7/Trainium2/3

↗ 在 GitHub 打开

星数

1,613

Fork 数

282

语言

Python

许可

Apache-2.0

最后推送

6天前

Python cuda llm-inference vllm pytorch deepseek agentic-ai gpu qwen benchmarking agentic inference mlops benchmarks tensorrt-llm rocm nvidia kimi llm-serving sglang amd

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。