SemiAnalysisAI/InferenceX

@SemiAnalysisAI

開源持續推論基準研究平台 — Kimi K3 2.8T、MiniMax M3、DeepSeekv4、GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 ＆即將推出™ TPUv6e/v7/Trainium2/3

↗ 在 GitHub 開啟

星數

1,613

Fork 數

282

語言

Python

授權

Apache-2.0

最後推送

6 天前

Python cuda llm-inference vllm pytorch deepseek agentic-ai gpu qwen benchmarking agentic inference mlops benchmarks tensorrt-llm rocm nvidia kimi llm-serving sglang amd

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。