SemiAnalysisAI/InferenceX

@SemiAnalysisAI

オープンソースの継続的推論ベンチマーク研究プラットフォーム — Kimi K3 2.8T、MiniMax M3、DeepSeekv4、GLM5 - GB200 NVL72対MI355X対B200対GB300 NVL72、まもなく™ TPUv6e/v7/Trainium2/3 に対応

↗ GitHub で開く

スター

1,613

フォーク

282

言語

Python

ライセンス

Apache-2.0

最終プッシュ

5 日前

Python cuda llm-inference vllm pytorch deepseek agentic-ai gpu qwen benchmarking agentic inference mlops benchmarks tensorrt-llm rocm nvidia kimi llm-serving sglang amd

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。