microsoft/vidur

精确、大规模且可扩展的 LLM 推理系统模拟器

↗ 在 GitHub 打开

星数

673

Fork 数

124

语言

Python

许可

MIT

最后推送

2周前

Python llm simulation vllm transformer inference

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。