deepspeedai

DeepSpeed 是一个深度学习优化库，使分布式训练与推理变得简单、高效且有效

使用 DeepSpeed 的示例模型

MII 在 DeepSpeed 的支持下，实现低延迟与高吞吐量的推理。