deepspeedai

DeepSpeed 是一個深度學習優化函式庫，使分散式訓練與推論變得簡單、高效且有效

使用 DeepSpeed 的範例模型

MII 在 DeepSpeed 的支援下，實現低延遲與高吞吐量的推論。