huggingface/accelerate

🚀 Una forma sencilla de lanzar, entrenar y usar modelos de PyTorch en casi cualquier dispositivo y configuración distribuida, con precisión mixta automática (incluyendo fp8) y soporte de FSDP y DeepSpeed fácil de configurar