distributed-training

Pelajari cara mengembangkan, menerapkan, dan melakukan iterasi pada aplikasi ML tingkat produksi.

Koleksi encoder / backbone gambar PyTorch terlengkap. Termasuk skrip untuk pelatihan, evaluasi, inferensi, ekspor, dan bobot pretrained -- ResNet, ResNeXT, EfficientNet, NFNet, Vision Transformer (ViT), MobileNetV4, MobileNet-V3 & V2, RegNet, DPN, CSPNet, Swin Transformer, MaxViT, CoAtNet, ConvNeXt, dan lainnya.

PArallel Distributed Deep LEarning: Kerangka kerja Machine Learning dari praktik industri (kerangka kerja inti PaddlePaddle, pelatihan terdistribusi berkinerja tinggi untuk deep learning & machine learning, serta penerapan lintas platform)

Pustaka LLM dan SLM yang kuat dan mudah digunakan dengan koleksi model yang luar biasa.

Platform komputasi AI untuk tim terdepan. SkyPilot mengubah komputasi AI yang terfragmentasi menjadi satu superkomputer AI, sehingga tim AI dapat membangun kecerdasan kustom dengan lebih cepat.

Membangun, Mengelola, dan Menerapkan Sistem AI/ML

Mendemokratisasi Reinforcement Learning untuk LLM.

Fengshenbang-LM adalah sistem model besar sumber terbuka yang dipimpin oleh pusat penelitian komputasi kognitif dan bahasa alami IDEA, yang menjadi infrastruktur untuk AIGC bahasa Mandarin dan kecerdasan kognitif.

FEDML - Pustaka ML yang terpadu dan dapat diskalakan untuk pelatihan terdistribusi skala besar, penyajian model, dan federated learning. FEDML Launch, penjadwal lintas cloud, memungkinkan eksekusi pekerjaan AI apa pun di cloud GPU atau klaster on-premise mana pun. Dibangun di atas pustaka ini, TensorOpera AI (https://TensorOpera.ai) adalah platform AI generatif Anda dalam skala besar.

Determined adalah platform machine learning sumber terbuka yang menyederhanakan pelatihan terdistribusi, penyetelan hyperparameter, pelacakan eksperimen, dan manajemen sumber daya. Bekerja dengan PyTorch dan TensorFlow.

Deep learning terdesentralisasi di PyTorch. Dibuat untuk melatih model pada ribuan sukarelawan di seluruh dunia.

DLRover: Sistem Pembelajaran Mendalam Terdistribusi Otomatis

Perpustakaan komunikasi kolektif dengan berbagai primitif untuk pelatihan multi-mesin.

DeepRec adalah kerangka kerja deep learning rekomendasi performa tinggi yang berbasis pada TensorFlow. Ini di-hosting dalam inkubasi di LF AI & Data Foundation.

Materi kursus Efficient Deep Learning Systems

OAT: Framework yang ramah riset untuk penyelarasan daring LLM, mencakup reinforcement learning, preference learning, dan lainnya.

Praktik terbaik & panduan tentang cara menulis kode pelatihan pytorch terdistribusi

Mesin Reinforcement Learning Asinkron untuk Post-Training Omni-Modal berskala besar.