distributed-training

本番環境レベルのMLアプリケーションを開発、デプロイ、反復的に改善する方法を学ぶ。

PyTorch画像エンコーダ/バックボーンの最大コレクション。学習、評価、推論、エクスポートスクリプト、事前学習済みウェイトを含む — ResNet, ResNeXT, EfficientNet, NFNet, Vision Transformer (ViT), MobileNetV4, MobileNet-V3 & V2, RegNet, DPN, CSPNet, Swin Transformer, MaxViT, CoAtNet, ConvNeXtなど。

並列分散ディープラーニング：産業界の実践から生まれた機械学習フレームワーク（『飞桨』コアフレームワーク、ディープラーニング＆機械学習の高性能シングルマシン、分散トレーニング、クロスプラットフォームデプロイ）

優れたモデルズーを備えた、使いやすく強力なLLMおよびSLMライブラリ。

最先端チームのためのAIコンピューティングプラットフォーム。SkyPilotは断片化されたAIコンピューティングを単一のAIスーパーコンピューターに変換し、最先端のAIチームがカスタムインテリジェンスをより速く構築できるようにします。

AI/ML システムの構築、管理、デプロイ

LLMのための強化学習の民主化

Fengshenbang-LM（封神榜大模型）は、IDEA研究院の認知計算と自然言語研究センターが主導する大規模モデルのオープンソースシステムであり、中国語のAIGCおよび認知インテリジェンスの基盤インフラとなっています。

FEDML - 大規模分散学習、モデルサービング、フェデレーテッドラーニングのための統一的でスケーラブルなMLライブラリ。クロスクラウドスケジューラであるFEDML Launchにより、あらゆるAIジョブをあらゆるGPUクラウドまたはオンプレミスクラスターで実行可能になります。このライブラリを基盤として、TensorOpera AI (https://TensorOpera.ai) はスケーラブルな生成AIプラットフォームを提供します。

Determined は、分散トレーニング、ハイパーパラメータチューニング、実験追跡、リソース管理を簡素化するオープンソースの機械学習プラットフォームです。PyTorch および TensorFlow と連携します。

PyTorch による分散型ディープラーニング。世界中の何千人ものボランティアのデバイスでモデルを訓練できるように構築されています。

DLRover：自動分散型ディープラーニングシステム

マルチマシーン学習用のさまざまなプリミティブを備えた集合通信ライブラリ

DeepRecは、TensorFlowをベースにした高性能な推薦ディープラーニングフレームワークです。LF AI & Data Foundationのインキュベーションプロジェクトです。

効率的なディープラーニングシステムコースの教材

🌾 OAT：強化学習や好みの学習などを含む、LLMオンラインアライメント向けの研究しやすいフレームワーク。

分散 PyTorch トレーニングコードの記述に関するベストプラクティスとガイド

大規模オムニモーダル事後学習のための非同期強化学習エンジン