rlhf

100以上のLLMおよびVLMの統一的効率的なファインチューニング (ACL 2024)

OpenAssistantは、タスクを理解し、サードパーティシステムと連携し、それを行うために情報を動的に取得できるチャットベースのアシスタント

サーベイ論文「A Survey of Large Language Models」の公式GitHubページ。

InternLMシリーズ（InternLM, InternLM2, InternLM2.5, InternLM3）の公式リリース。

中国語LLaMA-2 & Alpaca-2大規模モデルフェーズ2プロジェクト + 64K超長コンテキストモデル (Chinese LLaMA-2 & Alpaca-2 LLMs with 64K long context models)

人間およびAIの好みに言語モデルを合わせるための堅牢なレシピ

OpenClaw-RL: 話すだけで任意のエージェントを訓練

AI研究者がローカルハードウェアからGPUクラスターまで、モデルをシームレスにトレーニング、評価、スケーリングするためのオープンソース研究環境。

PyTorchで推論LLMをゼロから、ステップバイステップで実装。

Argillaは、AIエンジニアやドメインエキスパートが高品質なデータセットを構築するためのコラボレーションツールです。

AIシステムの構築、評価、最適化。evals、RAG、エージェント、ファインチューニング、合成データ生成、データセット管理、MCPなどを含む。

Align Anything: フィードバックを用いた全モダリティモデルのトレーニング。

人間フィードバックによる強化学習（Reinforcement Learning with Human Feedback）のリソースを厳選したリスト（継続的に更新中）。

🚀 基本的なRLの概念からLLMアライメント、RLVR、高度なエージェンティックシステムへのギャップを埋めるオープンソースの実践的カリキュラム

データのためのドクター

Distilabel は、検証済みの研究論文に基づいた高速、信頼性、拡張性のあるパイプラインを必要とするエンジニア向けの、合成データおよび AI フィードバック用フレームワークです。

大規模言語モデルを用いた強化学習のための、効率的でユーザーフレンドリーなスケーリングライブラリ

PyTorch 向けの LeetCode — Google、Meta、Anthropic の実際の面接からの 65 の ML/AI 面接問題。Jupyter ノートブック、自動採点機能、MCP AI チューターが含まれています。

人間フィードバックからの強化学習に関する教科書

指示追従型言語モデルのための自動評価ツール。人間による検証済み、高品質、低コスト、高速。

Agentic RL に関する Awesome リスト

[NeurIPS 2023] ImageReward：テキストから画像への生成における人間の好みの学習と評価

Safe RLHF: 人間からのフィードバックによる安全な強化学習を通じた制約付き価値アライメント

WebGLM: 効率的なWeb拡張型質問応答システム (KDD 2023)

RLHF 用の報酬モデルをトレーニングするためのレシピ集

大規模言語モデルにおける RLHF の秘密 パート1: PPO

Xtreme1は、マルチモーダルデータ学習向けのオールインワンのデータラベリング・アノテーションプラットフォームであり、3D LiDAR点群、画像、LLMをサポートしています。

[NeurIPS 2024] SimPO: 参照フリーの報酬を用いたシンプルな選好最適化

拡散モデルおよびオムニモデル向けのマルチモーダル RL トレーニングフレームワーク

「AI-Compass」は、AI 技術の海原を航海するための指針をコミュニティに提供します。初心者から上級開発者まで、AI のあらゆる分野への道を見つけることができます。開発者が AI のコアコンセプト、主要技術、最新トレンドを体系的に理解し、実践を通じて理論から実装までの全プロセスを習得することを目的としています。