rlhf

Fine-tuning efficace et unifié de plus de 100 LLM et VLM (ACL 2024).

OpenAssistant est un assistant conversationnel capable de comprendre des tâches, d'interagir avec des systèmes tiers et de récupérer des informations dynamiquement.

Page GitHub officielle de l'article de synthèse A Survey of Large Language Models

Publication officielle de la série InternLM (InternLM, InternLM2, InternLM2.5, InternLM3).

Projet de phase 2 pour les grands modèles LLaMA-2 et Alpaca-2 en chinois, incluant des modèles avec un contexte étendu de 64K.

Recettes robustes pour aligner les modèles de langage avec les préférences humaines et celles de l'IA.

OpenClaw-RL : Entraînez n'importe quel agent simplement par la parole.

Environnement de recherche open source permettant aux chercheurs en IA d'entraîner, d'évaluer et de mettre à l'échelle des modèles de manière transparente, du matériel local aux clusters GPU.

Implémenter un LLM de raisonnement en PyTorch à partir de zéro, étape par étape.

Argilla est un outil de collaboration destiné aux ingénieurs en IA et aux experts métier pour créer des jeux de données de haute qualité.

Construisez, évaluez et optimisez des systèmes d'IA. Inclut des évaluations, RAG, agents, fine-tuning, génération de données synthétiques, gestion de jeux de données, MCP, et plus encore.

Align Anything : Entraînement de modèles multimodaux avec rétroaction.

Une liste organisée de ressources sur l'apprentissage par renforcement à partir de rétroaction humaine (mise à jour continue).

Un programme open-source pratique pour faire le pont entre les concepts de base de l'apprentissage par renforcement (RL) et l'alignement des LLM, RLVR et les systèmes d'agents avancés.

Un docteur pour vos données

Distilabel est un framework de données synthétiques et de rétroaction IA pour les ingénieurs ayant besoin de pipelines rapides, fiables et évolutifs basés sur des articles de recherche vérifiés.

Une bibliothèque de mise à l'échelle efficace et conviviale pour l'apprentissage par renforcement avec des modèles de langage étendus

LeetCode pour PyTorch : 65 problèmes d'entretien ML/IA issus d'entretiens réels chez Google, Meta et Anthropic. Inclut des notebooks Jupyter, un auto-correcteur et un tuteur IA MCP.

Manuel sur l'apprentissage par renforcement à partir de la rétroaction humaine (RLHF).

Un évaluateur automatique pour les modèles de langage suivant des instructions. Validé par l'humain, de haute qualité, économique et rapide.

Liste Awesome pour l'apprentissage par renforcement agentique (Agentic RL).

[NeurIPS 2023] ImageReward : Apprentissage et évaluation des préférences humaines pour la génération texte-image.

Safe RLHF : Alignement de valeur contraint via l'apprentissage par renforcement sécurisé à partir de la rétroaction humaine

WebGLM : un système de réponse aux questions efficace enrichi par le Web (KDD 2023)

Recettes pour entraîner un modèle de récompense pour le RLHF.

Secrets du RLHF dans les grands modèles de langage, partie I : PPO

Xtreme1 est une plateforme tout-en-un d'étiquetage et d'annotation de données pour l'entraînement multimodal, prenant en charge les nuages de points LiDAR 3D, les images et les LLM.

[NeurIPS 2024] SimPO : Optimisation simple des préférences avec une récompense sans référence

Framework d'entraînement RL multimodal pour modèles de diffusion et omni

AI-Compass guide la communauté à travers l'océan des technologies IA, offrant des parcours pour les débutants comme pour les développeurs avancés. Il vise à aider les développeurs à comprendre systématiquement les concepts fondamentaux, les technologies dominantes et les tendances de l'IA, tout en maîtrisant le passage de la théorie à la pratique.