sft

Utilisez PEFT ou le paramétrage complet pour CPT/SFT/DPO/GRPO sur plus de 600 LLM et 300 MLLM (AAAI 2025).

BISHENG est une plateforme DevOps LLM open source pour les applications d'IA d'entreprise de nouvelle génération. Ses fonctionnalités puissantes et complètes incluent : flux de travail GenAI, RAG, Agent, gestion unifiée des modèles, évaluation, SFT, gestion des jeux de données, gestion système au niveau entreprise, observabilité, et plus encore.

Fine-tunez, évaluez et déployez facilement Qwen, Gemma ou tout LLM à poids ouverts !

https://adongwanai.github.io/AgentGuide | Guide de développement d'agents IA | Pratique LangGraph | RAG avancé | Reconversion vers les grands modèles | Entretiens sur les grands modèles | Ingénieur algorithme | Banque de questions d'entretien | Apprentissage par renforcement | Synthèse de données

Fine-tuning de LLM à partir d'un seul fichier YAML. Le streaming de couches permet d'entraîner un modèle 8B sur un GPU d'ordinateur portable de 4 Go.

Un programme open-source pratique pour faire le pont entre les concepts de base de l'apprentissage par renforcement (RL) et l'alignement des LLM, RLVR et les systèmes d'agents avancés.

Un LLM Jax simple, performant et évolutif.

Fine-tuning de chatglm 6b et fine-tuning d'alpaca.

Cours systématique sur la construction de grands modèles de langage (LLM) couvrant l'ingénierie des données de pré-entraînement, Tokenizer, Transformer, MoE, programmation GPU (CUDA/Triton), entraînement distribué, lois d'échelle, optimisation de l'inférence et alignement (SFT/RLHF/GRPO), avec 6 exercices progressifs axés sur le code.

GraphGen : Amélioration du fine-tuning supervisé pour les LLM grâce à la génération de données synthétiques basées sur les connaissances

Entraînement et réglage fin à la vitesse de la lumière

Une solution open source pour le réglage fin (fine-tuning) complet des paramètres de DeepSeek-V3/R1 671B, incluant le code et les scripts complets de l'entraînement à l'inférence, ainsi que des retours d'expérience et conclusions pratiques.

Code et jeux de données pour « Character-LLM: A Trainable Agent for Role-Playing »

Dépôt NLP de Deep Learning résumant les tâches en aval, du prétraitement du texte aux modèles les plus récents comme Topic Models, BERT, GPT et LLM en utilisant TensorFlow.

A high-performance framework for training LLMs, VLMs, diffusion, and embodied models on NVIDIA GPUs and Kunlun XPUs.