peft

Fine-tuning efficace et unifié de plus de 100 LLM et VLM (ACL 2024).

🤗 PEFT : Fine-tuning efficace en paramètres à la pointe de la technologie.

Utilisez PEFT ou le paramétrage complet pour CPT/SFT/DPO/GRPO sur plus de 600 LLM et 300 MLLM (AAAI 2025).

Firefly : outil d'entraînement pour grands modèles de langage, prenant en charge Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llama2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom, et bien d'autres.

Fine-tuning de LLM à partir d'un seul fichier YAML. Le streaming de couches permet d'entraîner un modèle 8B sur un GPU d'ordinateur portable de 4 Go.

Cours pratique sur Huggingface Transformers avec mises à jour synchronisées sur Bilibili et YouTube

Fine-tuning de LLM avec peft

Construisez, personnalisez et contrôlez vos propres LLM. Du prétraitement des données au fine-tuning, xTuring offre un moyen simple de personnaliser des LLM open source.

Fine-tuning de LLM sur Mac avec Apple Silicon. Support natif MLX pour SFT, DPO, GRPO, Vision, TTS, STT, Embedding et OCR. API compatible avec Unsloth.

Recherche sur l'architecture DeepSeek Engram basée sur Qwen-3 et la série Stable Diffusion.

Boîte à outils de quantification (compression) de modèles LLM avec accélération matérielle pour GPU Nvidia, AMD, Intel et CPU Intel/AMD/Apple via HF, vLLM et SGLang.

Un framework pour le traitement de la parole, du langage, de l'audio et de la musique basé sur des modèles de langage de grande taille.

Dépôt officiel du livre "A Hands-On Guide to Fine-Tuning LLMs with PyTorch and Hugging Face".

Estimez si un modèle Hugging Face peut être chargé et affiné sur votre GPU local.