peft

Ajuste fino eficiente y unificado de más de 100 LLMs y VLMs (ACL 2024)

🤗 PEFT: Ajuste fino eficiente en parámetros de última generación.

Usa PEFT o parámetros completos para CPT/SFT/DPO/GRPO en más de 600 LLMs (Qwen3.6, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) y más de 300 MLLMs (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM4.5v, Gemma4, Llava, Phi4, ...) (AAAI 2025).

Firefly: Herramienta de entrenamiento de LLMs, compatible con el entrenamiento de Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llma2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom y otros modelos grandes

Ajusta LLMs desde un solo YAML. El streaming de capas entrena un modelo de 8B en una GPU de laptop de 4 GB.

Curso práctico paso a paso de Huggingface Transformers con videos actualizados en Bilibili y YouTube

Finetuning de LLM con PEFT

Construye, personaliza y controla tus propios LLM. Desde el preprocesamiento de datos hasta el ajuste fino (fine-tuning), xTuring proporciona una forma sencilla de personalizar LLM de código abierto. Únete a nuestra comunidad de Discord: https://discord.gg/TgHXuSJEk6

Ajuste fino de LLM en tu Mac con Apple Silicon. SFT, DPO, GRPO, Vision, TTS, STT, Embedding y ajuste fino de OCR, de forma nativa en MLX. API compatible con Unsloth.

Investigación sobre la arquitectura Engram de DeepSeek basada en Qwen-3 y la serie Stable Diffusion.

Kit de herramientas de cuantización (compresión) de modelos LLM con soporte de aceleración por hardware para GPU Nvidia, AMD, Intel y CPU Intel/AMD/Apple a través de HF, vLLM y SGLang.

Un framework para procesamiento de voz, lenguaje, audio y música con modelos de lenguaje grandes

Repositorio oficial de mi libro "Guía práctica para el ajuste fino de LLMs con PyTorch y Hugging Face"

Estima si un modelo de Hugging Face cabe y puede ajustarse en tu GPU local.