peft

Ajuste fino eficiente e unificado de mais de 100 LLMs e VLMs (ACL 2024)

🤗 PEFT: Fine-Tuning eficiente em parâmetros de última geração.

Use PEFT ou Full-parameter para CPT/SFT/DPO/GRPO em mais de 600 LLMs (Qwen3.6, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) e mais de 300 MLLMs (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM4.5v, Gemma4, Llava, Phi4, ...) (AAAI 2025).

Firefly: Ferramenta de treinamento de grandes modelos, com suporte para Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llama2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom e outros.

Ajuste fino de LLMs a partir de um único YAML. O streaming de camadas treina um modelo de 8B em uma GPU de laptop de 4 GB.

Guia prático para o curso Huggingface Transformers, com atualizações síncronas no Bilibili e YouTube

Fine-tuning de LLM com peft

Construa, personalize e controle seus próprios LLMs. Do pré-processamento de dados ao fine-tuning, o xTuring oferece uma maneira fácil de personalizar LLMs de código aberto.

Faça o fine-tuning de LLMs no seu Mac com Apple Silicon. SFT, DPO, GRPO, Vision, TTS, STT, Embedding e fine-tuning de OCR — nativamente no MLX. API compatível com Unsloth.

Pesquisa sobre a arquitetura DeepSeek Engram baseada nas séries Qwen-3 e Stable Diffusion.

Kit de ferramentas de quantização (compressão) de modelos LLM com suporte a aceleração de hardware para GPUs Nvidia, AMD, Intel e CPUs Intel/AMD/Apple via HF, vLLM e SGLang.

Um framework para processamento de fala, linguagem, áudio e música com Large Language Model

Repositório oficial do meu livro "A Hands-On Guide to Fine-Tuning LLMs with PyTorch and Hugging Face"

Estime se um modelo Hugging Face cabe e pode ser ajustado (fine-tuned) na sua GPU local.