peft

统一高效微调 100 多种 LLM 与 VLM（ACL 2024）

🤗 PEFT：最先进的参数高效微调。

使用 PEFT 或 Full-parameter 对 600+ LLM（Qwen3.6、DeepSeek-V4、GLM-5.1、InternLM3、Llama4、...）和 300+ MLLM（Qwen3-VL、Qwen3-Omni、InternVL3.5、Ovis2.5、GLM4.5v、Gemma4、Llava、Phi4、...）进行 CPT/SFT/DPO/GRPO（AAAI 2025）

Firefly：大模型训练工具，支持训练 Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya2、Vicuna、Bloom 等大模型。

通过单个 YAML 微调 LLM。层流训练可在 4 GB 笔记本 GPU 上运行 8B 模型。

手把手带你实战 Huggingface Transformers 课程视频同步更新在 B 站与 YouTube

使用 peft 进行 LLM 微调

构建、个性化并控制您自己的 LLM。从数据预处理到微调，xTuring 提供了一种简单的方法来个性化开源 LLM。加入我们的 discord 社区：https://discord.gg/TgHXuSJEk6

在配备 Apple Silicon 的 Mac 上微调 LLMs。支持 SFT、DPO、GRPO、Vision、TTS、STT、Embedding 与 OCR 微调 —— 基于 MLX 原生实现。兼容 Unsloth API。

基于 Qwen-3 与 Stable Diffusion 系列的 DeepSeek Engram 架构研究。

支持硬件加速的 LLM 模型量化（压缩）工具包，可通过 HF、vLLM 及 SGLang 为 Nvidia、AMD、Intel GPU 以及 Intel/AMD/Apple CPU 提供加速支持。

结合大型语言模型的语音、语言、音频、音乐处理框架

我的著作《A Hands-On Guide to Fine-Tuning LLMs with PyTorch and Hugging Face》官方仓库

评估 Hugging Face 模型是否能在您的本地 GPU 上运行并进行微调。