peft

統一高效微調 100 多種 LLM 與 VLM（ACL 2024）

🤗 PEFT：最先進的參數高效微調。

使用 PEFT 或 Full-parameter 於 600+ LLM（Qwen3.6、DeepSeek-V4、GLM-5.1、InternLM3、Llama4、...）與 300+ MLLM（Qwen3-VL、Qwen3-Omni、InternVL3.5、Ovis2.5、GLM4.5v、Gemma4、Llava、Phi4、...）進行 CPT/SFT/DPO/GRPO（AAAI 2025）

Firefly：大模型訓練工具，支援訓練 Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya2、Vicuna、Bloom 等大模型。

透過單一 YAML 微調 LLM。層串流訓練可在 4 GB 筆電 GPU 上執行 8B 模型。

手把手带你实战 Huggingface Transformers 课程视频同步更新在 B 站与 YouTube

使用 peft 進行 LLM 微調

建立、個人化並控制您自己的 LLM。從資料前處理到微調，xTuring 提供了一種簡單的方法來個人化開源 LLM。加入我們的 discord 社群：https://discord.gg/TgHXuSJEk6

在配備 Apple Silicon 的 Mac 上微調 LLMs。支援 SFT、DPO、GRPO、Vision、TTS、STT、Embedding 與 OCR 微調 —— 基於 MLX 原生實現。相容 Unsloth API。

基於 Qwen-3 與 Stable Diffusion 系列的 DeepSeek Engram 架構研究。

支援硬體加速的 LLM 模型量化（壓縮）工具包，可透過 HF、vLLM 及 SGLang 為 Nvidia、AMD、Intel GPU 以及 Intel/AMD/Apple CPU 提供加速支援。

結合大型語言模型的語音、語言、音訊、音樂處理框架

我的著作《A Hands-On Guide to Fine-Tuning LLMs with PyTorch and Hugging Face》官方儲存庫

評估 Hugging Face 模型是否能在您的本地 GPU 上運行並進行微調。