qlora

统一高效微调 100 多种 LLM 与 VLM（ACL 2024）

AirLLM 70B 推理可在单张 4GB GPU 上执行

通过 k 位量化在 PyTorch 中访问大型语言模型

Firefly：大模型训练工具，支持训练 Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya2、Vicuna、Bloom 等大模型。

通过单个 YAML 微调 LLM。层流训练可在 4 GB 笔记本 GPU 上运行 8B 模型。

chatglm 6b 微调与 alpaca 微调

用于微调、消融与单元测试开源 LLM 的工具组。

评估 Hugging Face 模型是否能在您的本地 GPU 上运行并进行微调。

🐋MindChat（漫谈）：漫谈人生路，笑对风霜途

基于 LLM 模型的端到端生成式 AI 行业项目与部署_Awesome LLM Projects

简单且高效的 LLM 微调工具（支持 LLaMA、LLaMA2、LLaMA3、Qwen、Baichuan、GLM、Falcon），大模型高效量化训练与部署。