qlora

統一高效微調 100 多種 LLM 與 VLM（ACL 2024）

AirLLM 70B 推理可在單張 4GB GPU 上執行

透過 k 位元量化在 PyTorch 中存取大型語言模型

Firefly：大模型訓練工具，支援訓練 Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya2、Vicuna、Bloom 等大模型。

透過單一 YAML 微調 LLM。層串流訓練可在 4 GB 筆電 GPU 上執行 8B 模型。

chatglm 6b 微調與 alpaca 微調

用於微調、消融與單元測試開源 LLM 的工具組。

評估 Hugging Face 模型是否能在您的本地 GPU 上運行並進行微調。

🐋MindChat（漫談）：漫談人生路，笑對風霜途

基於 LLM 模型的端到端生成式 AI 行業專案與部署_Awesome LLM Projects

簡單且高效的 LLM 微調工具（支援 LLaMA、LLaMA2、LLaMA3、Qwen、Baichuan、GLM、Falcon），大模型高效量化訓練與部署。