qlora

100以上のLLMおよびVLMの統一的効率的なファインチューニング (ACL 2024)

単一の4GB GPUによるAirLLM 70B推論

PyTorch向けにk-bit量子化によるアクセシブルな大規模言語モデル。

Firefly: 大規模言語モデルのトレーニングツール。Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya2、Vicuna、Bloomなどの大規模モデルのトレーニングをサポートします。

1つのYAMLファイルからLLMをファインチューニング。レイヤーストリーミングにより、4 GBのラップトップGPUで8Bモデルを学習可能。

chatglm 6b と alpaca のファインチューニング

オープンソースLLMのファインチューニング、アブレーション、単体テストを行うためのツールキット。

Hugging Face モデルがローカルの GPU に収まり、ファインチューニング可能かを見積もります。

🐋MindChat（漫談）：人生の道を語り、風霜の旅を笑顔で乗り越える

LLMモデルを活用したエンドツーエンドの生成AI業界向けプロジェクトおよびデプロイ事例集

LLM の簡単かつ効率的なファインチューニング。（Llama、Llama2、Llama3、Qwen、Baichuan、GLM、Falcon をサポート）大模型高效量化训练+部署。