lora

100以上のLLMおよびVLMの統一的効率的なファインチューニング (ACL 2024)

🧑‍🏫 60以上のディープラーニング論文の実装/チュートリアルと、並行ノート 📝。トランスフォーマー（original, xl, switch, feedback, vit, ...）、オプティマイザ（adam, adabelief, sophia, ...）、GANs（cyclegan, stylegan2, ...）、🎮強化学習（ppo, dqn）、capsnet、蒸留（distillation, ...）など🧠

単一の4GB GPUによるAirLLM 70B推論

《オープンソース大規模モデル利用ガイド》 中国ユーザー向けに特化。Linux環境での高速ファインチューニング（全パラメータ/Lora）、国内外のオープンソースLLM/MLLMのデプロイチュートリアル。

🤗 PEFT: 最先端のParameter-Efficient Fine-Tuning。

中国語LLaMA & Alpaca大規模言語モデル + ローカルCPU/GPUでの学習・デプロイ (Chinese LLaMA & Alpaca LLMs)

stable diffusion webui colab

PEFTまたはFull-parameterを使用して、600以上のLLM (Qwen3.6, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) および300以上のMLLM (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM4.5v, Gemma4, Llava, Phi4, ...) に適用する (AAAI 2025)。

「LoRA: Low-Rank Adaptation of Large Language Models」の実装である loralib のコード。

Agent Reinforcement Trainer: GRPOを用いた実世界タスク向けマルチステップエージェントの訓練。エージェントに現場トレーニングを提供。Qwen3.6、GPT-OSS、Llamaなどに対応した強化学習！

BELLE: Be Everyone's Large Language model Engine（オープンソースの中国語対話大規模言語モデル）

オープンソースのオフグリッドメッシュ通信システムであるMeshtasticの公式ファームウェア。

Low-rank adaptation を使用して拡散モデルを迅速にファインチューニングする。

LoRa、Packet Radio、WiFi、その他すべてを組み合わせることで、止められないネットワークを構築するための暗号化ベースのネットワーキングスタック。

Firefly: 大規模言語モデルのトレーニングツール。Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya2、Vicuna、Bloomなどの大規模モデルのトレーニングをサポートします。

SD-Trainer. LoRAおよびDreamboothのトレーニングスクリプトとGUI。拡散モデル向けにkohya-ssのトレーナーを使用。

高性能なオープンソース無線制御リンク

AI研究者がローカルハードウェアからGPUクラスターまで、モデルをシームレスにトレーニング、評価、スケーリングするためのオープンソース研究環境。

ESP8266またはESP32向けのMQTTゲートウェイ。双方向433mhz/315mhz/868mhz、赤外線通信、BLE、Bluetooth、ビーコン検出、mi flora、mi jia、LYWSD02、LYWSD03MMC、Mi Scale、TPMS、BBQ温度計互換性、およびLoRa対応。

[ICLR2025 Spotlight] SVDQuant: 4ビット拡散モデルのための低ランク成分による外れ値吸収

数千のファインチューニングされたLLMに対応するマルチLoRA推論サーバー。

1つのYAMLファイルからLLMをファインチューニング。レイヤーストリーミングにより、4 GBのラップトップGPUで8Bモデルを学習可能。

🦞 エージェントに話しかけるだけで、学習して進化します 🧬

AI キャラクターの生成、アニメーション化、スケジュール管理 🤖

OneTrainerは、Diffusionのトレーニングニーズに対応するワンストップソリューションです。

peftを使用したLLMのファインチューニング

パラメータ効率的かつモジュール式な転移学習のための統合ライブラリ

PJON (Padded Jittering Operative Network) は、Arduino 互換の実験的なマルチマスター・マルチメディアネットワークプロトコルです。

LongLoRA および LongAlpaca のコードとドキュメント (ICLR 2024 Oral)

独自の LLM の構築、パーソナライズ、制御。データの前処理からファインチューニングまで、xTuring はオープンソース LLM をパーソナライズする簡単な方法を提供します。Discord コミュニティに参加してください: https://discord.gg/TgHXuSJEk6