lora

Tinh chỉnh hiệu quả thống nhất cho hơn 100 LLM & VLM (ACL 2024)

🧑‍🏫 Hơn 60 bản cài đặt/hướng dẫn các bài báo về deep learning kèm ghi chú chi tiết 📝; bao gồm transformer (gốc, xl, switch, feedback, vit, ...), trình tối ưu hóa (adam, adabelief, sophia, ...), gan (cyclegan, stylegan2, ...), 🎮 học tăng cường (ppo, dqn), capsnet, chưng cất, ... 🧠

Suy luận AirLLM 70B với một GPU 4GB duy nhất

Hướng dẫn sử dụng LLM mã nguồn mở, được thiết kế riêng cho môi trường Linux để tinh chỉnh nhanh (toàn tham số/LoRA) và triển khai các mô hình ngôn ngữ lớn (LLM) / mô hình đa phương thức lớn (MLLM) trong và ngoài nước.

🤗 PEFT: Tinh chỉnh hiệu quả về tham số tiên tiến nhất.

Mô hình ngôn ngữ lớn Chinese LLaMA & Alpaca + huấn luyện và triển khai cục bộ trên CPU/GPU (Chinese LLaMA & Alpaca LLMs)

stable diffusion webui colab

Sử dụng PEFT hoặc Full-parameter cho CPT/SFT/DPO/GRPO hơn 600 LLM (Qwen3.6, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) và hơn 300 MLLM (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM4.5v, Gemma4, Llava, Phi4, ...) (AAAI 2025).

Mã nguồn cho loralib, một bản cài đặt của "LoRA: Low-Rank Adaptation of Large Language Models"

Agent Reinforcement Trainer: huấn luyện các agent nhiều bước cho các tác vụ thực tế bằng GRPO. Cung cấp đào tạo tại chỗ cho các agent của bạn. Học tăng cường (Reinforcement learning) cho Qwen3.6, GPT-OSS, Llama và nhiều mô hình khác!

BELLE: Công cụ mô hình ngôn ngữ lớn của mọi người (Mô hình hội thoại tiếng Trung mã nguồn mở)

Firmware chính thức cho Meshtastic, một hệ thống truyền thông mesh ngoài vùng phủ sóng, mã nguồn mở.

Sử dụng Low-rank adaptation để nhanh chóng fine-tune các diffusion model.

Stack mạng dựa trên mật mã học dùng để xây dựng mạng không thể ngăn cản với LoRa, Packet Radio, WiFi và mọi thứ ở giữa.

Firefly: Công cụ huấn luyện LLM, hỗ trợ huấn luyện Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llama2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom và nhiều mô hình lớn khác

Các tập lệnh và giao diện huấn luyện LoRA & Dreambooth sử dụng bộ huấn luyện của kohya-ss dành cho mô hình diffusion.

Liên kết điều khiển vô tuyến mã nguồn mở hiệu suất cao

Môi trường nghiên cứu mã nguồn mở dành cho các nhà nghiên cứu AI để đào tạo, đánh giá và mở rộng quy mô mô hình một cách liền mạch từ phần cứng cục bộ đến cụm GPU.

Tinh chỉnh LLMs chỉ từ một YAML. Layer streaming đào tạo mô hình 8B trên GPU laptop 4 GB.

Cổng MQTT cho ESP8266 hoặc ESP32 với khả năng tương thích giao tiếp hồng ngoại, BLE, Bluetooth, phát hiện beacon, mi flora, mi jia, LYWSD02, LYWSD03MMC, Mi Scale, TPMS, nhiệt kế BBQ & LoRa 433mhz/315mhz/868mhz hai chiều.

[ICLR2025 Spotlight] SVDQuant: Hấp thụ các giá trị ngoại lai bằng các thành phần hạng thấp cho các mô hình Diffusion 4-bit

Máy chủ suy luận Multi-LoRA mở rộng quy mô đến hàng nghìn LLM được tinh chỉnh

🦞 Chỉ cần trò chuyện với agent của bạn — nó sẽ tự học hỏi và TIẾN HÓA 🧬.

Tạo, tạo hoạt ảnh và lên lịch cho các nhân vật AI của bạn 🤖

OneTrainer là giải pháp một cửa cho mọi nhu cầu huấn luyện Diffusion của bạn.

Tinh chỉnh LLM với peft

Một thư viện thống nhất dành cho Transfer Learning dạng mô-đun và tối ưu hóa tham số

PJON (Padded Jittering Operative Network) là một giao thức mạng đa chủ, đa phương tiện, tương thích với arduino và mang tính thử nghiệm.

Mã nguồn và tài liệu của LongLoRA và LongAlpaca (ICLR 2024 Oral)

Xây dựng, cá nhân hóa và điều khiển LLM của riêng bạn. Từ tiền xử lý dữ liệu đến tinh chỉnh, xTuring cung cấp cách dễ dàng để cá nhân hóa các LLM mã nguồn mở. Tham gia cộng đồng discord của chúng tôi: https://discord.gg/TgHXuSJEk6