sft

Sử dụng PEFT hoặc Full-parameter cho CPT/SFT/DPO/GRPO hơn 600 LLM (Qwen3.6, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) và hơn 300 MLLM (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM4.5v, Gemma4, Llava, Phi4, ...) (AAAI 2025).

BISHENG là một nền tảng DevOps LLM mở dành cho các ứng dụng AI Doanh nghiệp thế hệ tiếp theo. Các tính năng mạnh mẽ và toàn diện bao gồm: Quy trình làm việc GenAI, RAG, Agent, Quản lý mô hình thống nhất, Đánh giá, SFT, Quản lý tập dữ liệu, Quản lý hệ thống cấp doanh nghiệp, Khả năng quan sát và hơn thế nữa.

Dễ dàng tinh chỉnh, đánh giá và triển khai Qwen, Gemma hoặc bất kỳ LLM trọng số mở nào!

https://adongwanai.github.io/AgentGuide | Hướng dẫn phát triển AI Agent | Thực chiến LangGraph | RAG nâng cao | Chuyển ngành LLM | Phỏng vấn LLM | Kỹ sư thuật toán | Ngân hàng câu hỏi phỏng vấn | Học tăng cường | Tổng hợp dữ liệu

Tinh chỉnh LLMs chỉ từ một YAML. Layer streaming đào tạo mô hình 8B trên GPU laptop 4 GB.

🚀 Chương trình giảng dạy thực hành mã nguồn mở thu hẹp khoảng cách từ các khái niệm RL cơ bản đến căn chỉnh LLM, RLVR và các hệ thống Agentic nâng cao.

Một Jax LLM đơn giản, hiệu năng cao và có thể mở rộng!

Tinh chỉnh (finetuning) chatglm 6b và alpaca

🎓 Khóa học xây dựng Large Language Model có hệ thống ｜🛠️ Bao gồm kỹ thuật dữ liệu tiền huấn luyện, Tokenizer, Transformer, MoE, lập trình GPU (CUDA/Triton), huấn luyện phân tán, Scaling Laws, tối ưu hóa suy luận và căn chỉnh (SFT/RLHF/GRPO) ｜🚀 6 bài tập lũy tiến + hướng dẫn bằng mã nguồn, xây dựng hệ thống nhận thức toàn diện về LLM

GraphGen: Nâng cao quá trình tinh chỉnh có giám sát cho LLM với việc tạo dữ liệu tổng hợp dựa trên tri thức

Huấn luyện/Tinh chỉnh với tốc độ ánh sáng

Giải pháp mã nguồn mở cho việc tinh chỉnh toàn bộ tham số (full parameter fine-tuning) của DeepSeek-V3/R1 671B, bao gồm mã nguồn và tập lệnh hoàn chỉnh từ huấn luyện đến suy luận, cùng với một số kinh nghiệm và kết luận thực tế.

Mã nguồn và tập dữ liệu cho "Character-LLM: A Trainable Agent for Role-Playing"

Kho lưu trữ Deep Learning NLP sử dụng tensorflow, tổng hợp từ tiền xử lý văn bản đến các tác vụ hạ nguồn của các mô hình hiện đại như Topic Models, BERT, GPT và LLM.

A high-performance framework for training LLMs, VLMs, diffusion, and embodied models on NVIDIA GPUs and Kunlun XPUs.