charent

Mô hình ngôn ngữ hội thoại tiếng Trung nhỏ 0.2B (ChatLM-Chinese-0.2B), mã nguồn mở cho toàn bộ quy trình bao gồm nguồn dữ liệu, làm sạch dữ liệu, huấn luyện tokenizer, tiền huấn luyện mô hình, tinh chỉnh lệnh SFT, tối ưu hóa RLHF, v.v. Hỗ trợ tinh chỉnh sft cho các tác vụ hạ nguồn, cung cấp ví dụ tinh chỉnh trích xuất thông tin bộ ba.

Phi2-Chinese-0.2B Huấn luyện mô hình nhỏ Phi2 tiếng Trung từ đầu, hỗ trợ tích hợp langchain để tải cơ sở tri thức cục bộ cho RAG. Huấn luyện mô hình chat nhỏ Phi2 của riêng bạn từ đầu.