charent

Chinesisches Sprachmodell mit 0,2B Parametern (ChatLM-Chinese-0.2B). Der gesamte Quellcode für Datenquellen, Datenbereinigung, Tokenizer-Training, Modell-Pretraining, SFT-Instruction-Tuning und RLHF-Optimierung ist Open Source. Unterstützt SFT-Fine-Tuning für nachgelagerte Aufgaben und enthält ein Beispiel für das Tripel-Informations-Extraction-Fine-Tuning.

Phi2-Chinese-0.2B: Trainieren Sie Ihr eigenes kleineres chinesisches Phi2-Chat-Modell von Grund auf, inklusive Unterstützung für LangChain zum Laden lokaler Wissensdatenbanken für RAG (Retrieval-Augmented Generation).