charent

Petit modèle de dialogue chinois 0.2B (ChatLM-Chinese-0.2B), incluant le code source complet pour les sources de données, le nettoyage, l'entraînement du tokenizer, le pré-entraînement, le fine-tuning SFT et l'optimisation RLHF. Prend en charge le fine-tuning SFT pour les tâches en aval avec des exemples d'extraction de triplets.

Phi2-Chinese-0.2B Entraînez votre propre petit modèle de discussion chinois Phi2 à partir de zéro, prend en charge la connexion à langchain pour charger une base de connaissances locale pour la génération augmentée par récupération (RAG). Entraînez votre propre petit modèle de discussion Phi2 à partir de zéro.