charent

Pequeño modelo de diálogo en chino de 0.2B (ChatLM-Chinese-0.2B), con código fuente abierto para todos los procesos, incluidas fuentes de conjuntos de datos, limpieza de datos, entrenamiento de tokenizadores, preentrenamiento de modelos, ajuste de instrucciones SFT y optimización RLHF. Es compatible con el ajuste fino SFT para tareas posteriores y proporciona ejemplos de ajuste para la extracción de información de tripletes.

Phi2-Chinese-0.2B: entrena tu propio modelo pequeño Phi2 en chino desde cero, con soporte para integrar LangChain y cargar bases de conocimiento locales para RAG.