qiufengqijun

Este é um projeto para treinar um Large Language Model do zero, incluindo pré-treinamento, ajuste fino e otimização direta de preferência, com um modelo de 1B de parâmetros que suporta chinês e inglês.