ymcui

中文 LLaMA 与 Alpaca 大语言模型 + 本地 CPU/GPU 训练部署

使用全词遮蔽进行中文 BERT 的预训练（中文 BERT-wwm 系列模型）

中文 LLaMA-2 与 Alpaca-2 大模型二期项目 + 64K 超长上下文模型

基于 Meta Llama 3 开发的中文羊驼大模型三期项目 (Chinese Llama-3 LLMs)

预训练中文 XLNet 模型

预训练中文 ELECTRA 模型

重新审视中文自然语言处理的预训练模型（MacBERT）。

中文 Mixtral 混合专家大模型（Chinese Mixtral MoE LLMs）