ymcui

Modèles de langage chinois LLaMA & Alpaca avec entraînement et déploiement local sur CPU/GPU.

Pré-entraînement avec masquage de mots entiers (Whole Word Masking) pour le BERT chinois (série de modèles BERT-wwm).

Projet de phase 2 pour les grands modèles LLaMA-2 et Alpaca-2 en chinois, incluant des modèles avec un contexte étendu de 64K.

Projet de modèles LLM Chinese Llama-3, développé à partir de Meta Llama 3.

Modèle XLNet chinois pré-entraîné.

Modèle ELECTRA pré-entraîné pour le chinois.

Réexamen des modèles pré-entraînés pour le traitement automatique du langage naturel en chinois (MacBERT)

Grands modèles de mélange d'experts Mixtral en chinois (Chinese Mixtral MoE LLMs)