charent/ChatLM-mini-Chinese

日本語対話0.2B小規模モデル（ChatLM-Chinese-0.2B）。データセットのソース、データクリーニング、トークナイザーのトレーニング、モデルの事前学習、SFT命令微調整、RLHF最適化などのすべてのプロセスのコードをオープンソース化しています。下流タスクのSFT微調整をサポートし、三元情報抽出の微調整例を提供します。