roberta

「LoRA: Low-Rank Adaptation of Large Language Models」の実装である loralib のコード。

Chinese BERTのためのWhole Word Maskingによる事前学習（中文BERT-wwmシリーズモデル）

BertViz: TransformerモデルにおけるAttentionの可視化

優れた事前学習済み中国語NLPモデル。高品質な中文事前学習モデル、大規模モデル、マルチモーダルモデル、大規模言語モデルの集合。

中文言語理解評価ベンチマーク (Chinese Language Understanding Evaluation Benchmark): データセット、ベースライン、事前学習モデル、コーパス、リーダーボード

PyTorchベースのオープンソース事前学習モデルフレームワークおよびモデルのコレクション

Rust 製のすぐに使える NLP パイプラインおよび Transformer ベースのモデル（BERT、DistilBERT、GPT2 など）

RoBERTa中国語事前学習モデル: RoBERTa for Chinese

news-please - そのまま動く、ニュース向けの統合Webクローラーおよび情報抽出ツール

CPU および GPU 上で動作する、Transformer 推論（Bert、Albert、GPT2、Decoder など）向けの高速で使いやすいランタイム。

PyTorch における Tencent の事前学習フレームワークおよび事前学習済みモデルのコレクション

中国語100Gの大規模事前学習コーパス

論文「GECToR – Grammatical Error Correction: Tag, Not Rewrite」(BEA-20) および「Text Simplification by Tagging」(BEA-21) の公式実装

🤖 厳選された Transformer モデルとその組み合わせ可能なコンポーネントを提供する PyTorch ライブラリ

PhoBERT：ベトナム語向けの事前学習済み言語モデル（EMNLP-2020 Findings）。

BERTweet：英語のツイート向け事前学習済み言語モデル（EMNLP-2020）

韓国語NLUベンチマーク

動的テキスト分類のための柔軟で適応性のある分類システム

Happy Transformer を使用すると、NLP Transformer モデルのファインチューニングと推論が簡単に行えます。