bert

Kashgari は tf.keras をベースに構築された本番環境向けの NLP 転移学習フレームワークです。テキストラベリングとテキスト分類をサポートし、Word2Vec、BERT、GPT2 の言語埋め込みを含みます。

情報検索（IR）のための異種混合ベンチマーク。使いやすく、15以上の多様なIRデータセットでモデルを評価可能

自然言語理解のためのマルチタスク深層ニューラルネットワーク

EasyNLP：包括的で使いやすい NLP ツールキット。

AlibabaのMinD（Machine IntelligeNce of Damo）ラボによるエンコーダ・デコーダのコレクション

[CVPR 2021] Transformerベースのネットワークによる分類を視覚化する新しい手法「Transformer Interpretability Beyond Attention Visualization」の公式PyTorch実装

BERTベースのNLPモデルのための非常に簡単なライブラリ

Transformersライブラリクイックスタートチュートリアル

Go 言語で書かれた、スタンドアロンな機械学習および自然言語処理ライブラリ

中国語長文・短文分類、マルチラベル分類、文間類似度判定、埋め込み層およびネットワーク層の構築用基底クラス、FastText、TextCNN、CharCNN、TextRNN、RCNN、DCNN、DPCNN、VDCNN、CRNN、Bert、Xlnet、Albert、Attention、DeepMoji、HAN、CapsuleNet、Transformer-encode、Seq2seq、SWEM、LEAM、TextGCN

自然言語処理、ナレッジグラフ、対話システム、大規模言語モデルなどの技術研究と応用。

アーキテクチャの変更とスケーリングの両方を通じて、BERT を現代的に刷新する

PaddleSlim は、ディープモデルの圧縮とアーキテクチャ探索のためのオープンソースライブラリです。

CPU および GPU 上で動作する、Transformer 推論（Bert、Albert、GPT2、Decoder など）向けの高速で使いやすいランタイム。

事前学習済み中国語 ELECTRA モデル（中文ELECTRA预训练模型）

韓国語 BERT 事前学習済みモデル（ケースあり、KoBERT）

🛸 spaCyでBERT、XLNet、GPT-2などの事前学習済みtransformerを使用する

[ICLR'23 Spotlight🔥] 任意の畳み込みネットワークにおける初のBERT/MAEスタイル事前学習の成功例。「Designing BERT for Convolutional Networks: Sparse and Hierarchical Masked Modeling」のPyTorch実装

⭕ N2O: 分散型 WebSocket アプリケーションサーバー ISO 20922

自然言語処理分野の関連論文（読書ノート付き）、モデルの再現、データ処理など（TensorFlowとPyTorchの両方のバージョンのコードを含む）

エレガントな Transformers の PyTorch 実装

Jigsawの有害コメント検出コンペティションの全3回において、有害コメントを予測するための学習済みモデルとコード。⚡ Pytorch Lightningと🤗 Transformersを使用して構築されています。APIへのアクセスについては、contact@unitary.aiまでメールでお問い合わせください。

Transformers4Recは、シーケンシャルおよびセッションベースの推薦のための柔軟で効率的なライブラリであり、PyTorchと連携して動作します

コンテキスト化されたトピックモデリングを実行するための Python パッケージ。CTM は、コンテキスト化された埋め込み（BERT など）とトピックモデルを組み合わせて一貫性のあるトピックを抽出します。EACL および ACL 2021 にて発表（Bianchi et al.）

多言語のテキスト、画像、動画を対象としたコンテンツ理解と生成のためのポケットサイズマルチモーダルAI。OpenAI CLIPやLLaVAと比較して最大5倍高速

BERT と VITS に基づくベストプラクティスの TTS で、Microsoft の自然音声機能の一部を備えています。ONNX ストリーミング出力をサポート！

OpenVINO™ の推論を最適化するためのニューラルネットワーク圧縮フレームワーク

自然言語処理向けのTransformersモデルに関する優れたリソース集。論文、動画、ブログ、公式リポジトリ、Colabノートブックが含まれています。

Transformer ネットワーク、アテンションメカニズム、GPT、BERT、ChatGPT、LLM、転移学習に焦点を当てた NLP リソースのキュレーションリスト。

PyTorch における Tencent の事前学習フレームワークおよび事前学習済みモデルのコレクション