transformers

論文「MiniGPT-5: Interleaved Vision-and-Language Generation via Generative Vokens」の公式実装。

PyTorchを用いた、Attentionを使用するSOTAメッシュ生成モデルMeshGPTの実装。

さまざまなNLPタスク向けにtransformersをファインチューニングするチュートリアルが含まれるGitHubリポジトリ

拙著『A Hands-On Guide to Fine-Tuning LLMs with PyTorch and Hugging Face』の公式リポジトリ

MOMENT：時系列基礎モデルファミリー、ICML'24

🤖✨ChatMLX は、大規模言語モデルをベースにした、macOS 向けのモダンでオープンソース、かつ高性能なチャットアプリケーションです。

純粋なJavaによるLlama 3以降の推論

NMA ディープラーニングコース

PhoBERT：ベトナム語向けの事前学習済み言語モデル（EMNLP-2020 Findings）。

Pytorch での対比学習によるモデルのトレーニング

Hugging Face モデルがローカルの GPU に収まり、ファインチューニング可能かを見積もります。

Mask GIT を使用して最長 2 分間のテキスト誘導型動画を生成する Phenaki Video の PyTorch による実装

GPT 内の事実関係の特定と編集 (NeurIPS 2022)

大規模コンテキストアテンション

Transformers PHP は、PHP 開発者がプロジェクトに機械学習の機能を簡単に追加できるようにするツールキットです。

RepE 制御ベクトルを作成するためのライブラリ

JointBERT（「BERT for Joint Intent Classification and Slot Filling」）の Pytorch 実装

CVPR 2024 の最もエキサイティングで影響力のある論文を厳選したコレクション。🔥 [論文 + コード + デモ]

再学習を行わず、定数メモリ使用量で既存の LLM を元のトレーニング長をはるかに超えて拡張する

LLM-PowerHouse: カスタムトレーニングと推論のための厳選されたチュートリアル、ベストプラクティス、すぐに使えるコードを通じて、LLMの可能性を最大限に引き出す

言語モデリングのためにKolmogorov-Arnold Networks（KANs）を使用した、Generative Pre-trained Transformers（GPTs）のPyTorch実装

中国語自然言語処理のための事前学習済みモデルの再検討（MacBERT）

純粋なRust製の推論エンジン

PyTorchによるMagViT2トークナイザーの実装

感情分析およびソーシャルNLPタスク向けの多言語Pythonツールキット

PyTorchによる「MEGABYTE: Predicting Million-byte Sequences with Multiscale Transformers」の実装

このリポジトリは、最もエキサイティングで影響力のある CVPR 2023 の論文を厳選したコレクションです。🔥 [論文 + コード]

Python によるテキスト分類のためのアクティブラーニング

「Neural Thickets: Diverse Task Experts Are Dense Around Pretrained Weights」(ICML 2026 Spotlight)の公式コードベース

韓国語向けの事前学習済み ELECTRA モデル