gpt-2

RWKV（發音為 RwaKuv）是一種具備卓越大型語言模型效能的 RNN，也可像 GPT 變換器那樣直接訓練（可平行化）。我們已達到 RWKV-7「Goose」階段。它結合了 RNN 與變換器的優勢——卓越效能、線性時間、恆定空間（無 kv-cache）、快速訓練、無限上下文長度，以及免費的句子嵌入。

LoRA：大型語言模型低秩適應的實作 loralib 程式碼

此倉庫包含我使用 HuggingFace 的 Transformers 庫製作的示例。

[NeurIPS 2024 最佳論文獎][GPT 打敗 diffusion🔥] [視覺生成的 scaling laws📈] 官方實作「Visual Autoregressive Modeling: Scalable Image Generation via Next-Scale Prediction」——一個*超簡單、使用者友好且達到最先進水平*的自回歸影像生成程式碼庫

使用 BERT 分詞器的 GPT2 訓練程式中文版本

Awesome Pretrained Chinese NLP Models，高品質中文預訓練模型、 大模型、多模態模型與大語言模型集合。

基於 PyTorch 的開源預訓練模型框架與預訓練模型庫

Rust 原生即用 NLP 管道與基於 transformer 的模型（BERT、DistilBERT、GPT2 等）。

建立、個人化並控制您自己的 LLM。從資料前處理到微調，xTuring 提供了一種簡單的方法來個人化開源 LLM。加入我們的 discord 社群：https://discord.gg/TgHXuSJEk6

使用 TensorFlow 的機器學習、自然語言處理與文字生成工具包。這是 CASL 專案的一部分：http://casl-project.ai/

Kashgari 是一個建構在 tf.keras 之上的生產級 NLP 遷移學習框架，用於文字標記與文字分類，包含 Word2Vec、BERT 與 GPT2 語言嵌入。

使用 GGML 函式庫在 iOS 與 macOS 上離線執行 llama 等大型語言模型

原始碼預訓練大型語言模型使用指南

[CVPR 2025 Oral] Infinity ∞：為高解析度影像合成擴展位元wise自動迴歸建模。

Tabnine 的 Visual Studio Code 用戶端。https://marketplace.visualstudio.com/items?itemName=TabNine.tabnine-vscode

🛸 在 spaCy 中使用預先訓練的 transformer，如 BERT、XLNet 和 GPT-2

本系列將帶領您從 NLP 與 Computer Vision 的基礎，一路探索至 Vision-Language Models 的尖端技術。

精選的 NLP 資源清單，聚焦於 Transformer 網路、注意力機制、GPT、BERT、ChatGPT、LLMs 與遷移學習。

基於 PyTorch 的 Tencent 預訓練框架與預訓練模型庫

這個單字不存在

適用於 OpenAI GPT 模型（gpt-5、gpt-o*、gpt-4o 等）的最快 JavaScript BPE Tokenizer 編碼解碼器。移植自 OpenAI 的 tiktoken 並附加額外功能。

在 huggingface transformer 的任何生成模型（blommz-176B/bloom/gpt/bart/T5/MetaICL）上實作 ChatGPT RLHF（人類回饋強化學習）。