transformer

Safe RLHF：透過來自人類回饋的安全強化學習進行受約束的價值對齊

PaddleSlim 是一個用於深度模型壓縮與架構搜尋的開源函式庫。

統一的半監督式學習程式碼庫 (NeurIPS'22)

小模型，大邏輯：多元驅動最佳化在 VibeThinker-1.5B 中引發大模型推理能力

用於 CPU 與 GPU 上 transformer 推論（Bert、Albert、GPT2、Decoders 等）的快速且使用者友善的執行環境。

[ICLR'23 Spotlight & ECCV'24 & IJCV'24] MapTR：用於線上向量化高精地圖建構的結構化建模與學習

"Retinexformer: 基於單階段 Retinex 的低光影像增強 Transformer" (ICCV 2023 引用數前十名 🏆) & (NTIRE 2024 亞軍 🏆) & (NTIRE 2025 冠軍 🏆) & (NTIRE 2026 冠軍 🏆)

近期基於 Transformer 的 CV 論文列表。

一組筆記本與其他檔案，可協助你從頭學習 AI。

此儲存庫是手寫生成中分離書寫者與字元風格（CVPR 2023）的官方實作

免費離線 OCR，離線的中文文本檢測與識別 SDK

[TPAMI'23] 統一光流、立體視覺與深度估計

Parallax 是一個分散式模型服務框架，讓您隨處建構自己的 AI 叢集

PoolFormer: MetaFormer 其實才是電腦視覺真正需要的 (CVPR 2022 Oral)

基於 Qwen-3 與 Stable Diffusion 系列的 DeepSeek Engram 架構研究。

Attention is all you need 實作

Transformers4Rec 是一個靈活且高效的序列與基於會話的推薦函式庫，可與 PyTorch 搭配使用。

🎓 系統性大語言模型建構課程｜🛠️ 涵蓋預訓練資料工程、Tokenizer、Transformer、MoE、GPU 編程 (CUDA/Triton)、分散式訓練、Scaling Laws、推理最佳化及對齊 (SFT/RLHF/GRPO)｜🚀 6 個漸進式作業 + 程式碼驅動，建立 LLM 全端認知體系

用於執行情境化主題建模的 python 套件。CTM 將情境化嵌入（例如 BERT）與主題模型結合以獲得連貫的主題。發表於 EACL 與 ACL 2021 (Bianchi 等人)。

袖珍型多模態 AI，用於跨多語言文字、圖片和影片的內容理解與生成，速度比 OpenAI CLIP 和 LLaVA 快達 5 倍

匯聚全球優秀的人工智慧（AI）開源專案。

專注於基於 PyTorch 的神經機器翻譯的 Sequence-to-sequence 框架

💁 自然語言處理 Transformers 模型精選寶庫，包含論文、影片、部落格、官方儲存庫以及 Colab 筆記本。 🛫☑️

基於 TensorFlow 的 EEG 任務（訊號）分類深度學習函式庫。

[NeurIPS 2020] 論文「DeepSVG: A Hierarchical Generative Network for Vector Graphics Animation」官方程式碼。包含用於 SVG 資料深度學習的 PyTorch 函式庫。

精選的 NLP 資源清單，聚焦於 Transformer 網路、注意力機制、GPT、BERT、ChatGPT、LLMs 與遷移學習。

OpenSTL：時空預測學習的綜合基準測試

使用 transformers 進行神經問題生成

[非官方] 「Conformer: Convolution-augmented Transformer for Speech Recognition」(INTERSPEECH 2020) 的 PyTorch 實作

SwissArmyTemplates 是一個靈活且強大的函式庫，可用於開發您自己的 Transformer 變體。