transformer

Safe RLHF：通过来自人类反馈的安全强化学习进行受约束的价值对齐

PaddleSlim 是一个用于深度模型压缩与架构搜索的开源库。

统一的半监督学习代码库 (NeurIPS'22)

小模型，大逻辑：多元驱动优化在 VibeThinker-1.5B 中引发大模型推理能力

用于 CPU 与 GPU 上 transformer 推理（Bert、Albert、GPT2、Decoders 等）的快速且使用者友善的执行环境。

[ICLR'23 Spotlight & ECCV'24 & IJCV'24] MapTR：用于在线向量化高精地图构建的结构化建模与学习

"Retinexformer: 基于单阶段 Retinex 的低光图像增强 Transformer" (ICCV 2023 引用数前十名 🏆) & (NTIRE 2024 亚军 🏆) & (NTIRE 2025 冠军 🏆) & (NTIRE 2026 冠军 🏆)

近期基于 Transformer 的 CV 论文列表。

一组笔记本和其他文件，可协助你从头学习 AI。

此存储库是手写生成中分离书写者与字符风格（CVPR 2023）的官方实现

免费离线 OCR，离线的中文文本检测与识别 SDK

[TPAMI'23] 统一光流、立体视觉与深度估计

Parallax 是一个分布式模型服务框架，让您随处构建自己的 AI 集群

PoolFormer: MetaFormer 其实才是视觉真正需要的 (CVPR 2022 Oral)

基于 Qwen-3 与 Stable Diffusion 系列的 DeepSeek Engram 架构研究。

Attention is all you need 实现

Transformers4Rec 是一个灵活且高效的序列与基于会话的推荐库，可与 PyTorch 搭配使用。

🎓 系统性大语言模型构建课程｜🛠️ 涵盖预训练数据工程、Tokenizer、Transformer、MoE、GPU 编程 (CUDA/Triton)、分布式训练、Scaling Laws、推理优化及对齐 (SFT/RLHF/GRPO)｜🚀 6 个渐进式作业 + 代码驱动，建立 LLM 全栈认知体系

用于执行情境化主题建模的 python 套件。CTM 将情境化嵌入（例如 BERT）与主题模型结合以获得连贯的主题。发表于 EACL 与 ACL 2021 (Bianchi 等人)。

袖珍型多模态 AI，用于跨多语言文字、图片和视频的内容理解与生成，速度比 OpenAI CLIP 和 LLaVA 快达 5 倍

汇聚全球优秀的人工智能（AI）开源项目。

专注于基于 PyTorch 的神经机器翻译的 Sequence-to-sequence 框架

💁 自然语言处理 Transformers 模型精选宝库，包含论文、视频、博客、官方代码库以及 Colab 笔记本。 🛫☑️

基于 TensorFlow 的 EEG 任务（信号）分类深度学习库。

[NeurIPS 2020] 论文“DeepSVG: A Hierarchical Generative Network for Vector Graphics Animation”官方代码。包含用于 SVG 数据深度学习的 PyTorch 库。

精选的 NLP 资源列表，聚焦于 Transformer 网络、注意力机制、GPT、BERT、ChatGPT、LLMs 与迁移学习。

OpenSTL：时空预测学习的综合基准测试

使用 transformers 进行神经问题生成

[非官方] 「Conformer: Convolution-augmented Transformer for Speech Recognition」(INTERSPEECH 2020) 的 PyTorch 实现

SwissArmyTransformer 是一个灵活且强大的库，可用于开发您自己的 Transformer 变体。