transformers

利用 BERT 與 c‑TF‑IDF 產生易於解讀的主題。

在 GPU 上實作模型平行自回歸 Transformer，基於 Megatron 與 DeepSpeed 函式庫

SD.Next：全功能 AI 生成圖像與影片的 Web UI，支援字幕與處理

此倉庫是關於人工智慧（AI）的各種課程與資源的精選鏈接集合

用 Python 编写的开源离线翻译库

Apple Silicon 上的本機語音 AI

中文版本的 CLIP，實現中文跨模態檢索與表徵生成。

簡潔但完整的全注意力 Transformer，包含多篇論文的實驗性功能

⚡ 純 Rust WebGPU 推理引擎 — OpenAI-API 兼容，GGUF 原生，支援任何 GPU。無 Python，無 llama.cpp，單一二進位檔。

Chronos：用於時間序列預測的預訓練模型

穩健的配方，將語言模型對齊人類與 AI 的偏好

在 Pytorch 中實作 / 重新實作 DALL‑E，OpenAI 的文字轉圖像 Transformer。

OpenChat：利用不完美數據推進開源語言模型

Superduper：端到端框架，用於構建自訂 AI 應用與代理

面向 AI 研究者的开源研究环境，支持从本地硬件到 GPU 集群无缝训练、评估和扩展模型。

一款用於從學術文件中提取資訊的機器學習軟體

一份全面的 Vision Transformer/Attention 論文清單，包含論文、程式碼與相關網站

《大模型白盒子构建指南》：一個全手搓的 Tiny-Universe

透過單一 YAML 微調 LLM。層串流訓練可在 4 GB 筆電 GPU 上執行 8B 模型。

🌟100+ 原創 LLM / RL 原理圖📚，《大模型算法》作者巨献！💥（100+ LLM/RL Algorithm Maps ）

LightGlue：以極快速度進行局部特徵匹配 (ICCV 2023)

Prompt Engineering、生成式 AI 與 LLM 指南，由 Learn Prompting 提供 | 加入我們的 Discord，加入最大的 Prompt Engineering 學習社群

Prompt Engineering | Prompt Versioning | 使用 GPT 或其他基於 Prompt 的模型獲取結構化輸出。加入我們的 Discord，了解 Prompt-Engineering、LLM 及其他最新研究

使用 PyTorch 與 TorchText 進行情感分析的入門教學

中文語言理解測評基準 Chinese Language Understanding Evaluation Benchmark：資料集、基線、預訓練模型、語料庫與排行榜

資訊檢索、文本分類、NER、QA、語言建模、語言生成、T5、多模態與對話式 AI 的 Transformers

SwanLab - 開源、現代化 AI 訓練追蹤與可視化工具。支援雲端 / 自託管使用，整合 PyTorch / Transformers / verl / LLaMA Factory / ms-swift / Ultralytics / MMEngine / Keras 等。

The Hugging Face course on Transformers

前沿自然語言處理

Fengshenbang-LM（封神榜大模型）是 IDEA 研究院認知計算與自然語言研究中心主導的大模型開源體系，成為中文 AIGC 與認知智能的基礎設施。