triton

用於 LLM 訓練的高效 Triton 核心

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention 在速度上比 FlashAttention 提升 2-5 倍，且不損失語言、影像與影片模型的端到端指標

PyTorch 的 LeetCode — 來自 Google、Meta、Anthropic 真實面試的 65 道 ML/AI 面試題。包含 Jupyter notebooks、自動評分器以及 MCP AI 家教。

開源的 CUDA、Triton 和 HIP 編譯器，針對多種 GPU 和 CPU 架構。

GPU 核心自動研究。給它任何 PyTorch 模型，睡個覺，醒來就能獲得最佳化的 Triton 核心。

FlagGems 是一個使用 Triton Language 實作的大型語言模型運算子庫。

🚀🚀🚀 收集一些關於大型語言模型（LLM）、視覺語言模型（VLM）、視覺語言動作（VLA）、AI 生成內容（AIGC）以及相關資料集與應用的優秀公開專案。

可訓練、快速且記憶體效率高的稀疏注意力機制

學習 Triton 的拼圖練習，只需極少的環境設定即可遊玩！

支援 Acer Predator 系列筆記型電腦 Turbo 模式與 RGB 鍵盤的 Linux 核心模組

PyTorch 神經網路模組的子集，使用 OpenAI 的 Triton 以 Python 編寫。

從教師模型到模型切片——從零開始的 LLM 蒸餾與服務引擎：包含自訂 Triton/CUDA 核心、FSDP 蒸餾、paged-KV 連續批次處理、推測解碼、Rust 閘道、JAX 預測器與可解釋性工具。

LLM algorithm practice lab with theory, solutions, and test cases.《大模型算法与系统教程》面向大模型入门到进阶的算法实战教程，覆盖原理讲解、答案解析、测试用例与 CUDA/Triton 实战。

此儲存庫列出了一些優秀的 CUDA、cuda-python、cuBLAS、cuDNN、CUTLASS、TensorRT、TensorRT-LLM、Triton、TVM、MLIR、PTX 與高效能運算 (HPC) 專案。