flash-attention

Qwen（通义千问）聊天与预训练大型语言模型的官方仓库，由阿里云提出

现代 CUDA 学习笔记，配合 PyTorch，适合初学者，包含 200 多个 CUDA 核心、Tensor Cores、HGEMM、FA-2 MMA。

InternLM 系列正式发布（InternLM、InternLM2、InternLM2.5、InternLM3）

中文 LLaMA-2 与 Alpaca-2 大模型二期项目 + 64K 超长上下文模型

📚 精选Awesome LLM/VLM推理论文与代码清单：Flash-Attention、Paged-Attention、WINT8/4、Parallelism等。🎉

MoBA：长文本 LLM 的区块注意力混合模型

cuDNN Frontend 是 NVIDIA 的现代化开源 cuDNN 库入口，并提供日益增加的高性能开源核心集合。

rCM 与 Causal-rCM：大规模双向／自回归视频扩散蒸馏的领先与统一算法／基础设施

可训练、快速且内存效率高的稀疏注意力机制

从教师模型到模型切片——从零开始的 LLM 蒸馏与服务引擎：包含自定义 Triton/CUDA 内核、FSDP 蒸馏、paged-KV 连续批处理、推测解码、Rust 网关、JAX 预测器与可解释性工具。