mlsys

AISystem 主要指 AI 系统，包括 AI 芯片、AI 编译器、AI 推理和训练框架等 AI 全栈底层技术

LLM 基于代理应用的 RL Bridge，简单且灵活

🚀 Awesome System for Machine Learning ⚡️ AI System Papers and Industry Practice. ⚡️ System for Machine Learning, LLM (Large Language Model), GenAI (Generative AI). 🍻 OSDI, NSDI, SIGCOMM, SoCC, MLSys, etc. 🗃️ Llama3, Mistral, etc. 🧑‍💻 Video Tutorials.

[ICLR2025 Spotlight] SVDQuant：通过低秩组件吸收离群值，适用于4位元扩散模型

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention 在速度上比 FlashAttention 提升 2-5 倍，且不损失语言、影像与影片模型的端到端指标

ComfyUI 的 Nunchaku 插件

[ICML2025] SpargeAttention：一种无需训练的稀疏注意力机制，可加速任何模型的推理。