triton

Kernels de Triton eficientes para entrenamiento de LLM

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention logra una aceleración de 2 a 5 veces en comparación con FlashAttention, sin perder métricas de extremo a extremo en modelos de lenguaje, imagen y video.

LeetCode para PyTorch: 65 problemas de entrevistas de ML/AI de entrevistas reales en Google, Meta, Anthropic. Incluye notebooks de Jupyter, un evaluador automático y un tutor de IA MCP.

Compilador de código abierto CUDA, Triton y HIP dirigido a múltiples arquitecturas de GPU y CPU.

Investigación automática para kernels de GPU. Proporciónale cualquier modelo de PyTorch, vete a dormir y despierta con kernels de Triton optimizados.

FlagGems es una biblioteca de operadores para modelos de lenguaje grandes implementada en el lenguaje Triton.

Una colección de proyectos públicos sobre modelos de lenguaje extensos (LLM), modelos de lenguaje visual (VLM), acción de lenguaje visual (VLA), contenido generado por IA (AIGC), y sus conjuntos de datos y aplicaciones relacionados.

Atención dispersa entrenable, rápida y eficiente en memoria

Acertijos para aprender Triton, ¡juega con una configuración de entorno mínima!

Módulo del kernel de Linux para admitir el modo Turbo y el teclado RGB en la serie de portátiles Acer Predator.

Un subconjunto de módulos de redes neuronales de PyTorch, escrito en Python usando Triton de OpenAI.

De profesor a tiles: un motor de destilación y servicio de LLM creado desde cero: kernels personalizados de Triton/CUDA, destilación FSDP, procesamiento por lotes continuo paged-KV, decodificación especulativa, una puerta de enlace en Rust, un oráculo JAX y herramientas de interpretabilidad.

LLM algorithm practice lab with theory, solutions, and test cases.《大模型算法与系统教程》面向大模型入门到进阶的算法实战教程，覆盖原理讲解、答案解析、测试用例与 CUDA/Triton 实战。

Este repositorio enumera proyectos destacados de código abierto sobre CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX y computación de alto rendimiento (HPC).