triton

Kernels Triton eficientes para treinamento de LLM

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] O Quantized Attention alcança uma aceleração de 2 a 5 vezes em comparação ao FlashAttention, sem perda de métricas de ponta a ponta em modelos de linguagem, imagem e vídeo.

LeetCode para PyTorch — 65 problemas de entrevista de ML/IA de entrevistas reais no Google, Meta e Anthropic. Inclui notebooks Jupyter, um avaliador automático e um tutor de IA MCP.

Compilador de código aberto para CUDA, Triton e HIP, voltado para múltiplas arquiteturas de GPU e CPU.

Pesquisa automática para kernels de GPU. Forneça qualquer modelo PyTorch, vá dormir e acorde com kernels Triton otimizados.

FlagGems é uma biblioteca de operadores para grandes modelos de linguagem implementada na linguagem Triton.

🚀🚀🚀Uma coleção de projetos públicos incríveis sobre Modelos de Linguagem de Grande Escala (LLM), Modelos de Visão e Linguagem (VLM), Visão, Linguagem e Ação (VLA), Conteúdo Gerado por IA (AIGC), além de conjuntos de dados e aplicativos relacionados.

Atenção esparsa treinável, rápida e eficiente em termos de memória

Quebra-cabeças para aprender Triton, jogue com o mínimo de configuração de ambiente!

Módulo do kernel Linux para suportar o modo Turbo e teclado RGB para a série de notebooks Acer Predator

Um subconjunto de módulos de redes neurais do PyTorch, escrito em Python usando o Triton da OpenAI.

From teacher to tiles — a from-scratch LLM distillation & serving engine: custom Triton/CUDA kernels, FSDP distillation, paged-KV continuous batching, speculative decoding, a Rust gateway, a JAX oracle, and interpretability tooling.

Laboratório de prática de algoritmos de LLM com teoria, soluções e casos de teste. Um tutorial prático de algoritmos para grandes modelos voltado do iniciante ao avançado, cobrindo explicações de princípios, resoluções, casos de teste e prática com CUDA/Triton.

🚀🚀🚀 Este repositório lista alguns projetos incríveis públicos de CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX e Computação de Alto Desempenho (HPC).