triton

Kernel Triton yang efisien untuk Pelatihan LLM

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention mencapai percepatan 2-5x dibandingkan dengan FlashAttention, tanpa kehilangan metrik end-to-end pada model bahasa, gambar, dan video.

LeetCode untuk PyTorch — 65 masalah wawancara ML/AI dari wawancara nyata di Google, Meta, Anthropic. Jupyter notebook, penilai otomatis, dan tutor AI MCP.

Compiler CUDA, Triton, dan HIP open-source yang menargetkan berbagai arsitektur GPU dan CPU.

Pencarian otomatis untuk kernel GPU. Berikan model PyTorch apa pun, tidurlah, dan bangun dengan kernel Triton yang telah dioptimalkan.

🎓 Kursus pembangunan Large Language Model yang sistematis | 🛠️ Mencakup teknik data pre-training, Tokenizer, Transformer, MoE, pemrograman GPU (CUDA/Triton), pelatihan terdistribusi, Scaling Laws, optimasi inferensi, dan alignment (SFT/RLHF/GRPO) | 🚀 6 tugas progresif + berbasis kode, membangun pemahaman tumpukan penuh LLM

FlagGems adalah pustaka operator untuk model bahasa besar yang diimplementasikan dalam Triton Language.

🚀🚀🚀Kumpulan beberapa proyek publik hebat tentang Large Language Model (LLM), Vision Language Model (VLM), Vision Language Action (VLA), AI Generated Content (AIGC), serta Dataset dan Aplikasi terkait.

Sparse attention yang dapat dilatih, cepat, dan efisien dalam penggunaan memori

Teka-teki untuk mempelajari Triton, mainkan dengan konfigurasi lingkungan minimal!

Modul kernel Linux untuk mendukung mode Turbo dan keyboard RGB pada seri notebook Acer Predator.

Sebagian kecil modul neural network PyTorch, ditulis dalam Python menggunakan Triton dari OpenAI.

Dari guru ke tile — mesin distilasi & penyajian LLM dari awal: kernel Triton/CUDA kustom, distilasi FSDP, batching kontinu paged-KV, dekoding spekulatif, gateway Rust, oracle JAX, dan alat interpretabilitas.

Laboratorium latihan algoritma LLM dengan teori, solusi, dan kasus uji. Tutorial praktik algoritma dari tingkat dasar hingga tingkat lanjut untuk Model Besar, mencakup penjelasan prinsip, analisis jawaban, kasus uji, dan praktik CUDA/Triton.

🚀🚀🚀 Repositori ini mencantumkan beberapa proyek publik CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX, dan High Performance Computing (HPC) yang luar biasa.