paged-attention
Repositorios de código abierto monitorizados etiquetados con paged-attention, ordenados por estrellas.
Temas relacionados
Temas que aparecen con frecuencia junto a paged-attention en un mismo repositorio.
Emergentes recientes
Repositorios creados en los últimos 90 días, etiquetados con paged-attention.
No hay repositorios nuevos con este tema en los últimos 90 días.
- #1
📚 Una lista seleccionada de los mejores artículos de inferencia LLM/VLM con código: Flash-Attention, Paged-Attention, WINT8/4, paralelismo, etc. 🎉
★ 5482+3Variación de estrellas de los últimos 7 días - #2
Motor de inferencia LLM en Rust puro + CUDA; sin PyTorch, compatible con OpenAI, sirve desde Qwen3 hasta Kimi-K2
★ 677+14Variación de estrellas de los últimos 7 días - #3
De profesor a tiles: un motor de destilación y servicio de LLM creado desde cero: kernels personalizados de Triton/CUDA, destilación FSDP, procesamiento por lotes continuo paged-KV, decodificación especulativa, una puerta de enlace en Rust, un oráculo JAX y herramientas de interpretabilidad.
★ 566+30Variación de estrellas de los últimos 7 días
