tensorrt-llm
Repositorios de código abierto monitorizados etiquetados con tensorrt-llm, ordenados por estrellas.
Temas relacionados
Temas que aparecen con frecuencia junto a tensorrt-llm en un mismo repositorio.
Emergentes recientes
Repositorios creados en los últimos 90 días, etiquetados con tensorrt-llm.
No hay repositorios nuevos con este tema en los últimos 90 días.
- #1★ 7952+76Variación de estrellas de los últimos 7 días
- #2
📚 Una lista seleccionada de los mejores artículos de inferencia LLM/VLM con código: Flash-Attention, Paged-Attention, WINT8/4, paralelismo, etc. 🎉
★ 5482+4Variación de estrellas de los últimos 7 días - #3
Una implementación casi en tiempo real de Whisper de OpenAI.
★ 4246+5Variación de estrellas de los últimos 7 días - #4
Plataforma de investigación de benchmarks de inferencia continua de código abierto — Kimi K3 2.8T, MiniMax M3, DeepSeekv4, GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 y próximamente™ TPUv6e/v7/Trainium2/3
★ 1613+51Variación de estrellas de los últimos 7 días - #5
Una canalización optimizada de voz a texto para el modelo Whisper que admite múltiples motores de inferencia
★ 578+1Variación de estrellas de los últimos 7 días - #6
Este repositorio enumera proyectos destacados de código abierto sobre CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX y computación de alto rendimiento (HPC).
★ 512-2Variación de estrellas de los últimos 7 días
