tensorrt-llm
Dépôts open source suivis étiquetés tensorrt-llm, triés par étoiles.
Sujets associés
Sujets qui apparaissent souvent aux côtés de tensorrt-llm sur un même dépôt.
Ascensions récentes
Dépôts créés au cours des 90 derniers jours et étiquetés tensorrt-llm.
Aucun nouveau dépôt étiqueté avec ce sujet au cours des 90 derniers jours.
- #1★ 7 952+76Évolution des étoiles sur les 7 derniers jours
- #2
Liste organisée d'articles de recherche sur l'inférence LLM/VLM avec code : Flash-Attention, Paged-Attention, WINT8/4, parallélisme, etc.
★ 5 482+4Évolution des étoiles sur les 7 derniers jours - #3
Une implémentation quasi en temps réel de Whisper d'OpenAI.
★ 4 246+5Évolution des étoiles sur les 7 derniers jours - #4
Plateforme de recherche de benchmark d'inférence continue open source — Kimi K3 2.8T, MiniMax M3, DeepSeekv4, GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 et bientôt™ TPUv6e/v7/Trainium2/3
★ 1 613+51Évolution des étoiles sur les 7 derniers jours - #5
Un pipeline de transcription (Speech-to-Text) optimisé pour le modèle Whisper prenant en charge plusieurs moteurs d'inférence
★ 578+1Évolution des étoiles sur les 7 derniers jours - #6
🚀🚀🚀 Ce dépôt liste des projets remarquables en CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX et en calcul haute performance (HPC).
★ 512-2Évolution des étoiles sur les 7 derniers jours
