tensorrt-llm
Repositórios de código aberto acompanhados marcados com tensorrt-llm, ordenados por estrelas.
Tópicos relacionados
Tópicos que aparecem com frequência ao lado de tensorrt-llm no mesmo repositório.
Em ascensão recentemente
Repositórios criados nos últimos 90 dias e marcados com tensorrt-llm.
Nenhum repositório novo marcado com este tópico nos últimos 90 dias.
- #1★ 7.952+76Variação de estrelas nos últimos 7 dias
- #2
📚 Uma lista curada de artigos incríveis sobre inferência de LLM/VLM com código: Flash-Attention, Paged-Attention, WINT8/4, paralelismo, etc. 🎉
★ 5.482+4Variação de estrelas nos últimos 7 dias - #3
Uma implementação quase em tempo real do Whisper da OpenAI.
★ 4.246+5Variação de estrelas nos últimos 7 dias - #4
Plataforma de pesquisa de benchmark de inferência contínua de código aberto — Kimi K3 2.8T, MiniMax M3, DeepSeekv4, GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 e em breve™ TPUv6e/v7/Trainium2/3
★ 1.613+51Variação de estrelas nos últimos 7 dias - #5
Um pipeline otimizado de Speech-to-Text para o modelo Whisper, suportando múltiplos motores de inferência
★ 578+1Variação de estrelas nos últimos 7 dias - #6
🚀🚀🚀 Este repositório lista alguns projetos incríveis públicos de CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX e Computação de Alto Desempenho (HPC).
★ 512-2Variação de estrelas nos últimos 7 dias
