tensorrt-llm
Repositori open source terpantau bertanda tensorrt-llm, diurutkan berdasarkan bintang.
Topik terkait
Topik yang sering muncul berdampingan dengan tensorrt-llm di repositori yang sama.
Yang sedang naik
Repositori yang dibuat dalam 90 hari terakhir dan bertanda tensorrt-llm.
Tidak ada repositori baru bertanda topik ini dalam 90 hari terakhir.
- #1★ 7.952+76Perubahan bintang dalam 7 hari terakhir
- #2
Daftar pilihan makalah inferensi LLM/VLM dengan kode: Flash-Attention, Paged-Attention, WINT8/4, Paralelisme, dll.
★ 5.482+4Perubahan bintang dalam 7 hari terakhir - #3
Implementasi hampir real-time dari Whisper OpenAI.
★ 4.246+5Perubahan bintang dalam 7 hari terakhir - #4
Platform Riset Benchmark Inferensi Berkelanjutan Open Source — Kimi K3 2.8T, MiniMax M3, DeepSeekv4, GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 & segera hadir™ TPUv6e/v7/Trainium2/3 | Platform riset benchmark inferensi berkelanjutan open-source — Kimi K2.7-Code, MiniMax M3, DeepSeekv4, GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72, segera hadir™ TPUv6e/v7/Trainium2/3
★ 1.613+51Perubahan bintang dalam 7 hari terakhir - #5
Pipeline Speech-to-Text yang dioptimalkan untuk Model Whisper yang mendukung berbagai Inference Engine
★ 578+1Perubahan bintang dalam 7 hari terakhir - #6
🚀🚀🚀 Repositori ini mencantumkan beberapa proyek publik CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX, dan High Performance Computing (HPC) yang luar biasa.
★ 512-2Perubahan bintang dalam 7 hari terakhir
