Tema · high-performance-inference
high-performance-inference
Repositorios de código abierto monitorizados etiquetados con high-performance-inference, ordenados por estrellas.
Repositorios
2
Estrellas totales
6109
Estrellas de media
3055
Proporción
0,00%
Temas relacionados
Temas que aparecen con frecuencia junto a high-performance-inference en un mismo repositorio.
Emergentes recientes
Repositorios creados en los últimos 90 días, etiquetados con high-performance-inference.
No hay repositorios nuevos con este tema en los últimos 90 días.
- #1
Un administrador de clústeres de GPU para el servicio de modelos de IA de alto rendimiento (vLLM, SGLang) e instancias de GPU accesibles por SSH bajo demanda.
★ 5593+21Variación de estrellas de los últimos 7 días - #2
Krasis es un entorno de ejecución de LLM híbrido que se centra en la ejecución eficiente de modelos grandes en hardware de consumo con VRAM limitada.
★ 518+2Variación de estrellas de los últimos 7 días
