Propietario · sgl-project
sgl-project
Repositorios de código abierto monitorizados de sgl-project, ordenados por estrellas.
5 repositorios
- #1
SGLang es un marco de servicio de alto rendimiento para modelos de lenguaje grande y modelos multimodales.
★ 33.538+791Variación de estrellas de los últimos 7 días - #2
Una implementación compacta de SGLang, diseñada para desmitificar las complejidades de los sistemas modernos de servicio de LLM.
★ 4937+38Variación de estrellas de los últimos 7 días - #3
Entrena modelos de decodificación especulativa sin esfuerzo y transpórtalos fácilmente al servicio SGLang.
★ 1144+14Variación de estrellas de los últimos 7 días - #4
SGLang-Omni permite un servicio de alto rendimiento para modelos de TTS, ASR, voz y modelos omni.
★ 1105+130Variación de estrellas de los últimos 7 días - #5
Materiales para aprender SGLang.
★ 886+5Variación de estrellas de los últimos 7 días
