microsoft/sarathi-serve
@microsoftUn motor de servicio de baja latencia y alto rendimiento para LLMs.
Estrellas
520
Bifurcaciones
66
Lenguaje
Python
Licencia
Apache-2.0
Último push
hace 8 meses
Intel relacionado (0)
Aún no hay intel relacionado
Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.