ModelTC/LightLLM
@ModelTCLightLLM es un framework de inferencia y servicio de LLM (Large Language Model) basado en Python, destacado por su diseño ligero, fácil escalabilidad y rendimiento de alta velocidad.
Estrellas
4251
Bifurcaciones
357
Lenguaje
Python
Licencia
Apache-2.0
Último push
hace 3 días
Intel relacionado (0)
Aún no hay intel relacionado
Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.