microsoft/vattention
@microsoftGestión dinámica de memoria para servir LLMs sin PagedAttention.
Estrellas
522
Bifurcaciones
46
Lenguaje
C
Licencia
MIT
Último push
hace 2 semanas
Intel relacionado (0)
Aún no hay intel relacionado
Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.