rednote-machine-learning/RedKnot
@rednote-machine-learningServicio eficiente de LLM de contexto largo con reutilización de KV consciente de cabezales (Head-Aware) y SegPagedAttention
Estrellas
2105
Bifurcaciones
858
Lenguaje
Python
Licencia
Apache-2.0
Último push
hace 5 días
Intel relacionado (0)
Aún no hay intel relacionado
Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.