rednote-machine-learning/RedKnot
@rednote-machine-learningServiço eficiente de LLM de contexto longo com reutilização de KV consciente de cabeçalho e SegPagedAttention
Estrelas
2.105
Bifurcações
858
Linguagem
Python
Licença
Apache-2.0
Último push
há 5 dias
Intel relacionado (0)
Ainda não há intel relacionado
Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.