NVIDIA/kvpress

Compresión de caché KV para LLM simplificada

↗ Abrir en GitHub

Estrellas

1201

Bifurcaciones

174

Lenguaje

Python

Licencia

Apache-2.0

Último push

hace 6 días

Python python llm large-language-models pytorch transformers inference long-context kv-cache kv-cache-compression

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.