Aller au contenu principal
buildradar
Sign in

rednote-machine-learning/RedKnot

@rednote-machine-learning

Service efficace de LLM à long contexte avec réutilisation KV sensible aux têtes et SegPagedAttention

Étoiles
2 105
Bifurcations
858
Langage
Python
Licence
Apache-2.0
Dernier push
il y a 5 jours
Python

Aucune intel associée pour le moment

Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.