Zum Hauptinhalt springen
buildradar
Sign in

rednote-machine-learning/RedKnot

@rednote-machine-learning

Effizientes Long-Context LLM Serving mit Head-Aware KV Reuse und SegPagedAttention

Sterne
2.105
Forks
858
Sprache
Python
Lizenz
Apache-2.0
Letzter Push
vor 12 Stunden
Python

Noch keine verwandte Intel

Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.