Zum Hauptinhalt springen
buildradar
Anmelden

mit-han-lab/duo-attention

@mit-han-lab

[ICLR 2025] DuoAttention: Effiziente Long-Context LLM-Inferenz mit Retrieval- und Streaming-Heads.

Sterne
540
Forks
42
Sprache
Python
Lizenz
MIT
Letzter Push
vor 2 Jahren
Python

Noch keine verwandte Intel

Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.