Zum Hauptinhalt springen
buildradar
Sign in

hao-ai-lab/LookaheadDecoding

@hao-ai-lab

[ICML 2024] Durchbrechen der sequentiellen Abhängigkeit von LLM-Inferenz mittels Lookahead Decoding

Sterne
1.342
Forks
83
Sprache
Python
Lizenz
Apache-2.0
Letzter Push
vor 2 Jahren
Python

Noch keine verwandte Intel

Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.