vllm-project/speculators
@vllm-projectEine einheitliche Bibliothek zum Erstellen, Evaluieren und Speichern von Algorithmen zur spekulativen Dekodierung für LLM-Inferenz in vLLM
Sterne
807
Forks
209
Sprache
Python
Lizenz
Apache-2.0
Letzter Push
vor 2 Tagen
Verwandte Intel (0)
Noch keine verwandte Intel
Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.