microsoft/vattention
@microsoftDynamische Speicherverwaltung für das Bereitstellen von LLMs ohne PagedAttention.
Sterne
519
Forks
46
Sprache
C
Lizenz
MIT
Letzter Push
vor 2 Wochen
Verwandte Intel (0)
Noch keine verwandte Intel
Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.