Zum Hauptinhalt springen
buildradar
Sign in

flashinfer-ai/flashinfer

@flashinfer-ai

FlashInfer: Kernel-Bibliothek für LLM-Serving

Sterne
6.321
Forks
1.380
Sprache
Python
Lizenz
Apache-2.0
Letzter Push
vor 5 Tagen
Pythoncudallm-inferencepytorchjitgpunvidiaattentionmoedistributed-inferencelarge-large-models

Noch keine verwandte Intel

Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.