Zum Hauptinhalt springen
buildradar
Sign in

efeslab/Nanoflow

@efeslab

Ein durchsatzorientiertes Hochleistungs-Serving-Framework für LLMs

Sterne
975
Forks
53
Sprache
Jupyter Notebook
Lizenz
Letzter Push
vor 5 Monaten
Jupyter Notebookllmcudallama2inferencellm-servingmodel-serving

Noch keine verwandte Intel

Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.