Zum Hauptinhalt springen
buildradar
Sign in

Tiiny-AI/PowerInfer

@Tiiny-AI

High-Speed-LLM-Serving für die lokale Bereitstellung

Sterne
9.765
Forks
598
Sprache
C++
Lizenz
MIT
Letzter Push
vor 4 Monaten
C++llmlarge-language-modelsllm-inferencellamalocal-inference

Noch keine verwandte Intel

Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.