Zum Hauptinhalt springen
buildradar
Sign in

predibase/lorax

@predibase

Multi-LoRA-Inferenzserver, der auf Tausende von feinabgestimmten LLMs skaliert

Sterne
3.827
Forks
327
Sprache
Python
Lizenz
Apache-2.0
Letzter Push
vor 3 Monaten
Pythonllmgptllm-inferencelorapytorchfine-tuningtransformersllmopsllamallm-servingmodel-serving

Noch keine verwandte Intel

Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.