ModelTC/LightLLM
@ModelTCLightLLM ist ein Python-basiertes LLM-Inferenz- und Bereitstellungsframework, das sich durch ein leichtgewichtigenes Design, einfache Skalierbarkeit und hohe Leistung auszeichnet.
Sterne
4.260
Forks
359
Sprache
Python
Lizenz
Apache-2.0
Letzter Push
vor 5 Tagen
Verwandte Intel (0)
Noch keine verwandte Intel
Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.