NVIDIA-NeMo/Switchyard
@NVIDIA-NeMoSwitchyard ermöglicht LLM-Anwendungen das Routing von Datenverkehr über Modelle und Anbieter hinweg bei gleichzeitiger Beibehaltung der nativen OpenAI- und Anthropic-API-Kompatibilität – dies ermöglicht eine flexible Modellauswahl, Benchmarking sowie Kosten- und Leistungsoptimierung.
Sterne
2.665
Forks
231
Sprache
Python
Lizenz
Apache-2.0
Letzter Push
vor 17 Stunden
Verwandte Intel (0)
Noch keine verwandte Intel
Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.