Zum Hauptinhalt springen
buildradar
Sign in

maximhq/bifrost

@maximhq

Schnellstes Enterprise-KI-Gateway (50x schneller als LiteLLM) mit adaptivem Lastenausgleich, Cluster-Modus, Schutzfiltern, Unterstützung für über 1000 Modelle und <100 µs Overhead bei 5k RPS.

Sterne
7.763
Forks
1.150
Sprache
Go
Lizenz
Apache-2.0
Letzter Push
vor 6 Tagen
Gomcp-serverllmgenerative-aigatewayllmopsmcp-clientai-gatewayllm-gatewayguardrailsllm-observabilitygateway-servicesload-balancingmcp-gatewaymodel-routerllm-costtoken-management

Noch keine verwandte Intel

Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.