maximhq 收录中的开源项目,按星标数排序。
最快的企业级 AI 网关(比 LiteLLM 快 50 倍),具备自适应负载均衡、集群模式、守护栏、支持 1000+ 模型,且在 5k RPS 时的额外延迟低于 100 µs。