跳到主要内容
buildradar
登录
主题 · llm-gateway

llm-gateway

标记 llm-gateway 主题、收录中的开源项目,按星标数排序。

项目数
17
总星标数
243,336
平均星标数
14,314
占比
0.01%

常跟 llm-gateway 一起出现在同一个项目上的主题。

近期新秀

近 90 天内创建、标记 llm-gateway 主题的项目。

  • paritok-4b-v1@Paritok-official

    针对 AI 编码代理的无损压缩网关。在第一轮对话中可减少 25% 的 Token 费用,在长期或高负载对话中最高可达 85%,并在相同的上下文窗口中塞入约 3 倍的对话轮数。由我们的开源代码原生 4B 模型驱动。可无缝集成 Claude Code、Cursor、Codex、OpenHands 以及任何 BASE_URL 代理。

    1,450
  • OmniRoute@diegosouzapw

    永不停止编码。免费 MIT AI 网关:单一端点,340 个供应商(90+ 免费),1200+ 模型 — 包括 Kimi、Claude、GPT、Gemini、GLM、DeepSeek、MiniMax。支持 Claude Code、Codex、Cursor、OpenCode、Cline 与 Copilot。具配额感知自动回退、RTK+Caveman 压缩节省 15-95% 代币,MCP/A2A,桌面/PWA。由 450+ 贡献者打造。

    60,442+0近 7 天星标变化
  • litellm@BerriAI

    最快、最轻量的 AI 网关。Rust 核心配合 Python SDK。以 OpenAI(或原生)格式调用超过 100 种 LLM API,具成本追踪、保护机制、负载均衡与日志功能 [Bedrock、Azure、OpenAI、Anthropic、OpenAI、VertexAI、vLLM、Nvidia NIM]

    57,875+0近 7 天星标变化
  • kong@Kong

    🦍 API 与 AI 网关

    44,076+0近 7 天星标变化
  • 9router@decolua

    无限免费 AI 编码。连接 Claude Code、Codex、Cursor、Cline、Copilot、Antigravity 到 40+ 提供商的免费 Claude/GPT/Gemini。自动回退、RTK -40% 代币,永不触发限制。

    26,947+0近 7 天星标变化
  • gateway@Portkey-AI

    高速 AI 网关,内置安全防护。支持 1,600 多种大型语言模型和 50 多项 AI 防护,提供快速友好的 API

    12,882+0近 7 天星标变化
  • coai@coaidev

    🚀 下一代多租户 AI 一站式解决方案。内建管理与计费系统。企业级统一 LLM 网关,支持 200 多种模型与 35+ 供应商,具优先级路由的负载均衡、成本管理、聊天分享、云同步、信用/订阅计费、全部文件解析、网络搜索、内建模型缓存。

    9,303+0近 7 天星标变化
  • bifrost@maximhq

    最快的企业级 AI 网关(比 LiteLLM 快 50 倍),具备自适应负载均衡、集群模式、守护栏、支持 1000+ 模型,且在 5k RPS 时的额外延迟低于 100 µs。

    7,763+0近 7 天星标变化
  • plano@katanemo

    Plano 是一个 AI 原生代理服务器与数据平面,为代理应用提供智能 LLM 路由、可观测性、代理编排与安全防护,让你专注于核心逻辑

    7,033+0近 7 天星标变化
  • gpt-load@tbphp

    具备智能密钥轮询的多渠道 AI 代理

    6,478+0近 7 天星标变化
  • octopus@bestruirui

    一个汇聚所有 LLM 的平台 | 为个人打造的 LLM API 聚合网关

    2,575+0近 7 天星标变化
  • APIPark@APIParkLab

    云原生、超高性能 AI&API 网关,LLM API 管理、分发系统、开放平台,支持所有 AI API,包含 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等主流模型,统一 API 请求与返回、API 申请与审批、调用统计、负载均衡、多模型灾备。一键部署,开箱即用。

    1,807+0近 7 天星标变化
  • llmgateway@theopenco

    通过统一的 API 接口,跨多个供应商路由、管理和分析您的 LLM 请求。

    1,594+0近 7 天星标变化
  • paritok-4b-v1@Paritok-official

    针对 AI 编码代理的无损压缩网关。在第一轮对话中可减少 25% 的 Token 费用,在长期或高负载对话中最高可达 85%,并在相同的上下文窗口中塞入约 3 倍的对话轮数。由我们的开源代码原生 4B 模型驱动。可无缝集成 Claude Code、Cursor、Codex、OpenHands 以及任何 BASE_URL 代理。

    1,450+0近 7 天星标变化
  • GoModel@ENTERPILOT

    使用 Go 语言编写的 AI gateway / AI control plane / AI proxy。为 OpenAI、Anthropic、Gemini、Groq、xAI、Ollama、vLLM 等提供统一的 OpenAI 兼容与 Anthropic 兼容 API。作为 LiteLLM 的替代方案,具备可观测性、安全护栏、流式传输、成本追踪、智能路由、粘性会话、故障转移、实时日志与使用量追踪。生产就绪。

    1,119+13近 7 天星标变化
  • vllora@vllora

    调试您的 AI 代理

    812+0近 7 天星标变化
  • NadirClaw@NadirRouter

    开源 LLM 路由器与 AI 成本优化器。自动将简单的提示词路由至便宜/本地模型,复杂的路由至高级模型。支持 Claude Code、Codex、Cursor、OpenClaw 的兼容 OpenAI 代理。可节省 40-70% 的 AI API 成本。可自行搭建,无中间商。

    650+3近 7 天星标变化
  • Lynkr@Fast-Editor

    使用 Lynkr 简化您的工作流程,这是一个透过 Claude Code CLI 进行高效代码互动的 HTTP 代理 CLI 工具。

    547+0近 7 天星标变化
← 返回主题列表