llm-gateway

Nunca pare de programar. Gateway de IA MIT gratuito: um endpoint, 340 provedores (mais de 90 gratuitos), mais de 1200 modelos — Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Funciona com Claude Code, Codex, Cursor, OpenCode, Cline & Copilot. Auto-fallback ciente de cota, compressão RTK+Caveman economiza de 15 a 95% de tokens, MCP/A2A, Desktop/PWA. Desenvolvido por mais de 450 colaboradores

O AI Gateway mais rápido e leve. Núcleo em Rust com SDK em Python. Chame mais de 100 APIs de LLM no formato OpenAI (ou nativo) com rastreamento de custos, guardrails, balanceamento de carga e registro de logs [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

🦍 O Gateway de API e IA

Codificação com IA GRATUITA e ilimitada. Conecte Claude Code, Codex, Cursor, Cline, Copilot, Antigravity a Claude/GPT/Gemini GRATUITOS via mais de 40 provedores. Fallback automático, RTK -40% de tokens, nunca atinja os limites.

Um Gateway de IA ultrarrápido com guardrails integrados. Roteie para mais de 1.600 LLMs, mais de 50 AI Guardrails com 1 API rápida e amigável.

🚀 Solução completa de IA multi-tenant de próxima geração. Sistema de administração e faturamento integrado. Gateway de LLM unificado de nível empresarial com suporte para mais de 200 modelos e mais de 35 provedores, balanceamento de carga com roteamento baseado em prioridade, gerenciamento de custos, compartilhamento de chat, sincronização na nuvem, faturamento por crédito/assinatura, análise de todos os arquivos, pesquisa na web e cache de modelo integrado.

O gateway de IA corporativo mais rápido (50x mais rápido que o LiteLLM) com balanceador de carga adaptativo, modo cluster, guardrails, suporte a mais de 1000 modelos e menos de 100 µs de overhead a 5k RPS.

Plano é um servidor proxy nativo de IA e plano de dados para aplicativos de agentes. Roteamento inteligente de LLM, observabilidade, orquestração de agentes e guardrails para que você mantenha o foco na lógica central dos seus agentes.

Proxy de IA multicanal com rotação inteligente de chaves.

Um hub para todas as LLMs | Gateway de agregação de API de LLM feito para indivíduos.

Gateway de IA e API nativo da nuvem de ultra-alta performance, gerenciamento de API LLM, sistema de distribuição, plataforma aberta, suportando todas as APIs de IA. Inclui modelos principais como OpenAI, Azure, Anthropic Claude, Google Gemini, DeepSeek, ByteDance Doubao, ChatGLM, ERNIE Bot, iFlytek Spark, Tongyi Qianwen, 360 Brain, Tencent Hunyuan, unificando solicitações e respostas de API, solicitação e aprovação de API, estatísticas de chamadas, balanceamento de carga e recuperação de desastres multi-modelo. Implantação com um clique, pronto para uso.

Roteie, gerencie e analise suas requisições de LLM em múltiplos provedores com uma interface de API unificada.

Gateway de compressão não destrutiva para agentes de codificação de IA. Reduz as contas de tokens em 25% no primeiro turno e até 85% em sessões longas ou saturadas, além de comportar cerca de 3 vezes mais turnos na mesma janela de contexto. Alimentado pelo nosso modelo 4B nativo de código aberto. Compatível com Claude Code, Cursor, Codex, OpenHands e qualquer agente BASE_URL.

Gateway de IA / plano de controle de IA / proxy de IA escrito em Go. API unificada compatível com OpenAI e Anthropic para OpenAI, Anthropic, Gemini, Groq, xAI, Ollama, vLLM e muito mais. Uma alternativa ao LiteLLM com observabilidade, guardrails, streaming, rastreamento de custos, roteamento inteligente, sessões persistentes (sticky sessions), failover, logs em tempo real e rastreamento de uso. Pronto para produção.

Depure seus agentes de IA

Roteador de LLM de código aberto e otimizador de custos de IA. Direciona prompts simples para modelos baratos/locais e complexos para modelos premium de forma automática. Proxy compatível com OpenAI para Claude Code, Codex, Cursor e OpenClaw. Economiza de 40% a 70% nos custos de API de IA. Auto-hospedado, sem intermediários.

Otimize seu fluxo de trabalho com o Lynkr, uma ferramenta de CLI que atua como um proxy HTTP para interações de código eficientes usando o Claude Code CLI.