llm-gateway

Nie mehr aufhören zu programmieren. Kostenloses MIT AI-Gateway: ein Endpunkt, 340 Anbieter (90+ kostenlos), 1200+ Modelle — Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Funktioniert mit Claude Code, Codex, Cursor, OpenCode, Cline & Copilot. Quota-aware Auto-Fallback, RTK+Caveman-Kompression spart 15-95% Tokens, MCP/A2A, Desktop/PWA. Entwickelt von über 450 Mitwirkenden.

Das schnellste, leichteste AI-Gateway. Rust-Core mit Python-SDK. 100+ LLM-APIs im OpenAI- (oder nativen) Format aufrufen mit Kostenverfolgung, Sicherheitsmechanismen, Lastausgleich und Logging [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

🦍 The API and AI Gateway

Unbegrenztes kostenloses KI-Coding. Verbinden Sie Claude Code, Codex, Cursor, Cline, Copilot, Antigravity mit kostenlosem Claude/GPT/Gemini über 40+ Anbieter. Auto-Fallback, RTK -40% Tokens, nie Limits erreicht.

Ein blitzschnelles KI-Gateway mit integrierten Schutzmaßnahmen. Leiten Sie Anfragen an über 1.600 LLMs und 50+ KI-Guardrails über eine schnelle und benutzerfreundliche API weiter.

🚀 Multi-Tenant-KI-Komplettlösung der nächsten Generation. Integriertes Admin- und Abrechnungssystem. Einheitliches LLM-Gateway auf Unternehmensniveau mit Unterstützung für über 200 Modelle und 35+ Anbieter, Lastenausgleich mit prioritätsbasiertem Routing, Kostenmanagement, Chat-Freigabe, Cloud-Synchronisierung, Guthaben-/Abonnementabrechnung, vollständigem Dateiparsing, Websuche und integriertem Modell-Cache.

Schnellstes Enterprise-KI-Gateway (50x schneller als LiteLLM) mit adaptivem Lastenausgleich, Cluster-Modus, Schutzfiltern, Unterstützung für über 1000 Modelle und <100 µs Overhead bei 5k RPS.

Plano ist ein KI-nativer Proxyserver und Data Plane für Agenten-Apps. Intelligentes LLM-Routing, Observability, Agenten-Orchestrierung und Guardrails, damit Sie sich auf die Kernlogik Ihrer Agenten konzentrieren können.

Multikanal-KI-Proxy mit intelligenter Key-Rotation. 智能密钥轮询的多渠道 AI 代理。

Ein Hub für alle LLMs für Sie | LLM API-Aggregations-Gateway für Einzelpersonen

Cloud-natives, extrem leistungsstarkes AI & API Gateway, LLM-API-Verwaltungs- und Verteilersystem, offene Plattform, die alle AI-APIs unterstützt (darunter OpenAI, Azure, Anthropic Claude, Google Gemini, DeepSeek und andere Mainstream-Modelle). Einheitliche API-Anfragen und -Antworten, API-Antrag und -Genehmigung, Aufrufstatistiken, Lastenausgleich und Multi-Model-Disaster-Recovery. Mit einem Klick bereitstellbar und sofort einsatzbereit.

Leiten, verwalten und analysieren Sie Ihre LLM-Anfragen über verschiedene Anbieter hinweg mit einer einheitlichen API-Schnittstelle.

Ein zerstörungsfreies Komprimierungs-Gateway für KI-Coding-Agenten. Reduziert die Token-Kosten um 25 % im ersten Zug und um über 85 % in langen oder gesättigten Sitzungen und passt ca. 3× mehr Züge in dasselbe Kontextfenster. Angetrieben von unserem Open-Source-Code-nativen 4B-Modell. Als Ersatz einsetzbar für Claude Code, Cursor, Codex, OpenHands und jeden BASE_URL-Agenten.

In Go geschriebenes AI Gateway / AI Control Plane / AI Proxy. Einheitliche OpenAI- und Anthropic-kompatible API für OpenAI, Anthropic, Gemini, Groq, xAI, Ollama, vLLM und mehr. Eine LiteLLM-Alternative mit Observability, Guardrails, Streaming, Kostenverfolgung, intelligentem Routing, Sticky Sessions, Failover, Echtzeit-Protokollen und Nutzungstracking. Produktionsbereit.

Debuggen Sie Ihre KI-Agenten

Open-Source-LLM-Router & KI-Kostenoptimierer. Leitet einfache Prompts automatisch an günstige/lokale Modelle und komplexe an Premium-Modelle weiter. Einsetzbarer OpenAI-kompatibler Proxy für Claude Code, Codex, Cursor, OpenClaw. Spart 40-70 % der KI-API-Kosten. Self-hosted, ohne Zwischenhändler.

Optimieren Sie Ihren Workflow mit Lynkr, einem CLI-Tool, das als HTTP-Proxy für effiziente Code-Interaktionen mit der Claude Code CLI dient.