llm-gateway

コーディングを止めない。無料のMIT AIゲートウェイ：単一のエンドポイント、340のプロバイダー（90以上が無料）、1200以上のモデル — Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax。Claude Code, Codex, Cursor, OpenCode, Cline, Copilotと連携可能。クォータ認識型自動フォールバック、RTK+Caveman圧縮によりトークンを15〜95%節約、MCP/A2A、デスクトップ/PWA対応。450人以上のコントリビューターによって構築。

最速かつ最軽量のAIゲートウェイ。RustコアとPython SDKを搭載。コスト追跡、ガードレール、ロードバランシング、ロギングを備え、100以上のLLM APIをOpenAI（またはネイティブ）形式で呼び出し可能 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

🦍 APIおよびAIゲートウェイ

無制限の無料AIコーディング。40以上のプロバイダー経由でClaude Code、Codex、Cursor、Cline、Copilot、Antigravityを無料のClaude/GPT/Geminiに接続。自動フォールバック、RTKでトークンを40%削減、制限に達しない。

統合されたガードレールを備えた超高速AIゲートウェイ。1つの高速で使いやすいAPIを通じて、1,600以上のLLMと50以上のAIガードレールにルーティングします。

🚀 次世代マルチテナントAIオールインワンソリューション。組み込みのAdmin & Billing System。200以上のモデルと35以上のプロバイダーに対応したエンタープライズグレードの統合LLMゲートウェイサポート、優先度ベースルーティングによるロードバランシング、コスト管理、チャット共有、クラウド同期、クレジット/サブスクリプション課金、全ファイル解析、Web検索、組み込みモデルキャッシュ。

適応型ロードバランサー、クラスターモード、ガードレールを備えた最速のエンタープライズAIゲートウェイ（LiteLLM比50倍高速）。5k RPSで<100 µsのオーバーヘッド。

Planoは、エージェンティックアプリのためのAIネイティブなプロキシサーバーおよびデータプレーンです。スマートなLLMルーティング、オブザーバビリティ、エージェントオーケストレーション、ガードレールを提供し、エージェントのコアロジックに集中できます。

インテリジェントなキーローテーションを備えたマルチチャネルAIプロキシ

すべてのLLMをひとつのハブで | 個人向けLLM API集約ゲートウェイ

クラウドネイティブで超高性能な AI＆API ゲートウェイ、LLM API 管理、配信システム、オープンプラットフォーム。すべての AI API をサポート。

統一された API インターフェースを使用して、複数プロバイダーの LLM リクエストをルーティング、管理、分析する

AIコーディングエージェント向けの非破壊圧縮ゲートウェイ。最初のターンで25%、長時間のセッションでは85%以上のトークン費用を削減し、同じコンテキストウィンドウに約3倍のターンを収容します。オープンソースのコードネイティブ4Bモデルを搭載。Claude Code、Cursor、Codex、OpenHands、および任意のBASE_URLエージェントにドロップインで対応。

Go言語で書かれたAIゲートウェイ / AIコントロールプレーン / AIプロキシ。OpenAI、Anthropic、Gemini、Groq、xAI、Ollama、vLLMなどのためにOpenAIおよびAnthropic互換の統一APIを提供。観測性、ガードレール、ストリーミング、コスト追跡、インテリジェントルーティング、スティッキーセッション、フェイルオーバー、リアルタイムログ、使用量追跡を備えたLiteLLMの代替品。本番環境対応。

AIエージェントのデバッグを行います

オープンソースのLLMルーターおよびAIコスト最適化ツール。簡単なプロンプトは安価な/ローカルモデルへ、複雑なプロンプトはプレミアムモデルへ自動ルーティング。Claude Code、Codex、Cursor、OpenClaw向けのドロップイン可能なOpenAI互換プロキシ。AI APIコストを40〜70%削減。セルフホスト対応、仲介者なし。

Claude Code CLI を使用した効率的なコード連携のための HTTP プロキシとして機能する CLI ツール、Lynkr でワークフローを効率化