llm-gateway

Jangan pernah berhenti coding. Gateway AI MIT gratis: satu endpoint, 350 penyedia (90+ gratis), 1200+ model termasuk Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Kompatibel dengan Claude Code, Codex, Cursor, OpenCode, Cline & Copilot. Mendukung auto-fallback berbasis kuota, kompresi RTK+Caveman yang menghemat 15-95% token, MCP/A2A, serta Desktop/PWA. Dibuat oleh 450+ kontributor.

AI Gateway tercepat dan teringan. Inti Rust dengan SDK Python. Panggil 100+ API LLM dalam format OpenAI (atau native) dengan pelacakan biaya, guardrail, load balancing, dan logging [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM].

Gateway API dan AI

Coding AI GRATIS tanpa batas. Hubungkan Claude Code, Codex, Cursor, Cline, Copilot, Antigravity ke Claude/GPT/Gemini GRATIS melalui 40+ penyedia. Auto-fallback, RTK -40% token, tanpa batasan.

AI Gateway yang sangat cepat dengan guardrail terintegrasi. Arahkan ke 1.600+ LLM dan 50+ AI Guardrail dengan 1 API yang cepat dan ramah.

Solusi AI multi-penyewa generasi berikutnya. Dilengkapi dengan sistem admin & penagihan bawaan. Gateway LLM terpadu tingkat perusahaan yang mendukung lebih dari 200 model dan 35 penyedia, penyeimbangan beban dengan perutean berbasis prioritas, manajemen biaya, berbagi obrolan, sinkronisasi cloud, penagihan kredit/langganan, penguraian semua file, pencarian web, dan cache model bawaan.

AI gateway enterprise tercepat (50x lebih cepat dari LiteLLM) dengan penyeimbang beban adaptif, mode kluster, guardrails, dukungan 1000+ model & overhead <100 µs pada 5k RPS.

Plano adalah server proxy dan data plane berbasis AI untuk aplikasi agen. Perutean LLM cerdas, observabilitas, orkestrasi agen, dan guardrail agar Anda tetap fokus pada logika inti agen Anda.

Proxy AI multi-saluran dengan rotasi kunci cerdas.

Satu Hub untuk Semua LLM Anda | Gateway Agregasi API LLM yang dibuat untuk individu

Cloud-native, AI & API gateway performa sangat tinggi, manajemen API LLM, sistem distribusi, platform terbuka, mendukung semua API AI. Mendukung model utama seperti OpenAI, Azure, Anthropic Claude, Google Gemini, DeepSeek, dan lainnya. Permintaan dan respons API yang seragam, manajemen, statistik panggilan, penyeimbangan beban, dan failover multi-model. Deployment satu klik, siap pakai.

Rute, kelola, dan analisis permintaan LLM Anda di berbagai penyedia dengan antarmuka API yang bersatu.

Gateway kompresi non-destruktif untuk AI coding agents. Memotong biaya token sebesar 25% pada giliran pertama hingga lebih dari 85% dalam sesi panjang atau jenuh, dan memuat ~3× lebih banyak giliran dalam jendela konteks yang sama. Didukung oleh model 4B code-native open-source kami. Kompatibel langsung (drop-in) untuk Claude Code, Cursor, Codex, OpenHands, dan agen BASE_URL apa pun.

AI gateway / AI control plane / AI proxy yang ditulis dalam Go. API terpadu yang kompatibel dengan OpenAI dan Anthropic untuk OpenAI, Anthropic, Gemini, Groq, xAI, Ollama, vLLM, dan lainnya. Alternatif LiteLLM dengan observabilitas, guardrails, streaming, pelacakan biaya, perutean cerdas, sticky sessions, failover, log waktu nyata, dan pelacakan penggunaan. Siap produksi.

Debug AI agent Anda

Router LLM sumber terbuka & pengoptimal biaya AI. Secara otomatis merutekan prompt sederhana ke model murah/lokal, dan prompt kompleks ke model premium. Proxy kompatibel OpenAI siap pakai untuk Claude Code, Codex, Cursor, OpenClaw. Menghemat 40-70% biaya API AI. Dihosting sendiri, tanpa perantara.

Sederhanakan alur kerja Anda dengan Lynkr, alat CLI yang bertindak sebagai HTTP proxy untuk interaksi kode yang efisien menggunakan Claude Code CLI.