llm-gateway

코딩을 멈추지 마세요. 무료 MIT AI 게이트웨이: 단일 엔드포인트, 340개 제공업체(90개 이상 무료), 1200개 이상의 모델 — Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Claude Code, Codex, Cursor, OpenCode, Cline 및 Copilot과 함께 작동합니다. 할당량 인식 자동 대체, RTK+Caveman 압축으로 15-95% 토큰 절약, MCP/A2A, 데스크톱/PWA. 450명 이상의 기 contribuer가 제작

가장 빠르고 가벼운 AI Gateway. Rust 코어와 Python SDK 제공. 비용 추적, 가드레일, 로드 밸런싱, 로깅 기능을 포함하여 OpenAI(또는 네이티브) 형식으로 100개 이상의 LLM API 호출 가능 [Bedrock, Azure, OpenAI, Anthropic, VertexAI, vLLM, Nvidia NIM]

🦍 API 및 AI Gateway

무제한 무료 AI 코딩. 40개 이상의 제공자를 통해 Claude Code, Codex, Cursor, Cline, Copilot, Antigravity를 무료 Claude/GPT/Gemini에 연결하세요. 자동 폴백, RTK -40% 토큰, 한도 초과 방지.

가드레일이 통합된 초고속 AI Gateway. 1개 패스트 앤 프렌들리 API로 1,600개 이상의 LLM과 50개 이상의 AI 가드레일에 라우팅합니다.

🚀 차세대 멀티테넌트 AI 원스톱 솔루션. 관리자 및 빌링 시스템 내장. 200개 이상의 모델과 35개 이상의 제공자를 지원하는 엔터프라이즈급 통합 LLM 게이트웨이, 우선순위 기반 라우팅 로드 밸런싱, 비용 관리, 채팅 공유, 클라우드 동기화, 크레딧/구독 빌링, 모든 파일 파싱, 웹 검색, 내장 모델 캐시.

적응형 로드 밸런서, 클러스터 모드, 가드레일, 1000개 이상의 모델 지원, 5k RPS에서 100 µs 미만의 오버헤드를 갖춘 가장 빠른 엔터프라이즈 AI 게이트웨이(LiteLLM보다 50배 빠름)

Plano는 에이전틱 앱을 위한 AI 네이티브 프록시 서버이자 데이터 플레인입니다. 스마트 LLM 라우팅, 관측 가능성, 에이전트 오케스트레이션, 가드레일을 제공하여 에이전트의 핵심 로직에 집중할 수 있도록 지원합니다.

지능형 키 로테이션 기능이 있는 다채널 AI 프록시

개인을 위한 모든 LLM API 통합 게이트웨이

클라우드 네이티브, 초고성능 AI 및 API 게이트웨이, LLM API 관리, 배포 시스템, 오픈 플랫폼. 모든 AI API 지원

통합 API 인터페이스를 통해 여러 제공업체에 걸쳐 LLM 요청을 라우팅, 관리 및 분석합니다.

AI 코딩 에이전트를 위한 비파괴 압축 게이트웨이. 첫 턴에서 25%, 길거나 포화된 세션에서는 85% 이상 토큰 비용을 절감하며, 동일한 컨텍스트 윈도우에 약 3배 더 많은 턴을 수용합니다. 오픈소스 코드 네이티브 4B 모델 기반. Claude Code, Cursor, Codex, OpenHands 및 모든 BASE_URL 에이전트와 호환됩니다.

Go로 작성된 AI 게이트웨이 / AI 컨트롤 플레인 / AI 프록시. OpenAI, Anthropic, Gemini, Groq, xAI, Ollama, vLLM 등을 위한 통합 OpenAI 및 Anthropic 호환 API. 가이드레일, 스트리밍, 비용 추적, 지능형 라우팅, 고정 세션, 장애 조치, 실시간 로그 및 사용량 추적 기능을 갖춘 LiteLLM 대안. 프로덕션 환경에 즉시 사용 가능.

AI 에이전트 디버깅하기

오픈 소스 LLM 라우터 및 AI 비용 최적화 도구. 단순 프롬프트는 저렴한/로컬 모델로, 복잡한 프롬프트는 프리미엄 모델로 자동 라우팅. Claude Code, Codex, Cursor, OpenClaw와 호환되는 OpenAI 프록시. AI API 비용 40-70% 절감 가능. 셀프 호스팅 지원.

Claude Code CLI를 사용하는 효율적인 코드 상호작용을 위한 HTTP 프록시 역할을 하는 CLI 도구 Lynkr로 워크플로우를 간소화하세요.