ai-gateway

Không bao giờ ngừng lập trình. Cổng AI MIT miễn phí: một điểm cuối, 350 nhà cung cấp (hơn 90 miễn phí), hơn 1200 mô hình gồm Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Tương thích với Claude Code, Codex, Cursor, OpenCode, Cline và Copilot. Tự động chuyển đổi thông minh khi hết hạn ngạch, nén RTK+Caveman tiết kiệm 15-95% token, hỗ trợ MCP/A2A, Desktop/PWA. Được xây dựng bởi hơn 450 cộng tác viên

AI Gateway nhanh nhất và nhẹ nhất. Lõi Rust với SDK Python. Gọi hơn 100 API LLM theo định dạng OpenAI (hoặc nguyên bản) với tính năng theo dõi chi phí, bộ lọc an toàn, cân bằng tải và ghi log

Một trung tâm mô hình AI thống nhất để tổng hợp và phân phối. Nó hỗ trợ chuyển đổi chéo các LLM khác nhau sang định dạng tương thích với OpenAI, Claude hoặc Gemini. Một cổng tập trung để quản lý mô hình cá nhân và doanh nghiệp. 🍥

🦍 Cổng API và AI Gateway

Coding AI MIỄN PHÍ không giới hạn. Kết nối Claude Code, Codex, Cursor, Cline, Copilot, Antigravity với Claude/GPT/Gemini MIỄN PHÍ qua hơn 40 nhà cung cấp. Tự động chuyển đổi dự phòng, tiết kiệm 40% token RTK, không bao giờ chạm giới hạn.

Cloud-Native API Gateway và AI Gateway

Một IAM (Quản lý Danh tính và Truy cập) mã nguồn mở hướng tới agent / LLM MCP & agent gateway cùng máy chủ xác thực có giao diện web hỗ trợ OpenClaw, MCP, OAuth, OIDC, SAML, CAS, LDAP, SCIM, WebAuthn, TOTP, MFA, Face ID, Google Workspace, Azure AD

Proxy nhà cung cấp đa năng cho OpenAI Codex & Claude Code — sử dụng bất kỳ LLM nào (Claude, Gemini, Grok, DeepSeek, Ollama…) với Codex CLI, App, SDK và Claude Code

AI Gateway cực nhanh với các bộ lọc an toàn tích hợp. Định tuyến tới hơn 1.600 LLM, hơn 50 AI Guardrails chỉ với 1 API nhanh chóng và thân thiện.

🚀 Giải pháp AI một điểm dừng đa khách thuê (multi-tenant) thế hệ mới. Tích hợp hệ thống quản trị & thanh toán. Cổng LLM hợp nhất cấp doanh nghiệp hỗ trợ hơn 200 mô hình và hơn 35 nhà cung cấp, cân bằng tải với định tuyến dựa trên mức độ ưu tiên, quản lý chi phí, chia sẻ đoạn chat, đồng bộ đám mây, thanh toán theo hạn mức/gói đăng ký, phân tích mọi loại tệp, tìm kiếm web, bộ nhớ đệm mô hình tích hợp sẵn.

🤖 AI Gateway | Cổng API gốc tích hợp AI

Cổng AI doanh nghiệp nhanh nhất (nhanh hơn 50 lần so với LiteLLM) với bộ cân bằng tải thích ứng, chế độ cụm, tính năng bảo vệ, hỗ trợ hơn 1000 mô hình & độ trễ <100 µs ở mức 5k RPS.

Plano là một máy chủ proxy gốc AI và data plane cho các ứng dụng agent. Định tuyến LLM thông minh, khả năng quan sát, điều phối agent và cơ chế bảo vệ giúp bạn tập trung vào logic cốt lõi của agent.

AI proxy đa kênh với tính năng xoay vòng khóa thông minh.

Bộ định tuyến Mixture-of-Models có thể lập trình cho suy luận LLM dị thể

Proxy tác nhân thế hệ mới dành cho AI Agent và MCP server

Nền tảng truy cập bảo mật zero trust thống nhất tự lưu trữ FOSS thế hệ mới, có thể hoạt động như một VPN truy cập từ xa, nền tảng ZTNA, cổng API/AI/MCP, PaaS, giải pháp thay thế ngrok và hạ tầng homelab.

Bộ định tuyến mô hình cho các hệ thống tác nhân (agentic systems). Định tuyến mọi câu lệnh đến mô hình phù hợp trong <50ms. Giảm chi phí 40-70% chỉ với một thay đổi điểm cuối (endpoint).

GoClaw - GoClaw là OpenClaw được xây dựng lại bằng Go — với tính năng cách ly đa đối tượng thuê, bảo mật 5 lớp và khả năng đồng thời gốc. Triển khai các nhóm AI agent quy mô lớn mà không làm giảm độ an toàn.

Bảng điều khiển quản lý CPA / CLIProxyAPI tự lưu trữ và bảng điều khiển khả năng quan sát AI gateway cho các yêu cầu, mức sử dụng, chi phí, hạn mức, lỗi và trạng thái tài khoản.

Chuyển đổi giữa các tài khoản Claude, Gemini, Copilot, OpenRouter (hơn 300 mô hình) thông qua proxy OAuth CLIProxyAPI. Bảng điều khiển trực quan, hỗ trợ proxy từ xa, dự phòng WebSearch. Không cần cấu hình đến sẵn sàng cho môi trường sản xuất.

KrakenD Community Edition: API Gateway hiệu suất cao, không trạng thái, khai báo, được viết bằng Go.

Một Hub tổng hợp tất cả LLM dành cho bạn

Quản lý quyền truy cập thống nhất vào các dịch vụ Generative AI được xây dựng trên Envoy Gateway

Nền tảng mã nguồn mở, đầu cuối để đánh giá, theo dõi và cải thiện các ứng dụng LLM và AI agent. Truy vết · Đánh giá · Mô phỏng · Tập dữ liệu · Gateway · Guardrails. Có thể tự lưu trữ. Apache 2.0.

Cổng AI & API cloud-native hiệu năng cực cao, quản lý API LLM, hệ thống phân phối, nền tảng mở, hỗ trợ tất cả các API AI. Không giới hạn ở OpenAI, Azure, Anthropic Claude, Google Gemini, DeepSeek, ByteDance Doubao, ChatGLM, Ernie Bot, iFlytek Spark, Tongyi Qianwen, 360 Brain, Tencent Hunyuan và các mô hình phổ biến khác. Hỗ trợ thống nhất yêu cầu và phản hồi API, đăng ký và phê duyệt API, thống kê cuộc gọi, cân bằng tải, dự phòng đa mô hình. Triển khai một cú nhấp chuột, sẵn sàng sử dụng ngay.

Định tuyến, quản lý và phân tích các yêu cầu LLM của bạn trên nhiều nhà cung cấp với một giao diện API thống nhất.

Nơi tập trung để gọi tất cả các tác nhân của bạn - OpenCode, Hermes, Claude Managed Agents, Cursor Agents API, DeepAgents.

TokenHub cung cấp cho doanh nghiệp một cổng riêng để thống nhất quyền truy cập và quản trị mô hình AI, giúp mọi yêu cầu đều có thể kiểm soát, truy xuất và quy trách nhiệm.

AI gateway / AI control plane / AI proxy viết bằng Go. Cung cấp API thống nhất tương thích với OpenAI và Anthropic cho OpenAI, Anthropic, Gemini, Groq, xAI, Ollama, vLLM và nhiều nền tảng khác. Một giải pháp thay thế LiteLLM với khả năng quan sát, guardrails, streaming, theo dõi chi phí, định tuyến thông minh, sticky sessions, failover, nhật ký thời gian thực và theo dõi sử dụng. Sẵn sàng cho môi trường sản xuất.