anthropic-api

Bộ công cụ AI được cung cấp năng lượng bởi các mô hình tiên tiến nhất và cung cấp các chức năng AI/AGI nâng cao. Bao gồm nhân vật AI, chức năng AGI, trò chuyện đa mô hình Beam đẳng cấp thế giới, chuyển văn bản thành hình ảnh, giọng nói, phát trực tuyến phản hồi, tô sáng và thực thi mã, nhập PDF, cài đặt sẵn cho nhà phát triển và nhiều hơn thế nữa. Triển khai tại chỗ hoặc trên đám mây.

⚡️ AI Gateway mã nguồn mở — Sử dụng bất kỳ SDK nào để gọi hơn 100 LLM. Tích hợp sẵn cơ chế chuyển đổi dự phòng, cân bằng tải, kiểm soát chi phí và theo dõi đầu cuối.

Chuyển đổi giữa các tài khoản Claude, Gemini, Copilot, OpenRouter (hơn 300 mô hình) thông qua proxy OAuth CLIProxyAPI. Bảng điều khiển trực quan, hỗ trợ proxy từ xa, dự phòng WebSearch. Không cần cấu hình đến sẵn sàng cho môi trường sản xuất.

Máy chủ suy luận LLM hiệu năng cao tương thích với OpenAI và Anthropic dành cho Apple Silicon. Hỗ trợ MLX native, continuous batching, các mô hình đa phương thức, gọi công cụ MCP và Claude Code.

NeuroAPI: AI API của Nga dành cho Codex CLI và Claude Code — trình cài đặt một cú click an toàn cho Windows và macOS.

Máy chủ suy luận LLM gốc cho Apple Silicon. Tương thích với API OpenAI và Anthropic. Không sử dụng Python. Bao gồm ứng dụng MLX Core trên macOS với tính năng trò chuyện, chế độ đại lý và gọi công cụ.

Proxy CC tối tân

NotebookLM của Google nhưng chạy cục bộ

MLX Studio - Nơi của JANG_Q - Tạo/Chỉnh sửa Ảnh + Trò chuyện/Mã nguồn Tất cả trong một - + OpenClaw (Anthropic API)

vMLX - JANGTQ Uber Compressed MLX Models - L2 Disk Cache (duy trì sau khi khởi động lại) + L1 Paged (ttft siêu nhanh) + Hybrid SSM Scheduler + Cont Batching + v.v!

Bộ định tuyến LLM tự lưu trữ với lớp bảo mật được quản lý. Tương thích với OpenAI. Hỗ trợ BYOK. Không gian làm việc đơn lẻ. Hỗ trợ streaming. Để định tuyến nâng cao hơn, hãy chọn OrcaRouter được lưu trữ.

Các dự án AI để xây dựng vào cuối tuần. Dành cho nhà phát triển: yêu cầu Python hoặc Node.js, khóa API Anthropic và sự thành thạo với terminal. Bao gồm mã nguồn khởi đầu và README cho mỗi dự án.

Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.