litellm

Das schnellste, leichteste AI-Gateway. Rust-Core mit Python-SDK. 100+ LLM-APIs im OpenAI- (oder nativen) Format aufrufen mit Kostenverfolgung, Sicherheitsmechanismen, Lastausgleich und Logging [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

Open-Source-Multimodal-Retrieval-Engine (Morphik Core). Von Morphik – KI-Back-Office für Pflegeheime und Seniorenresidenzen (morphik.ai).

Externer Modell-Router für Codex mit geführtem Kimi OAuth/API, DeepSeek, sicherer Migration und Rollback.

Kuratierte Fähigkeiten, Sub-Agents und Konfigurationsvorlagen, die Claude Code superladen — Forschung, Bilderstellung, GitHub-Automatisierung und mehr.

Ein zentraler Ort für den Aufruf all Ihrer Agents – OpenCode, Hermes, Claude Managed Agents, Cursor Agents API, DeepAgents.

Eine Sammlung von Werkzeugen, die Agenten mächtige Fähigkeiten verleihen.

Ein KI-Co-Wissenschaftler, der auf Ihrem Desktop läuft. Claude Science, nur besser.

Bewerten Sie die Antworten Ihres LLM mit Prometheus und GPT4 💯

Agenten-Beispiele, erstellt mit dem Strands Agents SDK.

Selbstgehosteter LLM-Router mit verwaltetem Sicherheitsnetz. OpenAI-kompatibel. BYOK. Single-Workspace. Streaming. Für fortgeschrittenes Routing wählen Sie das gehostete OrcaRouter.

A local OpenAI- and Anthropic-compatible proxy that serves your Claude AND ChatGPT subscriptions to Cursor, Cline, Aider, Claude Code and the Agent SDK — either plan answering either wire shape, with automatic failover between them when one hits its limit. Multi-account pooling and live drift detection keep long agent runs stable.