openlit

Open-Source-Plattform für AI Engineering: OpenTelemetry-native LLM-Beobachtbarkeit, GPU-Überwachung, Schutzvorrichtungen, Evaluierungen, Prompt-Management, Vault, Playground. Integriert sich mit über 50 LLM-Anbietern, VectorDBs, Agent-Frameworks und GPUs.