openlit

Plataforma de código aberto para engenharia de IA: observabilidade de LLM nativa do OpenTelemetry, monitoramento de GPU, guardrails, avaliações, gerenciamento de prompts, Vault e Playground. Integra-se com mais de 50 provedores de LLM, bancos de dados vetoriais, frameworks de agentes e GPUs.