openlit

AI 工程开源平台：原生支持 OpenTelemetry 的 LLM 可观测性、GPU 监控、护栏（Guardrails）、评估、提示词管理、保险箱（Vault）、游乐场（Playground）。🚀💻 集成超过 50 种 LLM 提供商、向量数据库（VectorDB）、Agent 框架与 GPU。