openlit

AI 工程開源平台：原生支援 OpenTelemetry 的 LLM 可觀測性、GPU 監控、護欄（Guardrails）、評估、提示詞管理、保險箱（Vault）、遊樂場（Playground）。🚀💻 整合超過 50 種 LLM 提供商、向量資料庫（VectorDB）、Agent 框架與 GPU。