llm-ops

🦍 API 與 AI 閘道

在雲端將任何開源 LLM（如 DeepSeek、Llama）作為兼容 OpenAI 的 API 端點運行。

企業級、商業友好的代理工作流平台，用於構建下一代 SuperAgents

Julep — 耐用且可組合的 AI 代理。支援流程崩潰後恢復、安全重試，並說明每一步。

AutoRAG：現在你的代理能在電腦中尋找任何東西，使用頻率越高越聰明

LLM 評估與 AI 代理測試的平台

針對 AI agents 的追蹤原生 CI/CD — 生產環境失敗轉化為阻擋 PR 的迴歸測試。自動偵測、分群、封裝為隔離案例，在 CI 中以 0 美元重播。

AI 協作試算表。將儲存格串聯成強大的管線，實驗提示詞與模型，並即時評估 LLM 回應。透過無縫協作來建構與迭代 AI 應用程式。

AIConfig 是一個基於設定檔的框架，用於建構生成式 AI 應用程式。

中國首個企業級多代理 IT 維運平台。支援 Zabbix/Prometheus 的 LLM 驅動自動修復，並支援 Docker 部署。