ai-alignment

使用 Parlant 建構可靠的面向客戶 AI 代理：一套針對受控、一致且可預測 LLM 互動優化的互動控制框架。

AI 代理的獨立審計。由人類或代理自行執行，以回答 AI 代理經濟中最關鍵的問題：代理是否在執行其應有的任務？使用 iFixAi，您可在 120 秒內得到答案。

PromptInject 是一個以模組化方式組合提示詞的框架，用於對 LLM 對抗性提示攻擊的穩健性進行定量分析。榮獲 NeurIPS ML Safety Workshop 2022 最佳論文獎。