agencyenterprise/PromptInject

PromptInject 是一个以模块化方式组合提示词的框架，用于对 LLM 对抗性提示攻击的稳健性进行定量分析。荣获 NeurIPS ML Safety Workshop 2022 最佳论文奖。