agencyenterprise/PromptInject

@agencyenterprise

PromptInject は、プロンプトをモジュール形式で組み立て、敵対的プロンプト攻撃に対する LLM のロバスト性を定量的に分析するフレームワークです。🏆 NeurIPS ML Safety Workshop 2022 Best Paper Award 受賞

↗ GitHub で開く

スター

522

フォーク

55

言語

Python

ライセンス

MIT

最終プッシュ

4 か月前

Python machine-learning prompt-engineering large-language-models chain-of-thought ai-safety language-models gpt-3 adversarial-attacks agi agi-alignment ai-alignment ml-safety

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。