agencyenterprise/PromptInject

PromptInject é um framework que monta prompts de forma modular para fornecer uma análise quantitativa da robustez de LLMs contra ataques de prompt adversarial. 🏆 Prêmio de Melhor Artigo no NeurIPS ML Safety Workshop 2022

↗ Abrir no GitHub

Estrelas

522

Bifurcações

Linguagem

Python

Licença

MIT

Último push

há 4 meses

Python machine-learning prompt-engineering large-language-models chain-of-thought ai-safety language-models gpt-3 adversarial-attacks agi agi-alignment ai-alignment ml-safety

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.

Intel relacionado (0)

Ainda não há intel relacionado