agencyenterprise/PromptInject

PromptInject es un marco que ensambla prompts de forma modular para proporcionar un análisis cuantitativo de la robustez de los LLM frente a ataques adversarios. 🏆 Premio al mejor artículo en el NeurIPS ML Safety Workshop 2022

↗ Abrir en GitHub

Estrellas

522

Bifurcaciones

Lenguaje

Python

Licencia

MIT

Último push

hace 4 meses

Python machine-learning prompt-engineering large-language-models chain-of-thought ai-safety language-models gpt-3 adversarial-attacks agi agi-alignment ai-alignment ml-safety

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.

Intel relacionado (0)

Aún no hay intel relacionado