adversarial-attacks

Prompts de liberação inofensivos para IAs.

Framework de emulação de adversários.

Adversarial Robustness Toolbox (ART) - Biblioteca Python para segurança em Machine Learning - Evasão, Envenenamento, Extração, Inferência - Red e Blue Teams

Aumento de dados para NLP.

TextAttack é um framework Python para ataques adversários, aumento de dados e treinamento de modelos em NLP.

Uma caixa de ferramentas Python para criar exemplos adversários que enganam redes neurais em PyTorch, TensorFlow e JAX.

Implementação em PyTorch de ataques adversários [torchattacks]

Uma lista de leitura sobre segurança, proteção e privacidade de grandes modelos (incluindo Awesome LLM Security, Safety, etc.).

Artigos essenciais sobre ataques e defesas adversariais em texto

Este repositório contém simulações detalhadas de campanhas APT de adversários visando vários setores críticos. Cada simulação inclui ferramentas personalizadas, servidores C2, backdoors, técnicas de exploração, stagers, bootloaders e outros artefatos maliciosos que espelham aqueles usados em ataques do mundo real.

Uma biblioteca adversarial do PyTorch para métodos de ataque e defesa em imagens e grafos

Uma coleção de métodos de detecção de anomalias (baseados em iid/ponto, grafos e séries temporais), incluindo aprendizado ativo para detecção/descoberta de anomalias, mineração de regras bayesianas, descrição para diversidade/explicação/interpretabilidade. Análise de incorporação de feedback de rótulos com detectores baseados em ensembles e árvores. Inclui ataques adversariais com Graph Convolutional Network.

Código relacionado a "Avaliação confiável de robustez adversarial com um conjunto de diversos ataques sem parâmetros".

Um conjunto de testes ImageNet mais difícil (CVPR 2021)

PromptInject é um framework que monta prompts de forma modular para fornecer uma análise quantitativa da robustez de LLMs contra ataques de prompt adversarial. 🏆 Prêmio de Melhor Artigo no NeurIPS ML Safety Workshop 2022