adversarial-attacks

Invites de libération totalement inoffensives pour les IA.

Framework d'émulation d'adversaires

Adversarial Robustness Toolbox (ART) - Bibliothèque Python pour la sécurité du machine learning - Évasion, empoisonnement, extraction, inférence - Red et Blue Teams

Augmentation de données pour le NLP.

TextAttack est un framework Python pour les attaques adverses, l'augmentation de données et l'entraînement de modèles en NLP.

Boîte à outils Python pour créer des exemples adverses destinés à tromper les réseaux de neurones sous PyTorch, TensorFlow et JAX.

Implémentation PyTorch d'attaques adverses [torchattacks].

Liste de lecture sur la sûreté, la sécurité et la confidentialité des grands modèles (incluant Awesome LLM Security, Safety, etc.).

Articles incontournables sur les attaques et défenses adverses textuelles.

Ce dépôt contient des simulations détaillées de campagnes APT ciblant divers secteurs critiques, incluant des outils personnalisés, serveurs C2, backdoors et techniques d'exploitation réelles.

Une bibliothèque adversarial PyTorch pour les méthodes d'attaque et de défense sur les images et les graphes

Une collection de méthodes de détection d'anomalies (iid/basées sur des points, graphes et séries temporelles) incluant l'apprentissage actif pour la détection/découverte d'anomalies, l'exploration de règles bayésiennes, et la description pour la diversité/explication/interprétabilité. Analyse de l'intégration des retours d'étiquetage avec des détecteurs d'ensemble et basés sur des arbres. Inclut des attaques adverses avec Graph Convolutional Network.

Code relatif à l'évaluation fiable de la robustesse adverse avec un ensemble d'attaques diverses sans paramètres.

Un jeu de test ImageNet plus difficile (CVPR 2021)

PromptInject est un framework modulaire d'assemblage de prompts permettant une analyse quantitative de la robustesse des LLM face aux attaques par injection. 🏆 Prix du meilleur article au NeurIPS ML Safety Workshop 2022.