adversarial-attacks

PROMPT PEMBEBASAN YANG SEPENUHNYA TIDAK BERBAHAYA UNTUK AI YANG BAIK!

Kerangka kerja emulasi musuh (Adversary Emulation Framework).

Adversarial Robustness Toolbox (ART) - Library Python untuk Keamanan Machine Learning - Evasion, Poisoning, Extraction, Inference - Tim Merah dan Biru.

Augmentasi data untuk NLP.

TextAttack 🐙 adalah kerangka kerja Python untuk serangan adversarial, augmentasi data, dan pelatihan model dalam NLP https://textattack.readthedocs.io/en/master/

Toolbox Python untuk membuat contoh adversarial yang mengecoh jaringan saraf di PyTorch, TensorFlow, dan JAX

Implementasi serangan adversarial PyTorch [torchattacks].

Daftar bacaan untuk keamanan, keselamatan, dan privasi model besar (termasuk Awesome LLM Security, Safety, dll.).

Makalah yang wajib dibaca tentang Serangan dan Pertahanan Adversarial Teks

Repositori ini berisi simulasi musuh terperinci kampanye APT yang menargetkan berbagai sektor kritis. Setiap simulasi mencakup alat kustom, server C2, backdoor, teknik eksploitasi, stager, bootloader, dan artefak berbahaya lainnya yang mencerminkan yang digunakan dalam serangan dunia nyata.

Pustaka adversial pytorch untuk metode serangan dan pertahanan pada gambar dan grafik

Koleksi metode deteksi anomali (berbasis iid/titik, grafik, dan deret waktu) termasuk pembelajaran aktif untuk deteksi/penemuan anomali, penambangan aturan Bayesian, serta deskripsi untuk keragaman/penjelasan/interpretabilitas. Analisis penggabungan umpan balik label dengan detektor berbasis ensemble dan pohon. Termasuk serangan adversarial dengan Graph Convolutional Network.

Kode yang berkaitan dengan "Evaluasi keandalan ketahanan adversarial dengan sekumpulan serangan beragam tanpa parameter"

Kumpulan Pengujian ImageNet yang Lebih Sulit (CVPR 2021)

PromptInject adalah kerangka kerja yang merakit prompt secara modular untuk memberikan analisis kuantitatif tentang ketahanan LLM terhadap serangan prompt adversarial. 🏆 Penghargaan Makalah Terbaik @ NeurIPS ML Safety Workshop 2022