prompt-injection

Scanner de segurança para habilidades de agentes de IA. Detecta vulnerabilidades, padrões maliciosos, riscos de segurança, injeção de prompt, exfiltração de dados e riscos na cadeia de suprimentos em habilidades do Claude Code, Codex e MCP antes da instalação.

Auditoria independente de agentes de IA. Executada por humanos ou pelo próprio agente para responder à pergunta mais crucial na economia de agentes de IA: o agente está fazendo o que deveria fazer? Com o iFixAi, você obtém essa resposta em menos de 120 segundos.

O Superagent protege suas aplicações de IA contra injeções de prompt, vazamentos de dados e saídas prejudiciais. Integre a segurança diretamente em seu aplicativo e comprove a conformidade aos seus clientes.

Uma plataforma full-stack de Red Teaming para IA que protege ecossistemas de IA por meio de varredura de agentes, habilidades, MCP, infraestrutura de IA e avaliação de jailbreak de LLM.

Laboratórios de playground para Red Teaming de IA, incluindo infraestrutura para treinamentos.

O ADR protege agentes de IA corporativos por meio de observabilidade, benchmarking de segurança e detecção de ameaças. Implantado no Uber.

Um scanner de segurança para aplicações LLM personalizadas

🔍 LangKit: Um toolkit de código aberto para monitorar Large Language Models (LLMs). 📚 Extrai sinais de prompts e respostas, garantindo segurança. 🛡️ Os recursos incluem qualidade de texto, métricas de relevância e análise de sentimento. 📊 Uma ferramenta abrangente para observabilidade de LLMs. 👀

Scanner de segurança CLI criado para a era dos agentes. Detecta configurações incorretas de CI/CD, riscos de permissão de agentes, injeção de ferramentas MCP, segredos codificados e dependências de IA sinalizadas pela DMCA.

Firewall de agente de IA de código aberto para segurança MCP e saída de agentes. Analisa tráfego HTTP, MCP, A2A e WebSocket mediado em busca de exfiltração, SSRF e injeção de prompt, e emite recibos de ação assinados pelo mediador: evidência de auditoria verificável externa ao agente.

Auditoria de segurança local para relays de API de IA e proxies de LLM: detecta injeção de prompt, substituição de modelo, reescrita de chamadas de ferramentas, anomalias em SSE, vazamento de erros e riscos em carteiras Web3.

Um ambiente dinâmico para avaliar ataques e defesas para agentes de LLM.

Todas as defesas práticas e propostas contra prompt injection.

Scanner de PR local-first de código aberto que encontra código morto, bugs de segurança, segredos, regressões de qualidade e erros de código de IA antes do merge. Para iniciantes, consulte https://duriantaco.github.io/skylos/repo-map/

Emulação de adversário de código aberto para agentes de IA e servidores MCP.

Open-source antivirus for AI agents: block risky tools, secret access, prompt injection, malicious packages, MCP servers, plugins, and skills at runtime.

Ferramenta open-source de segurança em tempo de execução para agentes de IA — monitora e controla agentes de IA, detectando uso malicioso de ferramentas, injeção de prompt e desvio de políticas em tempo real, antes que o agente aja.