llm-security

Herramienta de pruebas de penetración de IA de código abierto para encontrar y corregir las vulnerabilidades de tu aplicación.

Plantillas de nube listas para ejecutar para RAG, pipelines de IA y búsqueda empresarial con datos en vivo. Compatible con Docker. Siempre sincronizado con SharePoint, Google Drive, S3, Kafka, PostgreSQL, APIs de datos en tiempo real y más.

Auditoría independiente de agentes de IA. Ejecutada por humanos o por el propio agente, para responder a la pregunta más crucial en la economía de los agentes de IA: ¿Está el agente haciendo lo que se supone que debe hacer? Con iFixAi puedes obtener esta respuesta en menos de 120 segundos.

el escáner de vulnerabilidades para LLM

NeMo Guardrails es un kit de herramientas de código abierto para añadir fácilmente barreras de protección programables a sistemas conversacionales basados en LLM.

Una plataforma de Red Teaming de IA full-stack que asegura ecosistemas de IA mediante escaneo de agentes, habilidades, MCP, infraestructura de IA y evaluación de jailbreak de LLM.

🐢 Biblioteca de pruebas y evaluación de código abierto para agentes LLM

rutas de ejecución seguras para agentes: cero confianza, cero configuración, cero latencia.

[CCS'24] Un conjunto de datos que consta de 15,140 prompts de ChatGPT de Reddit, Discord, sitios web y conjuntos de datos de código abierto (incluyendo 1,405 prompts de jailbreak).

Una colección de métodos científicos, procesos, algoritmos y sistemas para construir historias y modelos.

Entorno de seguridad ofensiva aumentado por IA de código abierto. Más de 13 agentes autónomos, más de 150 proveedores de LLM, más de 5300 modelos, más de 7600 habilidades de ataque firmadas con Ed25519, más de 56 herramientas integradas, más de 176 herramientas MCP. MITRE ATT&CK, OWASP WSTG, CIS Benchmarks. Post-explotación: Linux/Windows/macOS/AWS/Azure/K8s/CI-CD. Interfaz web + Cloudflare Tunnel. Tu equipo rojo de IA.

Un framework de tiempo de ejecución de engaño de bajo código seguro, que aprovecha la IA para la virtualización de sistemas.

Escáner de vulnerabilidades para LLM basado en agentes / kit de red teaming para IA.

Una herramienta potente para el fuzzing automatizado de LLM, diseñada para ayudar a desarrolladores e investigadores de seguridad a identificar y mitigar posibles jailbreaks en sus API de LLM.

ADR asegura agentes de IA empresariales mediante observabilidad, evaluación comparativa de seguridad y detección de amenazas. Implementado en Uber.

OWASP Top 10 para aplicaciones de modelos de lenguaje grandes (Parte del proyecto de seguridad GenAI).

Un escáner de seguridad para tus flujos de trabajo de agentes LLM

Escáner de seguridad centrado en IA. NUEVO en v2026.7: detección de compromiso de Claude Code — verifica hooks, permisos y habilidades de .claude/ antes de clonar — además de un escáner de firmas de ataque de IA siempre activo y reglas nativas para Rust y PHP. También: medusa scan --git para verificar cualquier repositorio, medusa secrets scan para claves API filtradas. Más de 40,000 patrones, configuración cero.

Un framework de Python fácil de usar para generar prompts de jailbreak adversarios.

Firewall de agentes de IA de código abierto para la seguridad de MCP y la salida de agentes. Analiza el tráfico HTTP, MCP, A2A y WebSocket mediado en busca de exfiltración, SSRF e inyección de prompts, y emite recibos de acción firmados por el mediador: evidencia de auditoría verificable desde fuera del agente.

Escáner de seguridad CLI diseñado para la era de los agentes. Detecta configuraciones erróneas en CI/CD, riesgos de permisos de agentes, inyección de herramientas MCP, secretos codificados y dependencias de IA marcadas por DMCA.

Auditoría de seguridad local para relés de API de IA y proxies de LLM: detecta inyección de prompts, sustitución de modelos, reescritura de llamadas a herramientas, anomalías SSE, fuga de errores y riesgos de billetera Web3.

Autonomous Offensive Security, Bug Bounty & Red Teaming Agent Framework powered by Hermes Agent, specialized reasoning skills, and multi-model LLM orchestration.

Proporcione a cada agente de IA su propia máquina aislada con root, Docker y systemd. La defensa activa detecta y detiene las amenazas automáticamente.

Seguridad en tiempo de ejecución para aplicaciones y agentes de IA: detección de inyección de prompts, autorización de llamadas a herramientas, redacción de datos sensibles, protección contra bots y limitación de tasa. Integrable en tu código JS/TS.

Documentos y recursos relacionados con la seguridad y privacidad de los LLM 🤖

Emulación de adversarios de código abierto para agentes de IA y servidores MCP.

Herramienta de seguridad de tiempo de ejecución de código abierto para agentes de IA: supervisa y controla agentes de IA, detectando el uso malicioso de herramientas, inyección de prompts y desviación de políticas en tiempo real, antes de que el agente actúe.