prompt-injection

AI 에이전트 스킬용 보안 스캐너. Claude Code, Codex, MCP 스킬을 설치하기 전에 취약점, 악성 패턴, 보안 위험, 프롬프트 인젝션, 데이터 유출, 공급망 위험을 감지합니다.

AI 에이전트 독립 감사. AI 에이전트 경제에서 가장 중요한 질문에 답하기 위해 사람이 직접 또는 에이전트 스스로 실행합니다. 에이전트가 의도대로 작동하고 있나요? iFixAi를 사용하면 120초 이내에 이 질문에 대한 답을 얻을 수 있습니다.

Superagent는 프롬프트 인젝션, 데이터 유출, 유해한 출력으로부터 AI 애플리케이션을 보호합니다. 앱에 직접 보안을 내장하고 고객에게 준법성을 증명하세요.

에이전트 스캔, 스킬 스캔, MCP 스캔, AI 인프라 스캔 및 LLM 탈옥 평가를 통해 AI 생태계를 보호하는 풀스택 AI 레드 테이밍 플랫폼.

인프라를 포함한 AI 레드 팀(Red Teaming) 교육을 실행하기 위한 AI 레드 팀 플레이그라운드 실습 환경

ADR은 관측 가능성, 보안 벤치마킹 및 위협 탐지를 통해 엔터프라이즈 AI 에이전트를 보호합니다. Uber에 배포되어 있습니다.

커스텀 LLM 애플리케이션을 위한 보안 스캐너

LangKit: 대규모 언어 모델(LLM) 모니터링을 위한 오픈소스 툴킷. 프롬프트와 응답에서 신호를 추출하여 안전성을 보장하며, 텍스트 품질, 관련성 지표, 감정 분석 등의 기능을 제공하는 LLM 관측성 도구

에이전트 시대를 위해 구축된 CLI 보안 스캐너입니다. CI/CD 설정 오류, 에이전트 권한 위험, MCP 도구 주입, 하드코딩된 비밀 정보 및 DMCA 플래그가 지정된 AI 종속성을 탐지합니다.

MCP 보안 및 에이전트 외부 송신을 위한 오픈 소스 AI 에이전트 방화벽. 중계되는 HTTP, MCP, A2A, WebSocket 트래픽의 데이터 유출, SSRF, 프롬프트 인젝션을 스캔하고, 에이전트 외부에서 생성된 검증 가능한 감사 증거인 중계자 서명 액션 영수증을 발행합니다.

AI API 릴레이 및 LLM 프록시를 위한 로컬 보안 감사: 프롬프트 인젝션, 모델 대체, 도구 호출 재작성, SSE 이상 징후, 오류 유출 및 Web3 월렛 위험을 감지합니다.

LLM 에이전트를 위한 공격 및 방어 평가 동적 환경

프롬프트 인젝션에 대한 모든 실용적이고 제안된 방어 기법

병합 전에 죽은 코드, 보안 버그, 보안 비밀, 품질 저하 및 AI 코드 실수를 찾아내는 오픈 소스 로컬 우선 PR 스캐너. 처음 사용하는 분은 https://duriantaco.github.io/skylos/repo-map/ 참조

AI 에이전트 및 MCP 서버를 위한 오픈소스 적대적 에뮬레이션 도구

Open-source antivirus for AI agents: block risky tools, secret access, prompt injection, malicious packages, MCP servers, plugins, and skills at runtime.

오픈소스 런타임 AI 에이전트 보안 도구. AI 에이전트를 모니터링 및 제어하며, 에이전트가 동작하기 전에 악의적인 도구 사용, 프롬프트 인젝션, 정책 드리프트를 실시간으로 탐지합니다.