Aller au contenu principal
buildradar
Sign in
Sujet · prompt-injection

prompt-injection

Dépôts open source suivis étiquetés prompt-injection, triés par étoiles.

Dépôts
17
Total d'étoiles
52 403
Étoiles en moyenne
3 083
Part
0,00%

Sujets qui apparaissent souvent aux côtés de prompt-injection sur un même dépôt.

Ascensions récentes

Dépôts créés au cours des 90 derniers jours et étiquetés prompt-injection.

Aucun nouveau dépôt étiqueté avec ce sujet au cours des 90 derniers jours.

  • SkillSpector@NVIDIA

    Scanner de sécurité pour les compétences des agents IA. Détectez les vulnérabilités, les modèles malveillants, les risques de sécurité, l'injection de prompts, l'exfiltration de données et les risques de chaîne d'approvisionnement dans Claude Code, Codex et les compétences MCP avant de les installer.

    15 711+697Évolution des étoiles sur les 7 derniers jours
  • iFixAi@ifixai-ai

    Audit indépendant d'agents IA. Exécuté par un humain ou par l'agent lui-même pour répondre à la question cruciale de l'économie des agents IA : l'agent fait-il ce qu'il est censé faire ? Avec iFixAi, obtenez cette réponse en moins de 120 secondes.

    12 643+1 459Évolution des étoiles sur les 7 derniers jours
  • superagent@superagent-ai

    Superagent protège vos applications IA contre les injections de prompts, les fuites de données et les sorties malveillantes. Intégrez la sécurité directement dans votre application et prouvez votre conformité à vos clients.

    6 725+6Évolution des étoiles sur les 7 derniers jours
  • AI-Infra-Guard@Tencent

    Une plateforme complète de Red Teaming pour l'IA, sécurisant les écosystèmes d'IA via l'analyse d'agents, de compétences, de MCP, d'infrastructures IA et l'évaluation de jailbreak LLM.

    6 117+128Évolution des étoiles sur les 7 derniers jours
  • Laboratoires de test d'intrusion IA pour mener des formations, incluant l'infrastructure nécessaire.

    2 056+7Évolution des étoiles sur les 7 derniers jours
  • ADR@uber

    ADR sécurise les agents d'IA en entreprise via l'observabilité, l'analyse comparative de sécurité et la détection des menaces. Déployé chez Uber.

    1 527+26Évolution des étoiles sur les 7 derniers jours
  • promptmap@utkusen

    Un scanner de sécurité pour les applications LLM personnalisées.

    1 263+9Évolution des étoiles sur les 7 derniers jours
  • langkit@whylabs

    LangKit : une boîte à outils open source pour la surveillance des grands modèles de langage (LLM). Extrait des signaux des invites et des réponses pour garantir la sécurité. Inclut des fonctionnalités d'analyse de la qualité du texte, de pertinence et d'analyse de sentiment. Un outil complet pour l'observabilité des LLM.

    996+2Évolution des étoiles sur les 7 derniers jours
  • pipelock@luckyPipewrench

    Pare-feu d'agent IA open source pour la sécurité MCP et la sortie d'agent. Analyse le trafic HTTP, MCP, A2A et WebSocket médiatisé pour détecter l'exfiltration, le SSRF et l'injection de prompt, et émet des reçus d'action signés par le médiateur : une preuve d'audit vérifiable externe à l'agent.

    835+13Évolution des étoiles sur les 7 derniers jours
  • ship-safe@asamassekou10

    Scanner de sécurité CLI conçu pour l'ère des agents. Détecte les erreurs de configuration CI/CD, les risques liés aux permissions des agents, l'injection d'outils MCP, les secrets codés en dur et les dépendances IA signalées par DMCA.

    832+3Évolution des étoiles sur les 7 derniers jours
  • api-relay-audit@toby-bridges

    Audit de sécurité local pour les relais d'API IA et les proxys LLM : détecte les injections de prompt, la substitution de modèles, la réécriture d'appels d'outils, les anomalies SSE, les fuites d'erreurs et les risques liés aux portefeuilles Web3.

    823+11Évolution des étoiles sur les 7 derniers jours
  • agentdojo@ethz-spylab

    Environnement dynamique pour évaluer les attaques et les défenses des agents LLM.

    804+17Évolution des étoiles sur les 7 derniers jours
  • Toutes les défenses pratiques et proposées contre l'injection de prompt.

    729+1Évolution des étoiles sur les 7 derniers jours
  • skylos@duriantaco

    Scanner de PR open source axé sur le local, détectant le code mort, les failles de sécurité, les secrets, les régressions de qualité et les erreurs de code généré par IA avant la fusion.

    646+4Évolution des étoiles sur les 7 derniers jours
  • agent-opfor@KeyValueSoftwareSystems

    Émulation d'adversaires open source pour les agents IA et les serveurs MCP.

    577+1Évolution des étoiles sur les 7 derniers jours
  • Adrian@secureagentics

    Outil de sécurité open source pour agents IA : surveille et contrôle les agents IA, détecte l'utilisation malveillante d'outils, les injections de prompt et la dérive de politique en temps réel, avant que l'agent n'agisse.

    559+7Évolution des étoiles sur les 7 derniers jours
  • hol-guard@hashgraph-online

    Open-source antivirus for AI agents: block risky tools, secret access, prompt injection, malicious packages, MCP servers, plugins, and skills at runtime.

    558Évolution des étoiles sur les 7 derniers jours
← Retour aux sujets