prompt-injection
Dépôts open source suivis étiquetés prompt-injection, triés par étoiles.
Sujets associés
Sujets qui apparaissent souvent aux côtés de prompt-injection sur un même dépôt.
Ascensions récentes
Dépôts créés au cours des 90 derniers jours et étiquetés prompt-injection.
Aucun nouveau dépôt étiqueté avec ce sujet au cours des 90 derniers jours.
- #1
Scanner de sécurité pour les compétences des agents IA. Détectez les vulnérabilités, les modèles malveillants, les risques de sécurité, l'injection de prompts, l'exfiltration de données et les risques de chaîne d'approvisionnement dans Claude Code, Codex et les compétences MCP avant de les installer.
★ 15 711+697Évolution des étoiles sur les 7 derniers jours - #2
Audit indépendant d'agents IA. Exécuté par un humain ou par l'agent lui-même pour répondre à la question cruciale de l'économie des agents IA : l'agent fait-il ce qu'il est censé faire ? Avec iFixAi, obtenez cette réponse en moins de 120 secondes.
★ 12 643+1 459Évolution des étoiles sur les 7 derniers jours - #3
Superagent protège vos applications IA contre les injections de prompts, les fuites de données et les sorties malveillantes. Intégrez la sécurité directement dans votre application et prouvez votre conformité à vos clients.
★ 6 725+6Évolution des étoiles sur les 7 derniers jours - #4
Une plateforme complète de Red Teaming pour l'IA, sécurisant les écosystèmes d'IA via l'analyse d'agents, de compétences, de MCP, d'infrastructures IA et l'évaluation de jailbreak LLM.
★ 6 117+128Évolution des étoiles sur les 7 derniers jours - #5
Laboratoires de test d'intrusion IA pour mener des formations, incluant l'infrastructure nécessaire.
★ 2 056+7Évolution des étoiles sur les 7 derniers jours - #6
ADR sécurise les agents d'IA en entreprise via l'observabilité, l'analyse comparative de sécurité et la détection des menaces. Déployé chez Uber.
★ 1 527+26Évolution des étoiles sur les 7 derniers jours - #7★ 1 263+9Évolution des étoiles sur les 7 derniers jours
- #8
LangKit : une boîte à outils open source pour la surveillance des grands modèles de langage (LLM). Extrait des signaux des invites et des réponses pour garantir la sécurité. Inclut des fonctionnalités d'analyse de la qualité du texte, de pertinence et d'analyse de sentiment. Un outil complet pour l'observabilité des LLM.
★ 996+2Évolution des étoiles sur les 7 derniers jours - #9
Pare-feu d'agent IA open source pour la sécurité MCP et la sortie d'agent. Analyse le trafic HTTP, MCP, A2A et WebSocket médiatisé pour détecter l'exfiltration, le SSRF et l'injection de prompt, et émet des reçus d'action signés par le médiateur : une preuve d'audit vérifiable externe à l'agent.
★ 835+13Évolution des étoiles sur les 7 derniers jours - #10
Scanner de sécurité CLI conçu pour l'ère des agents. Détecte les erreurs de configuration CI/CD, les risques liés aux permissions des agents, l'injection d'outils MCP, les secrets codés en dur et les dépendances IA signalées par DMCA.
★ 832+3Évolution des étoiles sur les 7 derniers jours - #11
Audit de sécurité local pour les relais d'API IA et les proxys LLM : détecte les injections de prompt, la substitution de modèles, la réécriture d'appels d'outils, les anomalies SSE, les fuites d'erreurs et les risques liés aux portefeuilles Web3.
★ 823+11Évolution des étoiles sur les 7 derniers jours - #12
Environnement dynamique pour évaluer les attaques et les défenses des agents LLM.
★ 804+17Évolution des étoiles sur les 7 derniers jours - #13
Toutes les défenses pratiques et proposées contre l'injection de prompt.
★ 729+1Évolution des étoiles sur les 7 derniers jours - #14
Scanner de PR open source axé sur le local, détectant le code mort, les failles de sécurité, les secrets, les régressions de qualité et les erreurs de code généré par IA avant la fusion.
★ 646+4Évolution des étoiles sur les 7 derniers jours - #15
Émulation d'adversaires open source pour les agents IA et les serveurs MCP.
★ 577+1Évolution des étoiles sur les 7 derniers jours - #16
Outil de sécurité open source pour agents IA : surveille et contrôle les agents IA, détecte l'utilisation malveillante d'outils, les injections de prompt et la dérive de politique en temps réel, avant que l'agent n'agisse.
★ 559+7Évolution des étoiles sur les 7 derniers jours - #17
Open-source antivirus for AI agents: block risky tools, secret access, prompt injection, malicious packages, MCP servers, plugins, and skills at runtime.
★ 558—Évolution des étoiles sur les 7 derniers jours