De l’assistant au décideur : Pourquoi la sécurité de l’IA doit changer de paradigme
Imaginez que vous ayez engagé un assistant personnel. Au début, il se contentait de répondre à vos questions, de résumer des documents ou de traduire des textes. C’était pratique, mais inoffensif. Aujourd’hui, cet assistant a pris une toute autre dimension : il a désormais accès à vos comptes bancaires, il peut modifier votre calendrier, envoyer des e-mails en votre nom à des clients et partenaires et interagir avec d’autres systèmes autonomes en interne comme en externe pour accomplir des tâches complexes et ceci 24/7. Bien que les agents pilotés par les LLMs étendent les capacités des applications, ils introduisent des risques notables. Qu’il s’agisse d’appels d’outils contournant la décision du modèle ou d’une utilisation d’outils hors du périmètre prévu, ces comportements créent des vecteurs d’attaque pour des acteurs malveillants. Une vigilance accrue sur les permissions et le scope des tâches est indispensable. C’est la réalité de l’IA agentique. Depuis mon article sur la sécurité de l’IA, nous sommes passés d’une ère où l’on surveillait « ce qui est dit » (le contenu) à une ère où il est impératif de contrôler « ce qui est fait » (l’action). L’IA et l’IA agentique ne peuvent plus être déployées sans une défense robuste, intégrée dès la conception et qui tient compte également du shadow IA.
Cisco AI Defense : La tour de contrôle de votre stratégie IA
La sécurité de l’IA commence par la visibilité et se poursuit avec l’application de polices de sécurité. Avec Cisco AI Defense, nous avons créé une plateforme qui permet aux entreprises de garder le contrôle sur leurs modèles et les agents IA.
La sécurité agentique : Au-delà du simple monitoring
L’IA agentique introduit des risques inédits : un agent peut, par inadvertance, exfiltrer des données ou exécuter des commandes non autorisées. Le protocole MCP (Model Context Protocol) est une innovation majeure pour connecter les agents IA à vos outils, mais il présente des risques de sécurité. En servant de « pont universel », il peut devenir une porte d’entrée pour les cyberattaques s’il n’est pas bien protégé ou exposé publiquement. Pour contrer cela, Cisco a musclé ses solutions :
Nous avons annoncé des mises à jour d’AI Defense pour lutter contre les risques liés aux agents avec des fonctionnalités telles que le scan MCP, le red teaming agentique et des garde-fous spécialement conçus, mais également étendu les fonctions de sécurités sur nos solutions phares comme Secure Access (SSE) & Duo Agentic (IAM): Nous intégrons désormais des couches de sécurité spécifiques aux agents, garantissant que chaque interaction, qu’elle soit humaine ou machine, est authentifiée et conforme aux politiques de l’entreprise.
L’écosystème Open Source : La défense collaborative
La sécurité ne doit pas être un silo. Cisco mise également sur l’ouverture pour standardiser la protection des agents :
-
CodeGuard : Sécuriser le code à la source
Plutôt que de chercher des vulnérabilités après coup, CodeGuard intègre des règles de sécurité directement dans les workflows de développement. Il guide les agents de codage pour générer du code sécurisé dès la première ligne.
-
DefenseClaw : Le gardien de vos agents
DefenseClaw est une couche de gouvernance qui protège les environnements d’agents IA (comme OpenShell). Il effectue trois missions critiques :
- Admission Gate : Rien ne s’exécute sans être scanné (outils, plugins, code).
- Détection runtime : Il surveille le comportement en temps réel. Si un agent commence à agir de manière suspecte, il est immédiatement bloqué.
- Enforcement : Les listes d’autorisation sont appliquées en moins de deux secondes. Ce ne sont pas des suggestions, ce sont des murs.
-
Scanner et visibilité (MCP, AI BOM, A2A, Skill Scanner)
Nous avons déployé une suite d’outils spécialisés :
- MCP Scanner : Pour valider les serveurs Model Context Protocol.
- AI BOM : Pour une traçabilité totale des composants logiciels de votre IA.
- Cisco A2A Scanner : Pour sécuriser les communications entre agents.
- Skill Scanner : Pour analyser les risques liés aux outils et compétences utilisés par vos agents avant même leur déploiement.
Outils pour développeurs : La transparence comme boussole
- Pour naviguer dans ce paysage complexe, nous avons lancé le LLM Security Leaderboard. Il permet d’évaluer objectivement la résistance des modèles face aux attaques adverses.
- Couplé à notre Integrated AI Security and Safety Framework, qui cartographie plus de 150 techniques d’attaque, il offre aux équipes opérationnelles un langage commun pour gérer les risques, en parfaite adéquation avec les cadres réglementaires comme l’EU AI Act. Ce framework fait partie du principe de Cisco pour une intelligence artificielle responsable.
- Mettez vos agents IA à l’épreuve avant les attaquants : Cisco met à disposition un red-teaming capable de sonder, d’adapter et d’escalader pour débusquer les failles que les scanners statiques ignorent. Avec le lancement de Cisco AI Defense Explorer Edition, nous mettons le red teaming de l’IA agentique à la portée des concepteurs. Dès aujourd’hui, chacun peut exploiter les mêmes capacités de red teaming algorithmique qui alimentent nos solutions d’entreprise pour tester l’alignement, identifier les vulnérabilités aux attaques et simplifier la génération de rapports pour ses propres modèles et agents. L’évaluation via le red teaming prend à peine 20 minutes pour évaluer les performances du modèle dans plus de 200 sous-catégories de risques, y compris le vol de propriété intellectuelle, la toxicité et l’extraction de données sensibles.
Conclusion : La sécurité, socle de l’innovation
L’adoption de l’IA va continuer de croître de manière exponentielle. Cependant, cette croissance est fragile si elle n’est pas étayée par une défense rigoureuse. Sécuriser l’IA y compris la partie agentique n’est plus une option, c’est une composante fondamentale de tout programme de sécurité d’entreprise. Chez Cisco, nous croyons que l’ouverture, la transparence et l’automatisation sont les clés pour permettre aux organisations d’innover en toute confiance. Cisco sécurise non seulement le trafic vers les apps GenAI, mais aussi les agents IA, la chaîne d’approvisionnement IA et les workloads le tout intégré au réseau. Cisco offre une plateforme unifiée réseau incluant sécurité et observabilité avec XDR et Splunk comme socle d’un SOC assisté par IA. Cela se traduit par une intégration plus profonde, moins de silos d’outils et une gouvernance cohérente des usages et agents IA.
L’IA agentique est déjà présente et il est urgent de la sécuriser.
Authors
