Les experts affirment que l’IA agentique changera rapidement de cybersécurité, libérant des talents pour se concentrer sur un travail plus dynamique. Mais avec les agents de l’IA toujours à leurs balbutiements, ils exhortent également les CISO à poser beaucoup de questions avant de s’engager dans ce nouveau paradigme de sécurité.
Le sujet le plus chaud des conférences Black Hat and Def Con a été l’émergence fulgurante d’outils d’intelligence artificielle pour les cyber-adversaires et les défenseurs, en particulier l’utilisation de l’IA agentique pour renforcer les programmes de cybersécurité.
Bien que les cyber-défenseurs se soient appuyés sur des outils d’apprentissage automatique de type AI pour automatiser les tâches et trouver des bogues depuis près de 20 ans, un nouveau lot de systèmes d’IA et d’outils d’IA agentiques propulsés par de grands modèles de langage (LLMS) n’a fait que faire irruption sur la scène.
Les experts disent que si les agents de l’IA comportent des risques de sécurité, parfois au niveau des semi-conducteurs, ils offrent également des opportunités d’automatiser les tâches fastidieuses pour libérer des professionnels de la sécurité rares pour s’attaquer aux problèmes plus importants dans un effet multiplicateur de force. Mais ils avertissent également que les CISO devraient procéder à la prudence et protéger leurs organisations et leurs données avant de permettre aux agents de l’IA de se promener de manière autonome à travers leurs réseaux.
Que sont les agents de l’IA?
Bien que l’intelligence artificielle soit désormais comprise dans toute la société en raison de chatbots populaires tels que Chatgpt, l’agent AI n’a pas encore émergé avec une définition couramment comprise. IBM définit génériquement les agents d’IA comme «un système qui effectue de manière autonome des tâches en concevant des workflows avec des outils disponibles».
Mais à un niveau pratique, la définition de l’IA agentique est plus difficile à épingler – et reste en flux. «Qu’est-ce que l’agent AI?» Demande Mesta. « Est-ce différent d’un LLM? Est-ce une interface de chat? Et je pense que la réponse est que ce n’est pas aussi définitif que peut-être que nous le souhaiterions parce qu’il semble que tout le monde ait une définition différente. »
La confiance, la transparence et le déplacement lentement sont cruciaux
Comme toutes les technologies, et peut-être plus dramatiquement que la plupart, l’agent AI comporte à la fois des risques et des avantages. Un risque évident des agents de l’IA est que, comme la plupart des modèles LLM, ils halluner ou combleront des erreurs qui pourraient causer des problèmes.
« Si vous souhaitez supprimer ou donner une agence à un outil de plate-forme pour prendre des décisions en votre nom, vous devez gagner beaucoup de confiance dans le système pour vous assurer qu’il agit dans votre meilleur intérêt », explique Seri. «Cela peut halluciner, et vous devez être vigilant pour maintenir une chaîne de preuves entre une conclusion que le système vous a donné et d’où elle vient.»
Un autre risque est que dans la précipitation frénétique pour incorporer des agents de l’IA, les organisations pourraient négliger des problèmes de sécurité fondamentaux.
«C’est une nouvelle technologie et les gens se déplacent rapidement pour l’expédier et innover et faire de nouvelles choses», Hillai Ben-Sasson, chercheur en sécurité du cloud chez Wiz. «Tout le monde crée des serveurs MCP pour que ses services aient une IA à interagir avec eux. Mais un MCP à la fin de la journée est la même chose qu’une API. (Ne faites pas) toutes les mêmes erreurs que les gens ont commis lorsqu’ils ont commencé à créer des API il y a dix ans. Tous ces problèmes d’authentification et jetons, tout ce qui n’est que la sécurité de l’API.»
L’IA agentique peut changer la donne
Malgré ce que beaucoup considèrent comme un battage médiatique entourant l’avènement de l’IA, les experts disent que s’ils sont mis en œuvre avec une délibération et une diligence raisonnable, les avantages des agents de l’IA changent la donne pour la cybersécurité.
Les agents de l’IA sont «l’avenir», dit Ben-Sasson de Wiz. « Cependant, étant donné que l’étape actuelle du développement de l’IA est toujours immature, les agents de l’IA pourraient, comme un ingénieur junior, faire beaucoup d’erreurs. C’est pourquoi nous avons différents ensembles d’autorisation. C’est pourquoi nous avons des garde-corps et ainsi de suite. »
Le véritable avantage des agents de l’IA est qu’ils peuvent s’attaquer aux tâches ennuyeuses mais nécessaires de la cybersécurité pour libérer les talents pour assumer des tâches plus complexes, accélérant ainsi les programmes de sécurité et devenant un multiplicateur de main-d’œuvre.
«Nous avons fait une cuisson de la génération trois de certains de nos agents contre l’un de nos meilleurs chercheurs en sécurité pour créer un correctif à baisse pour une vulnérabilité critique sur une pièce très populaire de logiciel open-source», explique Root.ioo. « Et ce chercheur a mis huit jours pour créer un correctif qui n’était autrement pas disponible. Il a nécessité de modifier 17 extraits de code différents dans trois engins logiciels différents. Les agents de l’IA l’ont fait en moins de 15 minutes. Quand vous y pensez, ce n’est pas un multiplicateur 10x, c’est 1000x. »
Force la multiplication signifie des changements de compétences, pas des pertes d’emploi
Malgré le potentiel de supprimer les tâches que de nombreux analystes de la sécurité effectuent aujourd’hui, l’agent AI ne réduira probablement pas la taille de la main-d’œuvre actuelle de cybersécurité. «Personne n’est licencié au lieu des agents», explique Riopel.
«Je pense que nous traversons un changement de compétences, et je ne l’appellerais pas un remplacement total», explique Mesta de Rad Security. « Ce que l’IA va faire, c’est d’impact le type de travaux de style de mélange de papier de niveau inférieur où j’avais un rapport CSV, je vais le mettre dans Excel, et je vais créer un billet », ajoute Mesta.
Mais, dit-il, «cela débloquera une productivité extrême pour les équipes de sécurité pour ceux qui savent comment l’utiliser, ce qui est, je pense, le grand astérisque. Si vous êtes anti-AI et que ce n’est pas une compétence qui, selon vous, devrait être dans votre boîte à outils, ce sera difficile à aller de l’avant pour maintenir le même niveau d’ancienneté que vous avez maintenant.»
Seri de Zafran Security pense qu’il est faux de dire que l’avènement des agents de l’IA signifie que nous aurons maintenant besoin de moins d’experts en cybersécurité. «Nous en aurons besoin de plus», dit-il. «Il y a une opportunité avec ces outils pour automatiser et vous faciliter la vie, mais ce n’est pas pour remplacer l’expertise que les gens accumulent au fil du temps.»
Comment les CISO devraient se dérouler dans le déploiement d’agents d’IA
Tous les experts disent que le déploiement d’agents d’IA à l’intérieur des organisations est un accord conclu et arrivera plus rapidement que tout autre changement de technologie, y compris l’adoption du cloud computing. «Ce train a non seulement quitté la gare; c’est un train à grande vitesse», explique Mesta. «C’est comme le train le plus rapide jamais réalisé.»
Les CISO doivent être immédiatement attachées et se débattre avec les implications d’une technologie qu’ils ne contrôlent pas toujours pleinement, si pour aucune autre raison, les membres de leur équipe se tourneront probablement vers les plateformes d’IA pour développer leurs solutions de sécurité. «Dire non ne fonctionne pas. Vous devez dire oui avec des garde-corps», explique Mesta.
À ce stade encore naissant de l’IA agentique, les CISO devraient poser des questions, dit Riopel. Mais il souligne que la principale «question que vous devriez poser est: comment puis-je forcer la multiplication ou l’efficacité de mon équipe dans un très court laps de temps? Et en peu de temps, ce ne sont pas des mois; ce devrait être des jours. C’est le type de retour que nos clients, même dans des environnements de type d’entreprise, voient.»
Tout le monde n’accepte pas que la poursuite des délais compressés est la bonne stratégie. «Dans de nombreux cas, du point de vue du CISO, le point à retenir ici est que les services d’IA agentiques qu’ils utilisent sont toujours immatures», explique Riancho de Wiz. «C’est toujours une industrie immature. Nous avons besoin d’années d’amélioration de la sécurité pour nous assurer que tout est plus stable et sécurisé pour les entreprises et les utilisateurs finaux.»
Mais Riancho pense également que les CISO devraient poser beaucoup de questions maintenant. «Je poserais des questions difficiles. Donc, avant de connecter réellement un agent à mes dispositifs de point final, à mon infrastructure, à mon SOC, à n’importe quoi, à poser la question difficile: quelles actions vont être effectuées par ces agents?»
Une question essentielle que les CISO devraient se poser est ce qui arrive aux informations de leurs organisations une fois qu’il a été introduit dans un produit d’origine agentique du fournisseur.
«Je ne veux pas que mes données vont à d’autres fournisseurs comme OpenAI ou anthropic ou quiconque n’est pas le fournisseur de sécurité», explique Seri de Zafran Security. « Ceci est fondamental: assurez-vous que les données que vous partagez ne conduisent pas dans le monde et ne voient pas les sites. »
