Combattre l’IA avec l’IA : robots antagonistes contre chasseurs de menaces autonomes

J’ai récemment fait une présentation à SecTor sur la chasse proactive aux menaces, ce qui a ensuite déclenché des conversations animées dans le salon. Sur le site du salon, entourés de fournisseurs de sécurité « AI-first », les RSSI et les chasseurs de menaces avec lesquels j’ai parlé étaient inquiets. Ils sont inquiets parce que l’IA peut élever les script kiddies au rang de hackers d’élite dotés de capacités avancées et de légions de robots IA adversaires et nous ne sommes pas préparés à cela – du moins, pas encore.

S’il ne fait aucun doute que l’IA recèle un grand potentiel en matière de cybersécurité, dans la pratique, elle est principalement utilisée pour automatiser ce que nous faisons déjà. Pour que les entreprises aient une chance, nous avons besoin de nouvelles approches en matière de défense basée sur l’IA, et non d’approches optimisées.

Le problème de l’asymétrie

Les attaquants disposent déjà d’avantages systémiques que l’IA amplifie considérablement. Bien qu’il existe d’excellents exemples de la manière dont l’IA peut être utilisée à des fins de défense, ces méthodes, si elles sont utilisées contre nous, pourraient être dévastatrices. Par exemple, XBOW est un robot de test d’intrusion autonome, créé par une startup du même nom. C’est un produit de sécurité et impressionnant en plus. Cet été, pour la première fois dans l’histoire du bug bounty, le testeur d’intrusion autonome de XBOW a atteint la première place du classement HackerOne pendant plusieurs mois consécutifs.

Il est important de noter que même si ses robots de test d’intrusion étaient complètement autonomes, il y avait toujours des humains dans le circuit. Outre le fait que HackerOne exige un examen humain des résultats avant leur soumission, XBOW a construit une infrastructure spécialisée pour l’aider à prioriser les analyses. Malgré cela, ses conclusions ont été impressionnantes, notamment la découverte d’une vulnérabilité jusqu’alors inconnue dans la solution VPN GlobalProtect de Palo Alto Networks, affectant plus de 2 000 hôtes. Je vous encourage à lire comment XBOW y est parvenu, ainsi que la réaction des praticiens.

De toute évidence, l’IA peut absolument dynamiser les tests de stylet, en réalisant en quelques minutes ce qui prend généralement des heures ou des jours aux humains. Mais les entreprises doivent encore apporter des correctifs. Et comme nous le savons, plus vous disposez d’outils, plus vous recevez d’alertes. L’IA peut aider à établir des priorités, mais la réalité est que la plupart des entreprises ne disposent pas de la visibilité ou du contexte dont elles ont besoin pour automatiser entièrement la remédiation.

C’est un problème depuis l’époque de l’IDS contre l’IPS et il persiste encore aujourd’hui. Il ne s’agit pas seulement de détecter et de valider les menaces : il s’agit également de la rapidité avec laquelle les entreprises peuvent y répondre, en particulier dans des environnements très complexes.

J’ai déjà travaillé dans une entreprise avec un million de points de terminaison qui faisait fonctionner 50 000 serveurs quotidiennement. Chacun de ces 50 000 événements a eu un effet d’entraînement sur l’environnement. Dans une autre entreprise, nous avions 2 000 instances de Log4j à corriger. Comme beaucoup de mes pairs, manquant de contexte quant aux instances qui représentaient la plus grande menace, nous avons commencé à appliquer des correctifs aux systèmes accessibles sur Internet, puis sommes passés aux systèmes internes. Je suis sûr que bon nombre de ces cas étaient des impasses. Mais comme nous n’avions aucun moyen de le savoir, nous avons dû tous les réparer.

Il est difficile d’obtenir un contexte à cette échelle. La plupart des entreprises disposent de plusieurs couches défensives – et elles présentent toutes des défauts. En utilisant les faiblesses de ces couches, les attaquants les parcourent et créent des chemins d’attaque. La question est : comment pouvons-nous trouver ces chemins avant eux ?

Dans cet esprit, réfléchissez à la façon dont un mauvais acteur pourrait exploiter un outil comme XBOW. Ou encore Hexstrike-AI, un autre outil de défense basé sur des agents qui agit comme une couche d’orchestration et d’abstraction pour coordonner un grand nombre d’agents d’IA spécialisés afin de lancer des opérations complexes à grande échelle. Il a été récupéré par des pirates informatiques pour exploiter trois vulnérabilités zero-day affectant les appliances NetScaler ADC et NetScaler Gateway dans les 12 heures suivant leur divulgation.

Maintenant, voyez-vous pourquoi nous sommes si inquiets ?

Le problème de l’identité

Un autre problème majeur avec les robots IA adverses est qu’ils sont souvent difficiles à repérer. La plupart des attaquants ne s’introduisent pas par effraction, ils se connectent. L’abus d’identifiants reste le principal moyen utilisé par les attaquants pour atteindre leurs cibles, car les humains sont toujours vulnérables au phishing et l’accès avec le moindre privilège reste un problème difficile à résoudre. Et juste au moment où nous commençons à faire des progrès, des innovations technologiques majeures, telles que le passage d’une informatique sur site à une informatique cloud native, ajoutent une dette technique, une complexité supplémentaire et de nouveaux risques. C’est vraiment un jeu de taupe.

Les robots compliquent encore davantage la sécurité de l’identité, car les humains consentent à ce que les agents agissent en leur nom. Mais les agents, comme les humains, peuvent avoir des autorisations excessives. Cela ouvre la porte aux pirates informatiques pour détourner des agents légitimes – ceux qui ont le consentement d’agir au nom d’une personne ou d’une entreprise – et détourner leur intention.

De plus, les robots fonctionnent 24h/24 et 7j/7, traversant les défenses sans fatigue. Les robots défensifs doivent les rencontrer sur ce terrain. Ils doivent être aussi intelligents que les robots adverses et capables de déterminer, en temps réel, si les actions d’un agent correspondent à son objectif. Étant donné que la plupart des cyberexpositions sont causées par des erreurs humaines – des menaces internes accidentelles – nous avons également besoin de robots défensifs pour protéger les utilisateurs d’eux-mêmes. Selon le Verizon DBIR 2025, 60 % des violations impliquaient une erreur humaine.

Les arguments en faveur des jumeaux numériques en matière de sécurité

J’espère que j’ai maintenant démontré pourquoi les améliorations progressives ne suffiront pas. Je ne dis pas qu’ils ne sont pas utiles ou bienvenus, je ne crois tout simplement pas qu’ils égaliseront les règles du jeu. Cependant, un domaine prometteur qui me passionne est l’utilisation de jumeaux numériques pour la modélisation des menaces en temps réel.

Les jumeaux numériques ont commencé comme des jumeaux physiques, développés par la NASA pour évaluer et simuler les conditions à bord d’Apollo 13 après l’explosion de ses réservoirs d’oxygène au début de la mission. Ils ont joué un rôle essentiel dans la résolution des problèmes techniques rencontrés par les astronautes à 200 000 milles de distance et ont été largement reconnus pour avoir aidé à les ramener chez eux en toute sécurité.

Le concept de « jumeau » a lentement évolué du physique au numérique, mais a pris un essor en 2020 lorsque les appareils IoT ont suffisamment mûri pour servir de technologie de capteurs capables de reproduire des environnements complexes. Cela a ouvert la porte à leur utilisation dans la robotique, l’industrie manufacturière et les soins de santé – de la simulation d’interventions chirurgicales à l’optimisation des soins contre le cancer – et, bien sûr, dans l’informatique.

La défense des grandes entreprises implique d’innombrables tâches banales (correctifs, sauvegardes, etc.). L’automatisation est utile, mais tout changement d’environnement, même positif, peut créer de nouvelles voies d’attaque contre des actifs critiques, invisibles pour les défenseurs. Les jumeaux numériques aident les équipes à comprendre rapidement quels chemins d’attaque sont les plus risqués et à prioriser les mesures correctives bien plus efficacement que ne le peuvent les outils existants.

Les robots IA et les jumeaux numériques accordent une attention constante à la sécurité 24 heures sur 24, 7 jours sur 7 et 365 jours par an

Je dis souvent que les professionnels de la sécurité ne peuvent pas résoudre des problèmes dont nous ignorons l’existence. C’est pourquoi la recherche proactive des menaces est si importante : si nous ne recherchons pas les menaces, nous ne les trouverons pas. Certainement pas aussi facilement que XBOW nous l’a montré avec les robots IA agents. La chasse aux menaces humaine est limitée par les capacités humaines, le temps et les frictions de production. L’utilisation de robots IA au sein d’un jumeau numérique permet une recherche continue et multithread des menaces et une validation des chemins d’attaque sans impact sur les environnements de production. Cela répond de manière significative aux défis de priorisation auxquels les équipes de sécurité et informatiques sont confrontées.

En réalité, les jumeaux numériques offrent aux équipes de sécurité les mêmes avantages que les jumeaux physiques fournis aux scientifiques de la NASA il y a plus de 55 ans : des simulations précises de l’impact d’un changement donné sur des surfaces d’attaque vastes, complexes et hautement dynamiques. De plus, il est passionnant d’imaginer comment l’UX pourrait évoluer pour aider les défenseurs à visualiser ce qui se passe d’une manière sans précédent.

Pensez grand

L’IA est une technologie véritablement transformationnelle et il est passionnant de réfléchir à la façon dont la défense IA peut évoluer au cours des prochaines années. J’encourage les créateurs de produits à voir grand. Pourquoi ne pas s’inspirer de la science-fiction ? De Philip K. Dick, William Gibson, Isaac Asimov et Neal Stephenson aux œuvres centenaires de Jules Verne, nous pouvons ensemencer notre imagination collective avec les idées d’artistes et de futuristes.

Dans la lutte contre l’IA malveillante, j’ai bon espoir que notre humanité sera notre plus grand atout. Si nous pouvons le conceptualiser, l’IA peut nous aider à le construire.

Cet article est publié dans le cadre du Foundry Expert Contributor Network.
Voulez-vous nous rejoindre ?