Les RSSI doivent se préparer à une attaque de découverte de vulnérabilités, même si les attaquants auront encore du travail à faire pour opérationnaliser les failles découvertes par des modèles d’IA abusés et malveillants.
L’avènement de Claude Mythos combiné à la sortie du GPT-5.5 d’OpenAI ont a changé le modèle de menace pour les RSSI.
L’arrivée de ces modèles d’IA d’avant-garde – et de ceux qui suivront bientôt – facilite grandement la découverte et l’enchaînement des vulnérabilités à une vitesse et à une échelle qui obligeront la plupart des cyber-départements à repenser leurs stratégies et leurs opérations.
Frontière sauvage
Bien que l’accès à Mythos reste limité à un nombre limité de partenaires de confiance, des plates-formes comparables de découverte de vulnérabilités basées sur l’IA sont en préparation, et peu d’experts pensent que l’accès à des modèles d’IA suffisamment performants sera longtemps caché aux attaquants. Anthropic lui-même a maintenant rendu public le modèle d’IA Fable 5 de « classe Mythos », avec des garde-fous de cybersécurité supplémentaires.
Noe Ramos, vice-président des opérations IA chez Agiloft, affirme que les RSSI devraient partir du principe que les attaquants auront accès à des capacités de type IA de pointe d’ici quelques mois, voire plus tôt.
« Qu’il s’agisse de jailbreaks, de dérivés open-weight affinés ou de versions black-hat spécialement conçues, les acteurs de la menace déterminés sont ingénieux et motivés », explique Ramos. « Les capacités de l’IA à la frontière ont tendance à se diffuser plus rapidement que ne le prévoit la communauté de la sécurité et plus lentement que ne le suggèrent les gros titres. Les défenseurs devraient planifier en fonction de la première. »
Plutôt que de jailbreaker des modèles frontières, il est plus probable que les attaquants accèdent à des plates-formes de découverte de vulnérabilités performantes en affinant des modèles ouverts sur des données de sécurité offensives et en les exécutant localement.
« Ce type de découverte de vulnérabilités à l’échelle industrielle et de génération d’exploits potentiels n’est pas quelque chose auquel la plupart des pays du monde sont vraiment préparés en termes d’implications en aval des effets qu’elles auront sur la défendabilité des organisations », conclut Roesch.
Will Barker, conseiller en cybersécurité chez Huntress, fournisseur de solutions de détection et de réponse gérées, convient que la recherche montre que la découverte de vulnérabilités basée sur l’IA n’est plus quelque chose que seuls les modèles de pointe peuvent faire.
«Des modèles à pondération ouverte plus petits trouvent déjà les mêmes types de jours zéro et exploitent des chaînes», explique Barker.
Ces résultats impliquent que le modèle lui-même n’est pas toujours le plus grand différenciateur.
« La vraie valeur vient de tout ce qui l’entoure : la manière dont le travail est orchestré, la manière dont les résultats sont validés, la manière dont le bruit est filtré et la rapidité avec laquelle les humains peuvent transformer ces résultats en actions », explique Barker.
Découverte de vulnérabilité compressée
Un jeune chercheur en sécurité disposant d’un accès API à un modèle frontalier peut trouver des vulnérabilités sans le travail de rétro-ingénierie qui nécessitait auparavant une équipe expérimentée.
« C’est dans les failles logiques que cela frappe le plus », déclare Nik Kale, ingénieur principal et membre de la Coalition for Secure AI (CoSAI). « Les scanners traditionnels ne les ont jamais bien détectés parce que le code n’est pas déchiffré, mais simplement stratégiquement erroné. Un LLM frontière lit une hypothèse de confiance codée en dur comme s’il lisait un paragraphe. C’est l’écart qui s’est ouvert, et il ne se referme pas. »
Frontier AI a considérablement réduit le temps de découverte pour les classes de vulnérabilités bien comprises : variantes d’injection SQL, erreurs de configuration courantes, éléments qui correspondent à des modèles CVE connus.
Raphael Peyret, ancien chef de produit chez Google devenu conseiller en démarrage chez SHA/RP, affirme que les obstacles à la création d’un exploit fiable à partir d’une vulnérabilité ont été abaissés plutôt que supprimés.
« Dans de nombreux cas, trouver la faiblesse n’est plus le goulot d’étranglement », explique Peyret. « Mais les nouveaux zéros jours dans les cibles durcies constituent un problème véritablement différent, et cela nécessite toujours une expertise humaine. »
Matthew Bidwell, fondateur de Newzino.com, confirme cette évaluation. « La contrainte majeure pour les attaquants est passée de la recherche de bogues à leur opérationnalisation : transformer une faille hypothétique en un exploit fonctionnel, l’enchaîner à une cible réelle, échapper à la détection et (et) persister », dit-il.
Le changement le plus significatif dans le paysage de la découverte des vulnérabilités est d’ordre économique plutôt que technique, selon plusieurs experts.
« Les attaquants exécutent à peu près la même stratégie qu’ils ont toujours utilisée », note Peyret. « Ce qui a changé, c’est le coût unitaire d’une campagne crédible, et il a considérablement diminué. »
D’autres experts ont convenu que l’IA transforme la découverte de vulnérabilités, passant d’un métier humain rare à un problème informatique évolutif.
« Les systèmes de classe Mythos compressent la reconnaissance, le tri des cibles, la personnalisation de la charge utile et l’ingénierie sociale en quelques minutes », déclare Noah M. Kenney, fondateur et consultant principal chez Digital 520. « Des jailbreaks et des forks de chapeau noir se produiront, mais le plus grand risque est que l’IA d’entreprise légitime soit retournée contre l’entreprise qui l’a déployée.
Les attaquants n’ont pas besoin de Mythos lui-même ; ils ont besoin de flux de travail de découverte de vulnérabilités de type Mythos, déclare Mudit Sinha, responsable de l’IA chez Lineaje.
« Les mythes sont peut-être coûteux et restreints aujourd’hui, mais l’écart se réduit rapidement grâce à des modèles frontières, des cybermodèles spécialisés et des harnais noirs autour de l’IA à usage général », dit-il.
Exploiter les voies
Le goulot d’étranglement historique dans les cyberopérations offensives était la découverte de nouvelles faiblesses. Selon Kai CISO Alfredo Hickman, les cybersystèmes natifs d’IA automatisent le raisonnement du code, l’identification du chemin d’attaque et l’analyse des variantes à la vitesse de la machine.
« La contrainte passe de « Pouvons-nous trouver des bugs ? à « Pouvons-nous les militariser et les faire évoluer de manière fiable ? » », dit-il.
Louis Leung, développeur de logiciels et co-fondateur d’InFlow Inventory, estime que le véritable défi des attaquants consiste à transformer une faiblesse découverte en une capacité stable, furtive et reproductible qui survit aux contrôles défensifs modernes et produit un impact opérationnel.
« Le plus difficile est de transformer le bug en un exploit fonctionnel et stable qui fonctionne dans des environnements de production réels, dotés de solutions modernes de défense, de surveillance et de correctifs », dit-il. « Les attaquants ont de plus en plus besoin d’enchaîner plusieurs faiblesses dans les environnements SaaS – comme les systèmes d’inventaire et d’entrepôt – plus qu’ils n’ont besoin d’identifier le premier point de faiblesse. »
« Nous envisageons de prendre peut-être trois ou quatre CVE de très faible niveau et de les enchaîner pour devenir quelque chose de élevé ou de critique », a-t-il déclaré. « C’est quelque chose que nous n’avons pas vu : juste ce que les modèles eux-mêmes font avec une simple invite. »
Ouvrir la boîte de Pandore
Les experts en sécurité indépendants ont toutefois tenu à éviter de blâmer Anthropic pour avoir ouvert une boîte de Pandore pleine de découvertes de vulnérabilités.
« Je pense qu’Anthropic essaie de faire ce qu’il faut en impliquant les organisations dès le début, en leur permettant de tester, de se renforcer et de mieux comprendre à quoi cela ressemble dans la nature avant qu’il ne soit largement disponible », déclare Melissa Bischoping, directrice principale de la recherche sur la sécurité et la conception de produits chez Tanium. « Ce n’est pas une solution parfaite, mais l’esprit et l’intention sont bien placés. »
Bischoping, membre du conseil d’administration du SANS Technology Institute, prévient qu’il existe des inquiétudes quant à savoir si le contrôle du changement organisationnel peut agir assez rapidement pour mettre en œuvre ce que Mythos découvre avant que Mythos ne soit dans la nature.
« Les flux de travail de correctifs agents sont possibles et peuvent suivre le rythme de l’IA adverse dans de nombreux cas, mais la politique (organisationnelle) et le contrôle des changements ne fonctionnent pas au rythme de l’IA aujourd’hui », explique Bischoping.
Contre-mesures
Pour les défenseurs, la réponse au défi posé par les modèles d’IA de pointe est une correction plus rapide des vulnérabilités.
« Les équipes de sécurité doivent cesser de traiter la découverte des vulnérabilités comme une partie difficile et commencer à les corriger de manière agressive », affirme Sinha de Lineaje. « Les CVE connus sont le point de départ le plus simple : prioriser, valider l’exploitabilité, corriger, tester et vérifier en continu. Les mêmes modèles frontières qui peuvent détecter les vulnérabilités ont souvent une certaine capacité à y remédier, mais ils ont besoin d’un harnais autour d’elles : contexte des actifs, SBOM, validation de l’exploitabilité, génération de correctifs, vérifications CI/CD, tests en bac à sable et approbation humaine pour les changements à risque.
Ramos, d’AI Operations, ajoute : « Si l’IA fait apparaître des vulnérabilités à un rythme qui dépasse la remédiation humaine, et Mythos suggère que ce sera le cas, alors la priorité stratégique doit s’orienter vers le confinement et la résilience. »
« Supposons une brèche. Réduisez le rayon de l’explosion », conclut Ramos.
