Des incidents récents montrent que les attaquants vont au-delà des leurres de phishing écrits par LLM et utilisent l’IA à travers les chaînes d’attaque. Les équipes de sécurité doivent affiner leurs playbooks en réponse.
Les entreprises travaillent depuis des années pour améliorer les temps de détection et de réponse face à des attaques de plus en plus sophistiquées qui reposent sur le piratage manuel et sur des techniques de survie. L’IA menace désormais d’anéantir ces efforts.
Un nombre croissant d’acteurs malveillants automatisent toutes les phases des attaques, y compris les mouvements latéraux en utilisant des agents basés sur LLM, réduisant ainsi considérablement le temps écoulé entre l’accès initial et les compromissions profondes de l’environnement.
« Le vrai changement réside dans la vitesse, l’échelle et l’orchestration : les techniques d’attaque cloud familières ont été exécutées plus rapidement et sur plus de surfaces que les défenseurs ne pouvaient confortablement contenir », ont écrit la semaine dernière des chercheurs de la société de sécurité Sygnia dans un rapport sur une compromission de l’environnement cloud assistée par l’IA sur laquelle ils ont enquêté.
Le rapport de Sygnia fait suite à une recherche de Sysdig sur une campagne de cyber-intrusion et d’extorsion menée de bout en bout par un agent IA autonome. Les actions entreprises par l’agent comprenaient la collecte d’informations d’identification, la cartographie des services internes et l’établissement de la persistance.
Ce que montrent les deux incidents, c’est que les attaques d’IA ont dépassé les scripts de malware écrits par LLM et les leurres de phishing pour gérer toutes les étapes des chaînes d’attaque, y compris les parties qui nécessitaient auparavant un raisonnement humain et l’exécution de commandes pratiques adaptées à l’environnement.
Le mois dernier, des chercheurs de l’Université de Toronto ont révélé qu’ils avaient réussi à créer un ver auto-réplicant alimenté par l’IA, capable de trouver et d’exploiter de manière autonome les faiblesses de dizaines de systèmes simulés. Les chercheurs y sont parvenus en exploitant un modèle d’IA ouvert et en créant un harnais d’attaque pour le maintenir sur la bonne voie.
Même s’il n’est peut-être pas surprenant pour les experts en sécurité que ce niveau d’automatisation des attaques assistées par l’IA soit déjà répandu, il est très peu probable que de nombreuses entreprises aient eu le temps d’adapter leurs défenses.
Pas besoin de zero-day
Comme l’a démontré avec justesse l’étude de l’Université de Toronto, les agents d’IA n’ont pas besoin de vulnérabilités sophistiquées du jour zéro pour s’introduire dans les environnements, car de nombreux environnements comportent des systèmes et des applications présentant des failles connues et des faiblesses génériques.
L’attaque documentée par Sysdig, que ses chercheurs ont surnommée JadePuffer, a exploité une vulnérabilité vieille d’un an (CVE-2025-3248) dans Langflow, ironiquement un outil pour créer des agents d’IA. Dans la nouvelle attaque documentée par Sygnia, les attaquants ont exploité une faiblesse d’une application Web qui leur a permis de trouver une clé AWS stockée. À partir de là, ils se sont rapidement frayé un chemin dans l’environnement cloud de la victime grâce à l’automatisation de l’IA.
« L’auteur de la menace n’exploitait pas une seule erreur de configuration ; il enchaînait les faiblesses des services d’application, des ressources AWS, des référentiels de contrôle de source, des flux de travail CI/CD, des composants d’exécution et des magasins de données, tout en exécutant rapidement la découverte d’informations d’identification, la récolte de secrets, l’énumération dans le cloud, les abus de pipeline de déploiement, la modification du runtime, l’accès à la base de données et les perturbations opérationnelles », ont déclaré les chercheurs.
Comme dans le cas de JadePuffer, les attaquants documentés par Sygnia s’efforçaient d’extorquer de l’argent à la victime. Pour y parvenir, ils ont compromis autant d’instances AWS que possible, exfiltré des données mais également mis en place plusieurs points de persistance dans l’environnement AWS. L’objectif était de faire pression sur la victime en démontrant que malgré les efforts de rétablissement, elle avait toujours accès à l’environnement.
La vitesse est le nouveau jeu
Une fois que des attaquants sophistiqués pénètrent dans un environnement, ils passent souvent des semaines, voire des mois, à migrer lentement vers d’autres systèmes. Cela s’explique en partie par le fait qu’il faut du temps à une équipe humaine pour acquérir une compréhension approfondie de l’environnement et trouver où se trouvent les systèmes les plus précieux.
Cette activité est également souvent basée sur des essais et des erreurs : les attaquants effectuent des reconnaissances pour découvrir la topologie du réseau, trouver des faiblesses exploitables dans des systèmes supplémentaires et rechercher des informations d’identification stockées qui pourraient donner accès à davantage de cibles, tout en utilisant les outils du système d’exploitation existant ou des techniques d’administration système courantes qui ne déclencheront pas les logiciels malveillants et les systèmes de détection d’intrusion.
La chasse active aux menaces est un moyen de contrer ces techniques conçues pour échapper à la détection automatisée. Lors de la chasse aux menaces, les analystes humains inspectent manuellement le réseau et les systèmes de l’organisation à la recherche de signes de compromission qui auraient pu être ignorés par les outils. Il s’agit d’une technique défensive lente mais efficace, mais uniquement si les attaquants opèrent avec les mêmes contraintes de temps.
« La réponse traditionnelle aux incidents repose souvent sur l’hypothèse que la progression de l’attaquant générera suffisamment de signaux observables pour que les défenseurs puissent enquêter et contenir l’activité avant que l’accès ne s’étende matériellement à l’ensemble de l’environnement », ont écrit les chercheurs de Sygnia dans leur rapport. « Le modèle d’attaque observé a remis en question cette hypothèse. Les traces médico-légales ont montré une activité rapide et répétée cohérente avec des flux de travail automatisés ou assistés par l’IA pour la collecte d’informations d’identification, l’analyse des autorisations, la découverte de vulnérabilités et la cartographie des chemins d’attaque, permettant à l’intrusion de progresser à travers plusieurs étapes dans un laps de temps compressé. »
Et il ne s’agissait pas non plus de simples scripts automatisés soumis à un manuel d’attaque, mais de flux de travail montrant des signes clairs d’adaptation à l’environnement. Chaque nouvel accès a été rapidement évalué et a donné lieu à des actions adaptées à ce système spécifique, qu’il s’agisse d’une instance EC2, d’un compartiment S3, d’une base de données SQL ou d’un exécuteur CI/CD sur GitHub.
La prévention revient sur le devant de la scène
La réponse évidente aux attaques assistées par l’IA est la défense assistée par l’IA. Mais la simple présence de fonctionnalités basées sur l’IA dans les produits de détection et de réponse ne constitue pas une garantie pour contrecarrer des attaques aussi rapides et adaptatives. Les organisations doivent s’assurer que tous ces outils et flux de travail sont bien intégrés dans un processus coordonné au sein de leurs différentes équipes.
De plus, ces attaques montrent la valeur des actions de défense en profondeur telles que la validation continue des configurations, le déploiement rapide de correctifs, la rotation fréquente des secrets, la segmentation du réseau, les règles de contrôle d’accès basées sur IP, la mise en œuvre du principe du moindre privilège pour les informations d’identification, la restriction des privilèges administratifs, l’activation de l’authentification multifacteur et l’isolation des charges de travail cloud.
Sygnia recommande également de créer des playbooks de réponse automatisés qui peuvent être rapidement ajustés et déployés lorsque des signes potentiels de compromission sont détectés.
