if ( !emtpy($headline_subheadline ) ) : ?>
Les chercheurs ont trouvé des données volées sur un serveur hébergeant un framework d’IA et ont documenté des opérations distinctes ciblant le secteur aérospatial américain et des organisations en Asie.
endif; ?>
Google a déclaré avoir identifié un cadre d’IA exploité par des pirates informatiques, conçu pour découvrir des vulnérabilités logicielles et exécuter des exploits sans intervention humaine. C’était la première fois que ses chercheurs observaient un tel système utilisé par des acteurs malveillants.
Les résultats, publiés dans un rapport de Google Threat Intelligence Group (GTIG) et Mandiant, suggèrent que les attaquants vont au-delà de l’utilisation de l’IA générative pour assister des tâches individuelles et commencent à automatiser une plus grande partie des cyberattaques.
Le système pourrait donner aux attaquants un moyen d’exploiter des vulnérabilités révélées publiquement, appelées n jours, avant que les entreprises n’aient fini d’appliquer les mises à jour de sécurité. Les chercheurs de Google l’ont découvert sur un serveur intermédiaire exposé et l’ont identifié comme un framework multi-agent appelé exploit_agent.
Le framework se connecte à plusieurs grands modèles de langage (LLM) et est configuré pour examiner les modifications du code d’application suite aux correctifs de sécurité, identifier les vulnérabilités et générer des exploits sans nécessiter qu’un opérateur dirige chaque étape. Il peut également exécuter les exploits automatiquement.
Google a trouvé sur le serveur des données exfiltrées de victimes ciblées, ainsi que des scripts conçus pour prendre en charge d’autres activités après une compromission initiale. Des éléments suggèrent que l’opérateur était particulièrement intéressé par les sites Web français associés aux industries des médias et du divertissement ainsi qu’au secteur de l’éducation. Le rapport n’a pas établi si les opérations autonomes du cadre étaient responsables du vol.
Google a également cité une campagne distincte impliquant des vulnérabilités dans les serveurs de gestion d’impression PaperCut. Selon une étude de GreyNoise référencée dans le rapport de Google, un acteur malveillant a probablement utilisé des outils d’IA pour développer et tester des exploits avant de lancer une campagne contre des centaines d’organisations quatre jours après la divulgation des vulnérabilités.
Dans des cas distincts, Google a observé que d’autres frameworks d’IA étaient utilisés par des attaquants. CAIRN a été déployé dans le cadre d’activités d’intrusion ciblant des organisations parmi lesquelles le secteur aérospatial américain, tandis qu’une plate-forme personnalisée basée sur PentAGI a été utilisée pour effectuer des opérations de reconnaissance et d’analyse des vulnérabilités contre des organisations à travers l’Asie.
Pression sur les délais de réponse des entreprises
Malgré l’utilisation croissante de l’IA dans les cyberattaques, les techniques sous-jacentes restent largement inchangées, selon Jonathan Ong, analyste senior chez Omdia.
« Il s’agit plutôt d’une accélération des techniques d’attaque existantes », a déclaré Ong. « Il s’agit de frameworks de pentesting/red-teaming avec des techniques établies, bien que considérablement accélérées avec un modèle LLM. »
Keith Prabhu, PDG de Confidis, a déclaré qu’il existe encore peu de preuves démontrant que l’IA rend les attaques individuelles plus efficaces. Le plus grand risque, selon lui, est que les attaquants puissent lancer davantage de tentatives en moins de temps, ce qui pourrait augmenter le nombre de compromissions réussies, même si chaque tentative n’est pas plus efficace.
Ong a déclaré que les frameworks génèrent généralement une activité détectable considérable, ce qui signifie que les entreprises disposant de capacités de détection et de réponse aux points finaux (EDR), de détection et de réponse étendues (XDR) ou de détection et de réponse gérées (MDR) correctement configurées et surveillées devraient toujours être en mesure d’identifier une grande partie de l’activité malveillante.
Google a également averti que même si les frameworks génèrent une activité qui facilite la détection, ils restent capables d’atteindre leurs objectifs.
Plutôt que de remanier leurs défenses, les responsables de la sécurité devraient continuer de donner la priorité aux pratiques de sécurité établies, en particulier le renforcement du cloud et des identités. Ong a souligné l’authentification multifactorielle, les mots de passe forts et les mesures visant à bloquer les tentatives de connexion répétées comme garanties efficaces.
« La seule chose qui a changé est que les délais de confinement et de réponse doivent être plus rapides, pour correspondre à la vitesse à laquelle les attaquants utilisant ces cadres se déplacent », a déclaré Ong.
Prabhu a déclaré que le problème est aggravé par une visibilité fragmentée sur la sécurité et des processus de réponse qui dépendent toujours de décisions manuelles. Il a recommandé aux RSSI de donner la priorité à la découverte continue des actifs et à la correction des vulnérabilités basée sur les risques. Il a également appelé à de meilleures capacités de détection qui relient les activités suspectes dans les environnements d’entreprise.
Amit Kumar Jena, responsable du développement de l’IA chez Kanerika, a déclaré que les organisations doivent accorder une attention particulière aux vulnérabilités des systèmes exposés à Internet, où les attaquants pourraient exploiter les failles peu après qu’elles soient rendues publiques.
« Les systèmes accessibles sur Internet doivent être traités comme une classe à part entière, avec un cheminement accéléré des correctifs et des correctifs virtuels pendant que les correctifs sont testés », a déclaré Jena.
Pour le confinement des incidents, Prabhu a suggéré d’automatiser les actions bien comprises et pouvant être inversées, tout en conservant l’approbation humaine pour les décisions qui pourraient avoir des conséquences opérationnelles importantes.
Jena a également recommandé de définir à l’avance quelles actions de confinement pourraient être automatisées, citant comme exemples l’isolation des points de terminaison et la révocation de session.
« L’objectif n’est pas de supprimer la surveillance humaine, mais d’éliminer les retards évitables et de tester régulièrement que la réponse fonctionne au rythme d’une attaque », a déclaré Prabhu.
Des barrières réduites pour les cybercriminels
Les cadres agents open source pourraient réduire les barrières techniques pour les cybercriminels moins expérimentés en les aidant à coordonner les outils existants et à adapter leurs attaques en fonction des résultats, a déclaré Prabhu. Cependant, ces capacités n’éliminent pas le besoin d’expertise technique ni ne garantissent la réussite des compromis.
Prabhu a déclaré que les petites organisations et les prestataires de services disposant de ressources de sécurité limitées pourraient être particulièrement exposés.
Le risque n’est pas nécessairement concentré dans un secteur particulier, a-t-il ajouté. Les organisations dont les systèmes existants sont mal entretenus ou dont les contrôles d’identité sont faibles pourraient être confrontées à une plus grande exposition, quel que soit leur secteur.



