Les acteurs menaçants viennent chercher vos actifs d’IA pour opérationnaliser leur utilisation de l’IA

Les groupes de cyberespionnage affiliés à l’État et les gangs de cybercriminalité ciblent les documents, fichiers de configuration et modèles propriétaires liés à l’IA lors d’intrusions. En outre, le nombre et la portée des attaques de distillation, où les connaissances, la logique et les capacités de raisonnement des LLM sont extraites à l’aide d’invites ciblées, augmentent.

« GTIG a observé que des adversaires aux motivations très diverses ciblent des modèles d’IA et du code source propriétaires, exfiltrent les informations d’identification de l’interface de programmation d’application (API) et cooptent les environnements cloud des victimes pour soutenir des charges de travail d’IA non autorisées », a déclaré le Google Threat Intelligence Group (GTIG), dans son dernier rapport trimestriel AI Threat Tracker publié la semaine dernière. « Ce changement souligne que les actifs d’IA d’entreprise – depuis la pondération des modèles jusqu’aux quotas de calcul dans le cloud – sont des cibles de grande valeur pour l’espionnage, l’extorsion et le vol de ressources. »

Cette activité de menace n’a pas seulement affecté les laboratoires d’IA, mais également les organisations gouvernementales, militaires, de santé et de médias qui pourraient former ou affiner leurs propres modèles. Même si elles ne développent pas elles-mêmes de modèles d’IA, les organisations peuvent disposer de nombreuses données propriétaires liées à l’IA sur leurs systèmes, depuis les pipelines RAG jusqu’aux flux de travail, agents et informations d’identification personnalisés.

Les références de l’IA dans la ligne de mire

En juin dernier, GTIG a mis en garde contre un groupe de cyberespionnage basé en Chine, suivi sous le nom d’UNC6508, qui ciblait des organisations impliquées dans la recherche universitaire, médicale et de défense. Les informations collectées par ce groupe comprenaient des recherches sur l’IA.

UNC6508 a également été vu en train de compromettre les environnements cloud pour déployer l’infrastructure LLM pour son propre usage, en recherchant comment déployer des LLM localement et en enquêtant sur les vulnérabilités des modèles d’IA.

Au cours du deuxième trimestre 2026, la branche de réponse aux incidents Mandiant de Google a enquêté sur des violations commises par des groupes d’extorsion de données impliquant le vol de modèles d’IA, de compétences, d’invites, de code source et de recherches associées.

Dans un cas, un acteur malveillant a piraté une organisation de soins de santé et volé des recherches sur les médicaments et d’autres données d’entreprise, y compris un modèle d’IA exclusif. Lors d’un autre incident, des attaquants ont compromis une société de génération de médias IA et ont volé du code source exclusif, des invites, des compétences, des scripts de modèle et des secrets.

GTIG met également en garde dans son rapport contre une augmentation des campagnes d’attaques par distillation de modèles contre les propres modèles d’IA de Google. Ces attaques tentent d’extraire les sorties du modèle pour des invites ciblées afin d’entraîner d’autres modèles sur ces sorties. Google a observé des campagnes impliquant plus de 100 millions d’invites ciblant les capacités de génération audio, vidéo et d’images. Ces campagnes sont lancées via des réseaux proxy en utilisant des milliers d’identifiants de compte compromis.

L’Agence américaine de sécurité nationale (NSA), le Bureau fédéral d’investigation (FBI) et l’Agence de cybersécurité et de sécurité des infrastructures (CISA) ont publié la semaine dernière un avis accusant les laboratoires d’IA basés en Chine de s’engager dans une distillation à l’échelle industrielle contre les modèles d’IA américains.

Les attaquants exploitent de plus en plus l’IA agentique

En plus d’utiliser des informations d’identification volées liées à l’IA pour des campagnes de distillation, les pirates en ont également besoin pour automatiser d’autres opérations offensives qui incluent un niveau élevé d’automatisation via des agents IA.

Mandiant a observé qu’un acteur malveillant motivé par des raisons financières utilisait des informations d’identification d’infrastructure cloud compromises pour déployer un cadre d’attaque multi-agents autonome. Les ressources ont permis à l’attaquant de planifier, créer et exécuter une campagne massive de collecte d’informations d’identification en moins de 6 heures.

« En utilisant des ensembles d’instructions de démarque préconfigurés comme manuels opérationnels, l’acteur malveillant a effectué une analyse automatisée et une collecte d’informations d’identification, compromettant des milliers d’informations d’identification tierces », ont déclaré les chercheurs. « Les instructions de l’agent ont permis à l’IA de gérer de manière autonome le pipeline d’analyse des vulnérabilités, d’effectuer un dépannage en temps réel et d’exécuter la logique de rotation du protocole Internet (IP) sans intervention manuelle, réduisant ainsi considérablement la latence humaine dans la boucle.

Les chercheurs du GTIG ont également découvert un cadre automatisé de reconnaissance et de gestion des informations d’identification appelé Recon, utilisé sur un serveur de commande et de contrôle en direct pour gérer plus de 23 000 informations d’identification volées, y compris des clés API pour l’infrastructure cloud et les services d’IA.

Un acteur menaçant chinois connu pour cibler des organisations gouvernementales a également été observé en train de construire un pipeline d’exploitation et de post-exploitation alimenté par l’IA, automatisant l’ensemble de la chaîne d’attaque, de la reconnaissance à la récupération des informations d’identification pour les mouvements latéraux.

« Le GTIG continue d’observer l’adoption et l’intégration généralisées des technologies d’IA par des acteurs malveillants aux motivations très diverses dans plusieurs portefeuilles géographiques », ont déclaré les chercheurs. « Les acteurs malveillants continuent d’utiliser Gemini à mauvais escient pour améliorer toutes les étapes de leurs opérations, depuis la reconnaissance et la création de leurres de phishing jusqu’au développement de C2 et à l’exfiltration de données. Les exemples clés du dernier trimestre incluent des groupes d’espionnage liés à la RPC et à la Russie ; des activités d’espionnage à motivation financière attribuées à la République populaire démocratique de Corée (RPDC) ; des groupes de cybercriminalité à motivation financière ; et des groupes d’OI (opérations d’influence) parrainés par l’État. « 

Voici quelques exemples de tels groupes :

• BASIN CASTLE, un groupe basé en Chine également connu sous le nom de BASIN ou TEMP.Hex
• CALANQUE ION, un acteur parrainé par l’État iranien également suivi sous le nom d’APT42
• RAVINE CASTLE, un groupe de cyberespionnage chinois également connu sous le nom de COULEE ou APT24
• SANDWORM RELIC, un acteur de cyberespionnage lié à l’État russe également connu sous les noms de SANDWORM et APT44.
• UNC6240, un groupe d’extorsion de données également connu sous le nom de ShinyHunters
• MIDNIGHT NEPTUNE alias UNC1069, un groupe menaçant nord-coréen connu pour voler des cryptomonnaies

« Afin d’expérimenter des outils d’IA générative, les acteurs malveillants doivent obtenir et conserver l’accès à ces outils », expliquent les chercheurs. « Le coût de l’accès aux modèles haut de gamme et au calcul haute performance est l’un des principaux obstacles pour les acteurs malveillants cherchant à opérationnaliser l’IA. Cela a entraîné une augmentation du ciblage, de l’exfiltration et de la vente de comptes d’IA au sein des communautés de cybercriminalité, ainsi qu’un nombre croissant d’intrusions impliquant la compromission des environnements cloud d’entreprise pour détourner les ressources informatiques (alias ‘LLMJacking’). «