Un nouveau rapport de RUSI se concentre sur la manière dont les modèles d’IA permettent à des régimes tels que la Corée du Nord et l’Iran d’exécuter des cyberopérations tout en échappant à la détection.
Au cours des trois à cinq prochaines années, les gouvernements et le secteur privé devront adapter rapidement les protocoles d’identification et d’atténuation à mesure que les adversaires passeront d’une évasion des sanctions et d’un financement de la prolifération assistés par l’IA à un financement de la prolifération (PF) assisté par l’IA, prévient un nouveau document de recherche.
Le rapport du Royal United Services Institute (RUSI), un groupe de réflexion sur la défense et la sécurité basé au Royaume-Uni, définit la PF comme l’utilisation de fonds ou de services financiers pour acquérir, développer ou vendre d’une autre manière des armes de destruction massive (ADM). Il déclare : « La Corée du Nord et l’Iran développent et déploient actuellement des modèles d’IA pour faciliter les activités d’évasion des sanctions. »
Les principales conclusions incluent le fait que l’IA est désormais capable de produire en masse des documents frauduleux de haute qualité, ainsi que d’automatiser ce que le rapport décrit comme « les détails administratifs de la gestion de vastes réseaux de sociétés écrans ». Les systèmes basés sur l’IA, indique-t-il, peuvent également « analyser les modèles de blockchain en temps réel pour ajuster dynamiquement les stratégies de mélange de crypto-monnaie, évitant ainsi efficacement les outils de détection ».
En outre, indique-t-il, « (des outils tels que l’IA générative) qui peuvent produire des documents d’identité frauduleux sophistiqués, par exemple, ont aidé la Corée du Nord à perpétrer des attaques de phishing contre des entreprises occidentales. »
Le Dr Aaron Arnold, chercheur associé principal au Centre pour les finances et la sécurité du RUSI et auteur de l’article, a déclaré dans un courrier électronique que ce qui l’a motivé était une légère utilisation au cours de l’année dernière par la Corée du Nord de l’utilisation de l’IA pour faciliter et améliorer ses cyberopérations, sous la forme de stratagèmes de phishing conçus pour générer des revenus pour les programmes de missiles balistiques et d’armes nucléaires du pays.
Il a conseillé aux responsables informatiques d’entreprise qui doivent protéger leur organisation contre les victimes d’activités d’évasion des sanctions que « (cela) signifie en grande partie s’adapter à un paysage où les frontières de sécurité traditionnelles axées sur l’humain sont contournées par des technologies automatisées. »
Pour les responsables informatiques, a déclaré Arnold, « cela pourrait impliquer l’intégration d’une IA défensive, l’utilisation d’analyses basées sur le comportement, l’utilisation de « coupe-circuits » en cas d’utilisation intensive d’API ou de MCP, la mise à jour de la formation du personnel et le renforcement de la vérification d’identité, en particulier pour toute embauche à distance.
La distinction entre les activités assistées par l’IA et celles activées par l’IA est « centrale »
Sanchit Vir Gogia, analyste en chef chez Greyhound Research, a déclaré que le rapport RUSI est important « parce qu’il désigne le bon changement structurel. L’IA ne crée pas d’évasion des sanctions à partir de rien, elle compresse et met à l’échelle des méthodes qui fonctionnent déjà ».
Il a souligné qu’aucune des techniques permettant d’éviter les sanctions telles que les documents frauduleux, les identités synthétiques, les sociétés écrans, la propriété réelle cachée, le blanchiment de cryptomonnaies et autres n’est nouvelle. « Ce qui change, c’est la rapidité, la qualité, le volume et la coordination avec lesquels ces méthodes peuvent désormais être assemblées », a-t-il déclaré.
Selon Gogia, « la distinction entre les activités assistées par l’IA et celles activées par l’IA est centrale. L’évasion assistée par l’IA utilise l’IA pour des tâches discrètes : rédiger un meilleur e-mail, produire un document plus propre, générer un faux profil plus fort, traduire un argumentaire, résumer des réglementations ou préparer une candidature plausible. L’évasion assistée par l’IA est plus grave. »
Une « asymétrie structurelle »
Cette tactique, a-t-il déclaré, « commence à coordonner le système lui-même. Elle relie l’identité, les documents, les structures de propriété, les itinéraires de paiement, l’accès au cloud, les portefeuilles cryptographiques, les appels API et le timing. La différence n’est pas de savoir si l’IA aide quelqu’un à falsifier un document. La différence est de savoir si l’IA commence à orchestrer la tromperie ».
C’est pourquoi les conclusions du rapport devraient inquiéter les dirigeants d’entreprise, a-t-il noté : « De nombreuses organisations supposent encore que le mauvais acteur est principalement humain, principalement linéaire et lent. Cette hypothèse est en train d’expirer. L’IA permet aux adversaires d’effectuer plus de tentatives, avec moins d’erreurs, sur plus de canaux, dans plus de langues, avec une meilleure paperasse et une plus grande patience que la plupart des processus d’examen d’entreprise ne peuvent absorber. Ce n’est pas une histoire de criminels de génie découvrant la magie. C’est l’histoire de contrôles ordinaires répondant à la plausibilité industrialisée. »
Les preuves actuelles, a-t-il souligné, sont les plus solides autour de tactiques telles que la fraude d’identité, la fraude documentaire, les personnalités synthétiques, la tromperie des travailleurs à distance, le phishing, l’ingénierie sociale, l’obscurcissement cryptographique et l’abus de flux de travail. « Des réseaux d’évasion entièrement autonomes se profilent à l’horizon », a-t-il déclaré. « Elles sont sérieuses, mais elles ne constituent pas encore la base du quotidien. »
Cette distinction est importante, a déclaré Gogia : « Si les entreprises sont obsédées par les scénarios cinématographiques d’agents autonomes tout en laissant le recrutement à distance, l’intégration des fournisseurs, les approbations de paiement et l’examen des documents pleins de trous, elles perdront de la manière la plus prosaïque imaginable. »
Le rapport, a-t-il dit, corrige également « l’asymétrie ». « Les acteurs offensifs peuvent apprendre à travers tout l’écosystème », a-t-il déclaré. « Ils peuvent récupérer des informations ouvertes, réutiliser des dossiers divulgués, étudier les modèles d’application, tester les formulaires d’intégration, inspecter les données sur les marchés publics, consulter les dossiers judiciaires, sonder les seuils de conformité et (utiliser les informations pour) affiner leur comportement. »
Les défenseurs, en revanche, sont entravés par des règles de confidentialité, des données fragmentées, des exigences d’explicabilité, des frontières juridictionnelles, des modèles opérationnels conservateurs et des parcs technologiques cloisonnés. « L’IA offensive apprend largement », a-t-il déclaré. « L’IA défensive apprend souvent à partir de fragments. C’est l’asymétrie structurelle. »
Il a expliqué que le paysage réglementaire amplifie également le problème, dans la mesure où les organismes de réglementation « parlent encore dans des dialectes différents. (Par exemple) la loi européenne sur l’IA pousse les organisations vers des obligations plus strictes pour l’IA à haut risque. Les cadres de type NIST favorisent la gestion des risques, la transparence et la gouvernance. «
Un problème d’architecture de confiance
Les attentes du Groupe d’action financière (GAFI) poussent à l’évaluation nationale des risques et aux contrôles de contre-prolifération, a-t-il noté, tandis que les régulateurs bancaires se concentrent sur le risque de modèle, la responsabilité et la résilience opérationnelle. « Aucun de ces volets n’est hors de propos. Le problème est que les criminels ne s’organisent pas autour de volets de travail réglementaires. Ils s’organisent autour de résultats. »
Ce que cela signifie, a déclaré Gogia, « c’est que l’entreprise ne peut pas attendre un règlement mondial propre. Il n’arrivera pas à temps. Les DSI, les RSSI, les responsables de la conformité et les conseils d’administration ont besoin dès maintenant d’un modèle de gouvernance fonctionnel. Ils ont besoin d’analyses préservant la confidentialité, d’environnements de données contrôlés, de pistes d’audit, de garanties juridiques et d’une responsabilité claire en matière de risque ».
Il a déclaré que les responsables informatiques des entreprises devraient traiter la situation comme un problème d’architecture de confiance plutôt que comme un problème de filtrage des sanctions. « La vérité inconfortable est que l’IA n’aide pas seulement les mauvais acteurs à rédiger de meilleurs e-mails de phishing ou à forger des documents plus soignés », a-t-il noté. « Cela les aide à créer une légitimité à travers une chaîne de flux de travail d’entreprise. »
Résultat probable d’une « course aux armements en matière d’IA »
L’auteur du rapport, Arnold, a également noté qu’il existe des signes indiquant que les cybercriminels ont découvert de nouvelles technologies et capacités d’IA que les entreprises légitimes pourraient adopter pour des applications légitimes.
L’histoire, a-t-il déclaré, « regorge de (criminels) développant de nouvelles solutions à des problèmes difficiles, (qui sont) plus tard adoptées par les forces de l’ordre. Une grande partie de notre politique de lutte contre la criminalité financière est en fait une réponse aux mauvais acteurs exploitant les systèmes ou utilisant la technologie de nouvelles manières pour perpétrer des crimes. Dans ce scénario, je pense qu’une « course aux armements en matière d’IA » entre les autorités chargées de l’application des lois et les mauvais acteurs est le résultat le plus probable. «
Gogia a ajouté : « les méchants n’enseignent pas aux entreprises comment inventer l’IA. Ils enseignent aux entreprises où la confiance fuit. C’est la leçon qui mérite d’être prise au sérieux. »
