Les clients de la banque paniqués ne sont ni difficiles ni chers, comme le montre une étude récente, ce qui suggère que les CISO doivent également garder à l’esprit les campagnes de désinformation.
L’organisation de recherche britannique dit que NON à DISINFO a simulé une campagne de désinformation dirigée par l’IA en coopération avec les spécialistes des communications Fenimore Harper. Dans le cadre de la campagne, 500 clients bancaires au Royaume-Uni ont été confrontés à des «rumeurs» synthétiques sur leur institution financière.
La motivation derrière la simulation consistait à déterminer si les fausses campagnes d’actualités basées sur une IA générative pouvaient déclencher des «courses bancaires» à l’avenir – comme celle qui s’est produite contre la Silicon Valley Bank aux États-Unis.
Les résultats de l’étude soulignent le potentiel inquiétant de l’IA dans ce domaine:
- Près de 61% des participants à l’étude qui ont consommé les fausses nouvelles étaient fondamentalement disposés à retirer leur argent de la banque respective.
- Un peu plus de 33% des répondants ont évalué cela comme «très probable», et 27% supplémentaires comme «probables».
- Traduit par des dépenses financières, selon l’étude, un investissement de 10 £ dans la génération de contenu d’IA (environ 13 $ US) peut être suffisant pour «changer» des actifs d’une valeur de 1 million de livres sterling.
«Avec l’aide des outils d’IA, nous avons généré de faux titres dont les récits étaient destinés à jouer sur les peurs et les préjugés existants. Le message clé était: «Les fonds clients ne sont pas sûrs», expliquent les auteurs de l’étude.
Selon leur rapport, les experts ont principalement utilisé le service de messages court X pour répandre des masses de publications et de mèmes correspondants.
«Compte tenu de la rapidité avec laquelle les campagnes de désinformation efficaces et facilement efficaces peuvent être mises en place, le secteur financier doit être préparé», préviennent les chercheurs. Malheureusement, cependant, les banques n’ont souvent pas les spécialistes appropriés: «La cartographie de confiance pour les clients, la cartographie des acteurs voyous ou les jeux de guerre sont des choses que les institutions financières traitent de manière réactive plutôt que de manière proactive.»
Il est critique de mission pour les institutions financières de répondre aux risques posés par de telles campagnes basées sur l’IA: «Les banques qui se concentrent sur les cybermenaces et négligent les risques posés par les opérations d’influence» créent un écart de sécurité critique, selon les auteurs de l’étude.
