Park Chan-am, PDG de Steelion, a présenté des stratégies de réponse sur lesquelles les responsables de la sécurité de l’information devraient se concentrer alors que l’IA modifie l’environnement de sécurité.
Surnommé le « Genius Hacker », Park Chan-am a commencé son parcours de hacker au chapeau blanc à l’âge précoce de 11 ans, remportant des prix lors de compétitions de hacking nationales et internationales depuis son adolescence.
Il a depuis été conseiller en cybersécurité auprès de diverses agences gouvernementales coréennes, notamment l’Agence nationale de la police, et a joué un rôle clé dans la défense du pays contre les cyberattaques affiliées à la République populaire démocratique de Corée (RPDC).
Lors d’un séminaire organisé ce mois-ci dans le cadre de la 15e Journée de la sécurité de l’information organisée par des agences gouvernementales, notamment le ministère des Sciences et des TIC et l’Agence coréenne de sécurité de l’Internet et de la sécurité (KISA), Park, aujourd’hui PDG de la société de sécurité Steelion, a expliqué les changements dans l’environnement de sécurité à l’ère de l’IA et les tâches de réponse prioritaires pour les organisations de sécurité de l’information sous le thème des « Menaces majeures de l’IA et priorités de sécurité ».
« Bien que l’IA soit une nouvelle technologie, le cœur de la sécurité réside en fin de compte dans le contrôle d’accès, la gestion de la chaîne d’approvisionnement et la vérification humaine », a-t-il déclaré.
Comme de nombreux experts en sécurité, Park estime que l’IA modifie fondamentalement la vitesse des cyberattaques. Dans le passé, infiltrer un réseau d’entreprise nécessitait beaucoup de temps pour analyser une gamme de systèmes logiciels afin de trouver des vulnérabilités exploitables – une tâche que l’utilisation de l’IA a considérablement accélérée.
« Dans le passé, il fallait au moins quatre semaines pour trouver les vulnérabilités, mais maintenant cela prend moins d’une journée », a-t-il déclaré. « À l’ère de l’IA, tous les logiciels installés au sein d’une entreprise deviennent une cible d’attaques beaucoup plus critique. »
En conséquence, la sécurisation des logiciels internes et de la chaîne d’approvisionnement en logiciels est primordiale et nécessite une perspective différente en matière de responsabilité, a noté Park.
« Les clients demandent souvent : « N’est-ce pas simplement un produit fabriqué par le vendeur ? » », a-t-il déclaré. « À partir du moment où il est installé dans le système de l’entreprise, ce logiciel n’est plus un problème de fournisseur mais fait partie du système de l’entreprise. »
« Nous sommes désormais dans une époque où les problèmes liés aux tiers ne peuvent plus être attribués uniquement à la responsabilité des fournisseurs », a-t-il souligné.
MCP menacé
Park considère également la gestion des autorisations comme un défi majeur auquel les équipes de sécurité seront confrontées à l’ère agentique. Par exemple, les entreprises utilisent de plus en plus d’agents d’IA basés sur le Model Context Protocol (MCP) pour lire des e-mails, analyser des documents et connecter les systèmes internes à diverses tâches commerciales. Mais à mesure que la charge de travail gérée par les agents IA augmente, chaque étape franchie par un agent IA, lire des documents externes et interagir avec les systèmes internes, peut devenir un vecteur d’attaque potentiel.
Une contamination rapide via des documents malveillants et une fuite d’informations internes via des agents disposant de privilèges excessifs sont des scénarios tout à fait réalistes, a déclaré Park. En particulier, il a souligné que des problèmes qui se résumaient auparavant à des problèmes mineurs, tels que les privilèges résiduels laissés par d’anciens employés ou du personnel externalisé, pourraient dégénérer en incidents majeurs, car l’IA relie automatiquement ces éléments entre eux.
« Lors de l’introduction de l’IA, les autorisations doivent être conçues avant les fonctions », a-t-il déclaré. « L’ensemble du processus MCP doit être abordé comme une seule voie d’attaque. »
Le rayon d’action toujours plus large des tests d’IA
Les environnements locaux de test d’IA deviennent un angle mort de sécurité dangereux que les responsables de la sécurité de l’information négligent souvent. L’expérimentation rapide de l’IA open source, telle que les modèles basés sur LLaMA, sur des PC personnels ou professionnels entraîne souvent le maintien de serveurs ou de ports ouverts, et si des vulnérabilités sont découvertes, des voies d’intrusion s’ouvrent immédiatement.
« Lorsque la vulnérabilité d’exécution de code à distance (Ollama) a été découverte en 2024, plus de 1 000 serveurs étaient exposés à Internet, mais récemment, en 2026, il a été confirmé que plus de 300 000 serveurs provenant des mêmes cibles étaient exposés », a déclaré Park, ajoutant que « le fait de tester l’IA elle-même peut devenir un nouveau risque de sécurité ».
Gestion des vulnérabilités avec préavis
Les opérations de sécurité doivent également changer, a souligné Park, notant que le nombre d’alertes que le personnel de sécurité doit traiter a été multiplié par dix, et dans certains cas jusqu’à cent fois, ce qui rend pratiquement impossible de répondre à toutes les vulnérabilités en utilisant les mêmes normes.
En guise de solution, Park considère que le système commun de notation des vulnérabilités (CVSS) est insuffisant pour déterminer les priorités. Au lieu de cela, il a suggéré que les priorités de réponse aux vulnérabilités soient déterminées en utilisant le système de notation de prédiction des exploits (EPSS), qui prédit la probabilité réelle d’exploitation, ainsi que la liste des vulnérabilités exploitées connues (KEV) du gouvernement américain.
Par exemple, si le score CVSS d’une vulnérabilité est de 7,5, elle n’est pas classée comme critique et est donc susceptible d’être reléguée en bas de la liste des priorités. Mais la priorité de réponse change complètement si la même vulnérabilité est répertoriée sur la liste KEV, a été exploitée dans de véritables attaques de ransomware, et la probabilité d’une attaque basée sur EPSS a grimpé de 1 % à 90 % en deux mois. « Vous devez considérer ces facteurs ensemble pour identifier les vulnérabilités qui doivent être corrigées en premier », a-t-il souligné.
« Au milieu du grand bruit connu sous le nom de déversement de l’IA, les critères permettant de décider quoi corriger en premier deviennent désormais une compétence essentielle pour le personnel de sécurité », a-t-il ajouté.
Park a également présenté de nouvelles techniques de défense applicables à l’ère de l’IA, telles que des méthodes permettant de détecter les attaques automatisées en analysant les différences de comportement entre les humains et les attaquants de l’IA, ainsi que des défis de preuve de travail (PoW) qui imposent intentionnellement une charge de calcul aux attaquants de l’IA pour ralentir leurs attaques. Un bon exemple consiste à filtrer les accès anormaux en analysant les mouvements de la souris, les saisies au clavier et les modèles de défilement.
« Il est plus réaliste de réduire la charge qui pèse sur les équipes de sécurité en filtrant au moins certaines attaques, plutôt que d’essayer de les bloquer à 100 % », a-t-il déclaré.
Même à l’ère de l’IA, la technologie à elle seule ne peut garantir une sécurité totale, a-t-il souligné. « Bien que l’IA puisse détecter les menaces de manière large et rapide, leur vérification et leur confirmation incombent en fin de compte aux humains », a-t-il déclaré. « Les humains sont toujours importants. »
