Alors que le nombre de vulnérabilités identifiées augmente, les analystes considèrent le goulot d’étranglement dans le développement des correctifs comme le principal problème ; les vendeurs ne peuvent pas suivre maintenant.
Anthropic a annoncé mardi qu’elle ajoutait 150 entreprises supplémentaires à son initiative de chasse aux vulnérabilités basée sur l’IA du projet Glasswing, avec un accent particulier sur les entreprises d’infrastructures critiques, notamment celles impliquées dans « l’électricité, l’eau, les soins de santé, les communications et le matériel ».
Les analystes et les fournisseurs de sécurité ont convenu que cette décision était une étape positive, notant que plus il y avait d’entreprises impliquées dans l’identification des bogues, mieux c’était. Mais le problème de fond le plus important est d’ordre pratique : le problème des goulots d’étranglement.
Si le projet Glasswing et des projets similaires d’autres grands fournisseurs d’IA multiplient par 10 ou plus le flux d’identifications de vulnérabilités, les fournisseurs seront-ils en mesure de les trier et de les corriger en temps opportun ? Les fournisseurs ont toujours été notoirement lents à corriger les problèmes de sécurité connus. Microsoft, par exemple, s’est récemment disputé avec un chercheur en sécurité qui a rendu publiques ses failles parce qu’il estimait que Microsoft était trop lent à y remédier.
Et même si ces fournisseurs parviennent à suivre le rythme, les SOC d’entreprise seront-ils capables de suivre l’avalanche de correctifs ? Et si une automatisation poussée est déployée pour générer ces correctifs, les RSSI leur feront-ils suffisamment confiance pour les laisser être déployés sans vérification manuelle ? La confiance n’est pas un trait courant des RSSI.
« Ce que chaque partenaire a en commun, c’est qu’une attaque réussie contre leur base de code pourrait être catastrophique. Pour la plupart des partenaires, nous estimons qu’une attaque majeure pourrait affecter plus de 100 millions de personnes, avec des ramifications importantes pour la sécurité mondiale et nationale », a déclaré Anthropic dans son blog annonçant les nouveaux participants. « Cette expansion est la prochaine étape vers nos objectifs à long terme : que l’IA rende tous les logiciels plus sécurisés et que nous aidions l’industrie à s’adapter à la manière dont l’IA pourrait modifier bon nombre des hypothèses fondamentales de la cybersécurité. »
Glasswing a été annoncé le 7 avril et était initialement soutenu par AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, la Linux Foundation, Microsoft, NVIDIA et Palo Alto Networks. Okta a confirmé plus tard qu’elle était également impliquée.
Le goulot d’étranglement des patchs
Le problème des goulots d’étranglement est difficile à résoudre, étant donné que même les plus grands fournisseurs ne peuvent justifier en termes de coûts qu’un nombre limité de ressources pour corriger les failles de sécurité et distribuer ces correctifs.
« Le plus gros problème est l’adaptabilité : une fois qu’une vulnérabilité ou une faiblesse est découverte, les défenseurs doivent la valider, la hiérarchiser et la corriger avant que les attaquants puissent exploiter les mêmes informations. Et cette étape de validation est importante », a déclaré Tom Findling, PDG de Conifers.ai. « En testant l’outil nous-mêmes, nous avons constaté de nombreux faux positifs, ce qui signifie que les organisations ne peuvent pas simplement traiter chaque résultat comme étant immédiatement exploitable. Elles ont besoin de pouvoir séparer rapidement le signal du bruit, puis d’adapter leurs processus, leurs flux de travail d’ingénierie et de corriger les pipelines autour des problèmes réels. «
« La mesure la plus importante que les organisations doivent suivre n’est peut-être pas seulement le nombre de vulnérabilités détectées, mais aussi le temps qu’il leur faut pour s’adapter une fois qu’un problème crédible est identifié. Pour certaines organisations, ce cycle d’adaptation peut encore prendre des mois », a-t-il ajouté. « La réduction du temps d’adaptation est ce qui déterminera si la découverte de vulnérabilités assistée par l’IA améliore réellement la défense ou augmente simplement la vitesse et le volume du bruit de sécurité. »
Un problème de remédiation
Justin Greis, PDG du cabinet de conseil Acceligence, convient que l’expansion de Glasswing pourrait simplement démontrer aux RSSI à quel point le problème des failles de sécurité évolue, au lieu de diminuer.
« Ce n’est un secret pour personne que la cybersécurité a été traitée comme un problème de découverte de vulnérabilités. L’IA prouve qu’il s’agissait en réalité d’un problème de remédiation depuis le début. Le secteur a déjà du mal à valider, prioriser, corriger, tester et déployer des correctifs assez rapidement. Cela pourrait même être pire si les équipes de sécurité sont responsables de l’identification des vulnérabilités et que les équipes informatiques, ou les équipes commerciales, sont propriétaires des correctifs elles-mêmes », a déclaré Greis. « Si l’IA peut identifier les vulnérabilités 10 ou 100 fois plus rapidement que les humains, le goulot d’étranglement se déplacera simplement en aval. Les organisations pourraient bientôt se retrouver dans la position inconfortable de connaître bien plus de vulnérabilités qu’elles ne peuvent en traiter de manière réaliste. L’IA transforme la cybersécurité d’un problème de visibilité en un problème d’exécution. «
Greis a ajouté une prédiction effrayante : « L’IA pourrait rendre les organisations à la fois plus sûres et plus débordées, si cela est possible. Elles auront une visibilité sans précédent sur leur risque, mais elles découvriront également à quel point ce risque est réel. »
Confiance requise
Grace Trinidad, directrice de recherche pour la sécurité de l’IA chez IDC, a déclaré que le problème des goulots d’étranglement au sein de l’entreprise doit être résolu par une automatisation poussée. Mais étant donné le manque de confiance du personnel de cybersécurité, les fournisseurs doivent disposer d’une méthode rigoureuse pour produire un score de confiance numérique pour chaque correctif.
« Avoir un score de confiance accompagnant ces correctifs est un nouveau concept. L’entreprise doit avoir la capacité d’identifier, de trier et de traiter les vulnérabilités spécifiques à son environnement », a déclaré Trinidad. « Nous apprenons un ensemble de compétences pour lesquelles nous ne sommes pas prêts : comment pouvons-nous faire confiance aux technologies automatisées ? Étant donné que nous devons évoluer à cette vitesse, cette confiance va être brisée. L’évaluation de la confiance est une discipline qui a besoin de transparence. Ne compliquez pas la confiance (l’explication) au point de ne pas pouvoir l’expliquer à un être humain. »
Trinidad a également noté que l’annonce d’Anthropic soulignait que chacun des 150 nouveaux participants, selon les termes d’Anthropic, « devra répondre à nos exigences de sécurité avant d’avoir accès ».
Trinidad a déclaré que les exigences de sécurité ne renforcent pas la confiance, car « personne ne sait quelles sont ces exigences de sécurité ».
Une solution possible serait que les fournisseurs de sécurité fassent appel à des tiers de confiance afin qu’ils ne soient pas perçus comme « évaluant leurs propres devoirs ». L’éditeur de logiciels d’entreprise Workday utilise une approche tierce similaire, en s’appuyant sur des services de confiance qui utilisent des normes publiques telles que Mitre ATLAS pour valider la sécurité et la conformité des agents d’IA utilisant sa plateforme. L’approche de Workday porte sur les contrôles de sécurité et non sur les scores de fiabilité, mais l’idée pourrait potentiellement être modifiée.
L’expansion crée des problèmes de sécurité
Carmi Levy, une analyste technologique indépendante, s’est montrée plus sceptique quant à ce que Glasswing pourra finalement accomplir en ajoutant 150 participants supplémentaires.
« L’objectif du projet Glasswing était de permettre à Anthropic de travailler en étroite collaboration avec un petit groupe de fournisseurs entièrement sélectionnés pour développer des défenses plus solides contre les risques de cybersécurité posés par ce qui était, et est, une toute nouvelle classe LLM qui autrement poserait des risques inacceptables aux technologies et protocoles de protection existants », a déclaré Levy. « L’élargissement de l’accès à des centaines de personnes pourrait très bien attirer davantage d’esprits pour élaborer de meilleures mesures défensives, mais cela introduit simultanément des inquiétudes importantes concernant des fuites potentielles. Et cela de la part d’une entreprise qui a déjà signalé deux fuites impliquant ce même modèle. »
Levy a ajouté : « Dans un monde idéal, Anthropic annoncerait parallèlement à cette expansion majeure un effort parallèle pour renforcer les protocoles de sécurité internes afin de garantir que le code ne tombe pas entre de mauvaises mains. Faire appel à une cohorte beaucoup plus importante de chercheurs signale aux attaquants potentiels qu’ils disposeront bientôt d’un plus grand nombre de cibles potentielles et ne parvient pas à apaiser les craintes de violations futures. «
