Le projet Cyber Shield du NCSC déploierait des systèmes d’IA autonomes pour détecter et neutraliser les cyberattaques au sein du gouvernement britannique et des infrastructures critiques.
Le National Cyber Security Centre (NCSC) du Royaume-Uni souhaite déployer des agents d’IA autonomes capables de détecter et de neutraliser les cyberattaques sur les réseaux nationaux en temps réel, marquant ainsi la progression de la Grande-Bretagne vers un système de cyberdéfense souverain et à vitesse machine.
Le projet, appelé Cyber Shield, a été développé conjointement avec le ministère de la Science, de l’Innovation et de la Technologie (DSIT).
« L’objectif de Cyber Shield est de construire une approche collaborative à l’échelle nationale en matière de cyberdéfense agentique, en utilisant l’IA de pointe pour identifier, réduire et résoudre notre cyber-risque national », a déclaré le NCSC dans un article de blog.
Cette proposition intervient alors que le NCSC prévient que l’IA aide déjà les attaquants à effectuer des activités telles que la découverte et la reconnaissance de vulnérabilités « à une échelle beaucoup plus grande et à un rythme plus rapide », réduisant ainsi le temps dont disposent les défenseurs pour réagir.
Bien que l’agence ait déclaré qu’elle n’avait pas encore observé d’attaques entièrement autonomes tout au long du cycle de vie de l’intrusion, elle s’attend à ce que les modèles d’IA de pointe fonctionnent à terme depuis l’accès initial jusqu’aux actions sur les objectifs.
Cyber Shield s’appuie sur des agents IA
Selon le plan, Cyber Shield s’appuierait sur des agents « rouges » et « bleus » alimentés par l’IA pour identifier les faiblesses des systèmes, détecter les menaces et automatiser progressivement les activités de cyberdéfense.
« Dans un avenir proche, nous envisageons un monde où la cyberdéfense sera soutenue par des agents « rouges » et « bleus » qui identifieront les faiblesses des systèmes (« rouges ») et se défendront contre les menaces en temps réel (« bleus ») », a déclaré le NCSC sur son blog.
Dans un premier temps, les agents IA identifieraient les vulnérabilités et les menaces à la vitesse de la machine avant de progresser vers une correction automatisée. Ils généreraient et partageraient également des informations sur la sécurité, détecteraient et contenir les violations, collaboreraient au-delà des frontières organisationnelles et fonctionneraient sous le contrôle des organisations participantes.
Le NCSC a déclaré qu’il prévoyait de commencer par s’associer avec des défenseurs des réseaux du gouvernement et des secteurs critiques du Royaume-Uni avant de passer à des déploiements commercialement évolutifs.
« Notre objectif est de passer à des solutions commercialement évolutives pour offrir un niveau de résilience nationale prêt à faire face à la menace future », a déclaré l’agence.
L’IA réduit la fenêtre de réponse des défenseurs
« Le Royaume-Uni est confronté à une cybermenace dont l’ampleur, la vitesse et la sophistication augmentent », a déclaré le NCSC. « Frontier AI accélère cette tendance, avec le potentiel de faire pencher la balance en faveur des attaquants – et avec de sérieuses implications pour les défenseurs. »
Selon l’agence, l’IA aide déjà les attaquants à mener des cyberactivités offensives, notamment la découverte et la reconnaissance de vulnérabilités, « à une échelle bien plus grande et à un rythme beaucoup plus rapide ».
« En conséquence, des activités qui prenaient autrefois des semaines peuvent désormais prendre quelques minutes, réduisant ainsi le temps dont disposent les défenseurs pour réagir, les détecter et les contenir », ajoute le blog.
Le cadre Cyber Shield donne également la priorité à l’IA explicable, aux agents d’IA fédérés, à la découverte et à l’atténuation automatisées des vulnérabilités, à la détection et à la réponse coordonnées, ainsi qu’aux capacités d’analyse et d’atténuation à l’échelle nationale. Parmi ses objectifs à long terme figure le développement de « workflows d’atténuation des vulnérabilités entièrement automatisés » qui permettraient aux défenseurs d’opérer « au-delà de l’échelle humaine », dans un premier temps sur des réseaux critiques.
Sanchit Vir Gogia, analyste en chef chez Greyhound Research, a déclaré que le plan reflète une évolution plus large vers l’IA opérationnelle dans la cybersécurité, mais met également en évidence les défis de gouvernance.
« Une fois qu’un agent peut modifier un environnement réel, il cesse d’être un assistant et rejoint le plan de contrôle », a déclaré Gogia. « Chaque action automatisée doit répondre de son autorité, de son changement et de son renversement, et un agent qui ne peut pas s’expliquer n’a rien à faire avec la production. »
Gogia a déclaré que le NCSC lui-même fait la distinction entre l’identification des expositions et la détection des menaces assistées par l’IA, que les organisations peuvent commencer à adopter dès aujourd’hui, et l’atténuation entièrement automatisée, que le plan identifie comme un défi de recherche ouvert.
Les partenariats industriels sont considérés comme essentiels
Le NCSC a déclaré que le Cyber Shield ne peut pas être mis en œuvre par le gouvernement seul et nécessitera une collaboration avec l’industrie, le monde universitaire, les développeurs d’IA de pointe et les opérateurs d’infrastructures nationales critiques.
« La vision du Cyber Shield est ambitieuse et de grande envergure, et se heurte à d’importants défis de mise en œuvre. Elle ne peut pas être développée et exploitée par le NCSC ou le gouvernement seul », a déclaré l’agence.
Selon le billet de blog, le NCSC et le DSIT établissent des voies permettant aux partenaires de contribuer à la recherche, aux technologies et à l’expertise opérationnelle à mesure que le plan évolue.
Le NCSC n’a pas immédiatement répondu à une demande de commentaires sur le moment où Cyber Shield devrait dépasser le stade du projet.
Gogia a déclaré qu’il est peu probable que le plan modifie immédiatement l’approvisionnement technologique de l’entreprise, car il ne définit pas encore de norme opérationnelle.
« Personne n’exigera de produits compatibles Cyber Shield, car il n’existe aucune norme opérationnelle par rapport à laquelle acheter », a-t-il déclaré. « Ce qui change en premier, c’est le vocabulaire des critères. Les acheteurs sérieux ne se demandent plus si un outil dispose d’une IA agentique. Ils demandent ce qu’il est permis de changer. »
