if ( !emtpy($headline_subheadline ) ) : ?>
La nouvelle fonctionnalité de Falcon Guardian permet aux équipes de sécurité de mettre fin à un agent IA, de l’empêcher de redémarrer et de couper son accès au réseau.
endif; ?>
Avec une augmentation notable du nombre d’agents d’IA autonomes déviant du script dans les réseaux d’entreprise, CrowdStrike a lancé un AI Kill Switch d’entreprise, donnant aux équipes de sécurité le contrôle de couper et de désactiver les modèles lorsqu’ils deviennent malveillants.
Intégré à sa plateforme Falcon Guardian, cet AI Kill Switch fournira aux équipes de sécurité le contrôle humain nécessaire pour mettre fin à l’agent à sa racine, là où il s’exécute, l’empêcher de se relancer et même couper l’accès au réseau de son entreprise.
Ce lancement intervient alors que les entreprises déploient de plus en plus d’agents d’IA autonomes capables d’accéder à des données sensibles et d’exécuter des tâches avec une surveillance humaine limitée.
« Ces agents peuvent accéder aux données sensibles, exécuter des commandes et interagir avec les applications métier de manière indépendante, ce qui signifie que les entreprises peuvent prendre conscience d’incidents nuisibles seulement après qu’ils se produisent. Les outils de sécurité existants protègent les points finaux, les réseaux et les identités, mais peuvent ne pas comprendre pleinement les instructions, le raisonnement, les appels d’outils et les actions ultérieures d’un agent », a déclaré Soumen Mandal, analyste principal chez Counterpoint Research.
À l’intérieur du kill switch IA de CrowdStrike
L’AI Kill Switch a été construit sur Falcon Guardian, qui a la capacité de découvrir les agents IA exécutés dans l’entreprise. Il utilise le capteur Falcon pour suivre ce qu’un agent est invité à faire, ce qu’il communique et ce qu’il exécute.
Premièrement, le capteur Falcon peut mettre fin à l’agent en cours d’exécution au niveau de la passerelle, garantissant ainsi que l’agent malveillant ou au comportement inapproprié ne continue pas à fonctionner pendant que les équipes enquêtent. CrowdStrike a déclaré que la terminaison du point de terminaison est également prévue et sera bientôt disponible. Ensuite, en utilisant les politiques de Falcon Guardian, le kill switch empêchera l’agent de se relancer sur l’hôte ou le groupe d’hôtes ciblé. Ensuite, cela coupera l’accès au réseau d’entreprise de l’agent.
L’action peut être initiée par un administrateur autorisé, chaque action étant enregistrée dans une piste d’audit.
« Des solutions telles que AI Kill Switch de CrowdStrike donnent aux entreprises un moyen d’intervenir rapidement lorsque les agents d’IA se comportent de manière inattendue, sont compromis ou sont manipulés via des instructions ou des scripts malveillants. Cela fournit une protection importante, permettant aux organisations de contenir les activités d’agents potentiellement dangereuses ou non autorisées avant qu’elles ne causent des dommages importants », a déclaré Devroop Dhar, MD et co-fondateur de Primus Partners.
Cependant, un coupe-circuit doit être considéré comme un frein d’urgence et non comme un bouton de rembobinage, a déclaré Apeksha Kaushik, analyste principal chez Gartner. Elle a ajouté que cela pourrait empêcher des actions supplémentaires, mais cela n’annulerait pas nécessairement toutes les données déjà consultées, chaque système déjà modifié, toutes les communications déjà envoyées ou les transactions déjà initiées. Son efficacité dépendra également de la rapidité avec laquelle les comportements anormaux sont détectés, des environnements couverts et de la compromission de l’agent ou de l’infrastructure de sécurité.
Un frein d’urgence, pas un remède au risque IA
Un Kill Switch AI semble prometteur d’après les détails fournis, mais son efficacité réelle viendra après son utilisation intensive dans les systèmes en direct, préviennent les analystes. Cela peut également constituer un bon point de départ, mais il ne peut pas être considéré comme une solution autonome pour la sécurité de l’IA en entreprise.
« Les RSSI auraient besoin d’une approche plus intégrée associant des outils de découverte d’IA pour identifier les agents non autorisés, une surveillance de l’exécution pour suivre le comportement des agents, une gestion robuste des identités et des accès, ainsi que des mécanismes de réponse aux incidents et de récupération », a ajouté Dhar.
Il a noté qu’il est tout aussi important de procéder à des tests de sécurité rigoureux de l’IA et à des politiques clairement définies régissant ce à quoi les agents peuvent accéder et exécuter. Il ne devrait y avoir aucune ambiguïté autour des autorisations, des contrôles d’accès ou des limites dans lesquelles ces agents sont autorisés à opérer. L’objectif devrait être de garantir que les contrôles de sécurité sont intégrés dans l’ensemble du cycle de vie de l’agent IA plutôt que de compter sur un kill switch pour intervenir en cas de problème.
Dhar a ajouté que les agents d’IA d’entreprise ont souvent accès à des systèmes, bases de données, applications, informations d’identification et API sensibles. Un agent compromis ou mal orienté pourrait donc devenir un point de vulnérabilité. Le défi est aggravé par le fait qu’une telle activité peut passer inaperçue pendant un certain temps, ce qui rend difficile pour les organisations d’identifier et de contenir la menace.
