Le vrai positif : quand les agents IA de confiance ressemblent à des attaquants

Lucas Morel

if ( !emtpy($headline_subheadline ) ) : ?>

Les agents IA créent une nouvelle classe d’événements de sécurité qui obligera les RSSI à repenser la détection comportementale, l’identité, l’enquête et le modèle opérationnel du SOC.

endif; ?>

Un agent de codage ouvre des centaines de fichiers, lance des outils de ligne de commande et se connecte à un service interne pour effectuer une tâche. Un agent de support s’authentifie auprès de plusieurs systèmes, récupère les enregistrements clients et met à jour une autre application. Un agent de workflow énumère les ressources cloud en quelques secondes, puis passe à l’étape suivante de son affectation.

Pour une plate-forme de sécurité de point final, d’identité ou de cloud, ces séquences peuvent ressembler à une reconnaissance, à un accès aux informations d’identification, à un mouvement latéral ou aux premières étapes d’une exfiltration. Le contrôle identifie avec précision le comportement associé à une attaque et l’agent exécute une tâche métier approuvée.

Je commence à observer cette tendance à mesure que les entreprises déploient des agents d’IA dans les domaines du développement logiciel, du support client, de la finance, de l’informatique et de la sécurité. J’appelle cela le vrai positif inoffensif : une détection précise des comportements s’apparentant à des attaques générés par une activité légitime de la machine.

Pour les RSSI, cela expose une hypothèse fondamentale sous-jacente à la sécurité comportementale. Pendant des décennies, les comportements s’apparentant à des attaques ont justifié une suspicion immédiate, car les systèmes légitimes fonctionnaient rarement avec la vitesse, l’étendue et l’autonomie désormais courantes parmi les agents d’IA. Cette hypothèse s’affaiblit et les responsables de la sécurité doivent préparer leurs équipes, leurs processus et leurs portefeuilles technologiques aux conséquences.

Des références comportementales ont été construites autour des personnes

Les systèmes de détection modernes s’appuient largement sur des modèles associés à l’activité humaine attendue. Les utilisateurs lisent les fichiers à un rythme humain, se déplacent entre les applications selon des séquences reconnaissables et interagissent généralement avec les systèmes, une action à la fois. Un compte qui énumère soudainement des milliers de ressources ou lance une chaîne de processus sur plusieurs environnements mérite une enquête.

Les agents IA suivent un modèle opérationnel différent. Ils rassemblent un vaste contexte, effectuent des tâches en parallèle et se déplacent d’un système à l’autre en fonction des besoins d’un objectif assigné. Un agent de codage peut inspecter un référentiel entier avant de modifier quelques lignes. Un agent de support peut s’authentifier auprès de plusieurs applications car la résolution d’une demande client nécessite des données de chacune d’elles.

La télémétrie qui en résulte correspond souvent aux signaux que les outils de sécurité ont été conçus pour détecter. Les contrôles existants continueront à générer des alertes, et ces alertes seront souvent techniquement correctes. Les équipes de sécurité doivent déterminer si le comportement reflète une tâche autorisée, un agent compromis, des instructions manipulées, des informations d’identification volées ou un attaquant imitant l’activité normale d’un agent.

Une règle de suppression large peut réduire le bruit mais également créer un angle mort. Les attaquants rechercheront naturellement des identités d’agents fiables, des flux de travail approuvés et des modèles de vitesse de machine familiers qui les aideront à se fondre dans l’environnement.

L’intention devient la couche manquante

Les outils de sécurité observent des actions telles que les lancements de processus, les lectures de fichiers, les événements d’authentification, les appels d’API ou les connexions réseau. L’intention s’inscrit dans le contexte environnant.

Les enquêteurs doivent savoir à qui appartient l’agent, quelle tâche lui a été confiée, qui a initié la tâche, quels systèmes il était autorisé à utiliser, à quelles données il pouvait accéder et si ses actions sont restées dans les limites approuvées. Ils doivent également déterminer si un autre utilisateur, un processus ou une entrée externe a modifié les instructions de l’agent.

Ces réponses peuvent être réparties entre les systèmes d’identité, les plateformes d’orchestration d’agents, l’infrastructure cloud, les applications métier, les systèmes de billetterie et la pile de sécurité. La reconstruction de l’événement nécessite une corrélation entre ces sources et un compte rendu clair de ce que l’agent essayait d’accomplir.

Une grande entreprise pourrait bientôt faire appel à des milliers d’agents répartis dans des fonctions commerciales et techniques. Les analystes humains ne peuvent pas reconstruire manuellement chaque événement à cette échelle. Les opérations de sécurité nécessiteront une capacité d’enquête capable de détecter les intentions à la vitesse d’une machine et de présenter des conclusions fondées sur des preuves observables.

3 priorités d’investissement pour les RSSI

1. Identité et gouvernance des agents

La première priorité est l’identité et la gouvernance des agents. Chaque agent doit avoir un propriétaire clair, un objectif défini, des informations d’identification adaptées à ses responsabilités et un accès documenté aux applications, outils et données. Le SOC doit être capable de connecter chaque action au flux de travail, à la demande de l’utilisateur ou au processus métier qui l’a initiée.

Cela nécessite un inventaire des agents actifs, des contrôles du cycle de vie, des examens d’accès, des exigences d’approbation pour les actions sensibles et des pistes d’audit qui relient le comportement à un propriétaire responsable. Les comptes de services partagés et les autorisations étendues ralentissent les enquêtes et rendent le confinement plus difficile. Les identités spécifiques à l’objectif et la provenance des tâches donnent au SOC le contexte nécessaire pour identifier les utilisations abusives.

2. Architecture d’enquête

La deuxième priorité est l’architecture d’investigation. Les responsables de la sécurité doivent évaluer si leur pile actuelle peut rassembler des preuves sur les plates-formes de points finaux, d’identité, de cloud, de réseau, SaaS et d’agents. Un système utile doit reconstruire la séquence des événements, appliquer le contexte organisationnel, documenter les informations manquantes et expliquer comment il est parvenu à une conclusion.

Les investissements en IA dans le SOC devraient soutenir la collecte de preuves, la corrélation entre systèmes, le raisonnement adaptatif et une escalade claire lorsque les données disponibles ne peuvent pas étayer une détermination fiable.

3. Conception d’équipe

La troisième priorité est la conception de l’équipe. Les analystes gouverneront de plus en plus les systèmes qui étudient à la fois le comportement humain et celui des machines. Leur expertise façonnera les limites opérationnelles, la gestion des exceptions, la logique de détection et le contexte utilisé lors des enquêtes.

Les responsables de la sécurité devraient investir dans l’ingénierie de détection, la chasse aux menaces, la gouvernance des identités et les compétences en matière de surveillance des agents. Les analystes ont besoin de temps et d’autorité pour examiner les collisions comportementales récurrentes, affiner les politiques d’accès, améliorer les flux de travail et remettre en question les conclusions automatisées.

Chaque vrai positif bénin peut devenir une source d’apprentissage opérationnel sur la manière dont les agents sont utilisés et sur les domaines dans lesquels les contrôles doivent mûrir.

Un nouveau modèle opérationnel pour le SOC

Le SOC traditionnel envoie des alertes aux analystes, qui rassemblent des preuves et décident de ce qui s’est passé. Les agents IA ajouteront une autre source d’activité à volume élevé, et de nombreuses alertes qui en résulteront seront des détections précises de comportements légitimes.

Le SOC a besoin d’un modèle opérationnel construit autour d’une interprétation rapide. Pour un événement autorisé, l’enquête doit montrer qu’un agent spécifique a accédé à des systèmes particuliers sous une identité approuvée, a poursuivi une tâche valide, est resté dans le cadre de ses autorisations et n’a produit aucune preuve de déviation. Pour un événement à risque, il doit indiquer où l’activité a dépassé la portée attendue de l’agent et pourquoi un examen humain ou un confinement est requis.

Ce niveau de clarté préserve les détections sensibles, permet aux analystes de se concentrer sur les cas qui exigent du jugement et crée une voie pratique pour renforcer la confiance dans des systèmes de plus en plus autonomes grâce à des preuves visibles, une responsabilité explicite et des résultats mesurables.

Préparation de la prochaine source de volume d’alerte

Les RSSI doivent commencer par cartographier les endroits où les agents opèrent déjà dans l’organisation.

Beaucoup découvriront les activités introduites via les outils de développement, les plates-formes SaaS, l’automatisation départementale et les applications d’entreprise avec des capacités d’agent intégrées.

L’étape suivante consiste à connecter la propriété, l’identité, les autorisations, la provenance des tâches et la politique de l’agent aux opérations de sécurité. Les équipes doivent tester la manière dont les contrôles existants répondent aux flux de travail des agents représentatifs et suivre les vrais positifs bénins en tant que catégorie opérationnelle distincte.

Les agents d’IA changent le sens du comportement normal. Les responsables de la sécurité qui se préparent dès maintenant peuvent préserver la visibilité, renforcer la gouvernance et créer un SOC capable de comprendre l’objectif qui se cache derrière l’activité à la vitesse des machines.

Les machines fiables ressembleront de plus en plus à des attaquants. Les organisations capables de récupérer rapidement l’intention seront les mieux placées pour faire la différence.

Gestion des identités et des accèsSécuritéRéponse aux incidentsPratiques de sécuritéCentre des opérations de sécuritéInfrastructure de sécurité