Passer de l’exploitation autonome à la sécurité à la vitesse des machines

Les progrès de Frontier AI ont créé un monde où l’exploitation dépasse la défense. L’entreprise moyenne prend 32 à 43 jours pour patchermais le temps moyen pour exploiter une vulnérabilité est de 10 heures. Cette asymétrie crée des questions autour comment les entreprises peuvent faire confiance à l’IA autonome pour fonctionner de manière omniprésente dans leurs environnements. Comme je l’ai mentionné sur le Perturbation TechCrunch la semaine dernière, la sécurité à la vitesse de la machine signifie que l’IA accélère le correctif aussi rapidement qu’elle le trouve. Vous trouverez ci-dessous une version élargie de cette discussion.

L’asymétrie entre détection et remédiation

L’asymétrie entre les attaquants et les défenseurs exacerbe le problème des correctifs. Les modèles de sécurité traditionnels effectuent un tri par gravité à l’aide de processus manuels, ce qui crée des retards de plusieurs semaines, voire mois. Mais les modèles avancés permettent aux attaquants d’enchaîner des failles de gravité faible et moyenne – qui passent inaperçues de par leur conception – pour créer un problème de gravité élevée. Par exemple, une faille de script intersite, un détournement de cookie de session et une fuite de base de données sont enregistrés séparément comme incidents de gravité moyenne. En tant qu’exploit en chaîne, le script intersite donne à un attaquant un point d’entrée dans le navigateur qu’il utilise pour détourner le cookie de session, permettant ainsi l’authentification en tant qu’utilisateur, ce qui lui donne accès à la base de données avec lecture complète des données de production.

Le dilemme qui nous incite

La tension dans la sécurité de la vitesse des machines est que la détection est d’une précision dévastatrice, mais les correctifs sont encore en train de rattraper leur retard. Les tests que nous avons effectués sur CyberGym ont produit un taux de précision de 95 % pour la découverte de bugs complexes liés à une séquence d’événements. Le muscle de la découverte fonctionne. Mais dans plus de 98 % du temps, les modèles frontières refusent d’exécuter les invites de correction parce que leurs garde-fous intégrés catégorisent à tort 76 à 99 % du code d’invite directe impliquant des vulnérabilités comme étant des faux positifs. Lorsqu’ils tentent d’appliquer des correctifs, 55 % résolvent le problème principal mais manquent un point secondaire et 40 % des correctifs interrompent le code de production. Les invites à elles seules ne résoudront pas l’asymétrie, car les taux de détection sont élevés mais la précision des mesures correctives est faible.

Combler le déficit d’ingénierie

Inviter avec des modèles avancés ne suffit pas. La réponse est un système intégré qui rassemble l’orchestration multi-agents, l’injection de contexte, la validation sandbox et la réparation itérative. La précision de cet exploit s’appuie sur les informations issues du graphique de contexte, de l’infrastructure sandbox, du pipeline de validation et de l’expérience dans la mise en œuvre de primitives de sécurité.

Trois avancées pour franchir le gouffre

Les progrès en ingénierie nécessitent que la technologie dépasse trois limites. Le système doit aller au-delà des humains dans la boucle pour travailler de manière autonome et continue. Il ne peut pas simplement expliquer le tri dans un langage simple : il doit produire des problèmes durables avec des solutions fondées sur des preuves. Il ne peut pas s’agir d’un harnais du Magicien d’Oz soutenu par un modèle frontière.

La voie à suivre est un système multi-agents avec gestion des identités et des accès pour chaque action et session et application Cedar des politiques d’accès à granularité fine. Le système compresse les signaux en actions régies par IAM et Cedar, et pas simplement en appels de modèle bruts.

5 ingrédients pour un système multi-agent robuste

Cinq choix de conception créent un système multi-agent robuste

• Modèles cyber-activés. Le premier composant utilise plusieurs modèles cybernétiques optimisés pour la découverte des vulnérabilités.
• Harnais à 5 niveaux. Ensuite, construisez un harnais en 5 étapes comprenant la reconnaissance, la modélisation des menaces, le chasseur, la validation et la remédiation.
• Bac à sable sans sortie. Troisièmement, assurez-vous que le bac à sable est une microVM à sortie nulle, sans accès à Internet, sans rôle IAM et sans appel de nouveau départ.
• Validation à 2 couches. Validez en exécutant une analyse statique L1 et des tests de sécurité dynamiques L2 dans le bac à sable. Exiger une preuve de déclenchement avant la fermeture.
• Contexte riche. Enfin, le multiplicateur de précision provient de l’alimentation de l’infrastructure système, des applications et du contexte spécifique à l’entreprise.

Ce système crée une boucle continue qui découvre, hiérarchise, valide et corrige de manière à produire à chaque fois la même réponse, de manière prouvable et s’adaptant à des milliers de référentiels.

3 agents, calqués sur les rôles de sécurité

L’agent de priorisation pense comme un analyste du renseignement sur les menaces. Il parcourt le graphique contextuel, note la proximité de vos joyaux de la couronne, effectue des classifications et examine l’impact commercial.

L’agent de validation pense comme un opérateur de l’équipe rouge. Il cartographie les trajectoires d’attaque, évalue le rayon d’explosion, vérifie les contrôles compensatoires pour fournir une réponse à trois valeurs : exploitable, non concluant ou non exploitable.

L’agent de remédiation pense comme un ingénieur en sécurité. Il corrige un exploit éprouvé. Il corrige un modèle, pas une seule ligne de code. Cela touche tous les points. Il fournit une suite de tests dans le bac à sable avec la demande d’extraction.

Ces agents travaillent ensemble dans un état partagé à l’aide d’enregistrements durables. Chacun joue son rôle et répond.

Le contexte est essentiel à la précision du système

D’après les tests CyberGym, le contexte a amélioré la précision du LLM. La précision générique du LLM était d’environ 65 %. Le contexte infrastructurel a porté ce chiffre à 90 pour cent. L’ajout du contexte commercial a permis d’atteindre une précision pouvant atteindre 95 %. Un système de sécurité à vitesse machine nécessite un contexte solide ancré dans la sécurité au niveau de l’infrastructure. Celui-ci existe en cinq piliers :

1. Vérifiez formellement chaque chemin pour déterminer l’accessibilité du réseau.
2. Tirez parti du raisonnement automatisé sur les politiques IAM qui prouvent mathématiquement si une politique accorde un accès involontaire.
3. Bloquez par défaut l’accès public à votre cloud.
4. Inventaire continu en temps réel de chaque changement de ressource et de configuration.
5. Prouvez mathématiquement l’exactitude de la sécurité déployée à grande échelle.

Alors comment faire confiance à ce système autonome ?

Chaque appel passe par une chaîne d’autorisation à quatre portes. La première porte est un moteur de stratégie à deux couches : la portée IAM pour éviter d’aller au-delà des limites que vous avez définies et Cedar pour appliquer un accès précis aux outils pour quelles actions les agents sont autorisés à entreprendre sur quelles ressources et dans quelles conditions. Cela impose des garde-fous déterministes pour les actions des agents sans boucler dans un LLM pour ces décisions d’autorisation. La deuxième porte est la validation des entrées fournie par des vérifications de schéma et une liaison de compte. La troisième porte est un audit fermé sur échec où chaque action est enregistrée avant l’exécution, et rien n’est distribué si l’audit échoue. La quatrième porte est le courtier d’informations d’identification limité à une action, une ressource avec une durée de vie (TTL) de 15 minutes.

Comme mentionné précédemment, le bac à sable est sans sortie, sans connectivité Internet ni points de terminaison de service. La mémoire est détruite après chaque tâche. Si quelque chose ne va pas dans le bac à sable, le problème y reste isolé.

Nous misons sur une autonomie progressive pour gérer l’éventail des risques. La tolérance du garde-corps pourrait ressembler à :

• 80 % autonome pour supprimer les autorisations inutilisées
• 60% autonome pour renforcer les groupes de sécurité
• 20 % d’autonomie pour modifier les rôles IAM
• Aucune autonomie pour supprimer des ressources – seuls les humains peuvent effectuer cette action

Enfin, ajoutez une transparence de sortie à trois valeurs. Chaque décision cite des preuves avec un score de confiance. Le jugement LLM est séparé des mathématiques déterministes. Traçage W3C complet avec conservation de 90 jours.

Ces éléments créent un système gouverné pour le LLM avec des enregistrements durables au lieu de discussions et un état explicite au lieu d’invites.

Assurer une sécurité à la vitesse de la machine

N’importe qui peut envelopper un modèle dans un harnais et créer une interface utilisateur. Mais il s’agit d’un jeu de marchandise destiné à des taux plus élevés d’inexactitudes et de corrections incomplètes. Un système robuste a besoin d’un contexte d’infrastructure à partir duquel vivent vos charges de travail, d’une vérification formelle qui produit des résultats traçables et d’un plan de contrôle gouverné.

La détection est résolue. Tous les outils d’analyse commerciaux peuvent trouver des événements de sécurité. Le plus difficile est de construire un système autonome fiable qui comprend ce que signifie un problème dans votre environnement et aide ensuite l’organisation à trouver la bonne réponse.