L’IA est devenue à la fois un outil et une menace importante, soulignant la nécessité de maintenir les équipes de sécurité des entreprises en état d’alerte.
Le potentiel de l’IA en tant qu’outil de sécurité et le danger des agents d’IA autonomes en tant que nouvelle surface d’attaque étaient des thèmes clés des présentations et des annonces de produits au Black Hat et au DEFCON à Las Vegas la semaine dernière.
Voici quelques points clés du camp d’été pour hackers de cette année que les RSSI devraient examiner lors de l’élaboration de stratégies de cybersécurité.
Les correctifs réactifs seuls ne suffisent plus
David Weston, de Microsoft, a prononcé un discours à Black Hat, affirmant que l’IA rendait la découverte avancée des vulnérabilités et le développement d’exploitations moins coûteux et plus rapide, sapant ainsi les hypothèses traditionnelles selon lesquelles les attaques sont rares et les défenseurs ont le temps d’établir des défenses.
Plutôt que d’essayer de réagir plus rapidement que les attaquants, a-t-il déclaré, le secteur de la sécurité doit renforcer la durabilité des systèmes en adoptant des langages sécurisés en mémoire tels que Rust, en exploitant l’ingénierie assistée par l’IA pour améliorer les bases de code existantes et en automatisant les corrections plutôt que de s’en tenir aux cycles de correctifs mensuels établis.
Les attaques d’IA ouvrent de nouvelles voies aux attaques contre la chaîne d’approvisionnement
Des chercheurs de Zenity ont découvert une attaque à grande échelle dans laquelle des « compétences » d’IA trojanisées (des fichiers d’instructions/de configuration indiquant aux agents d’IA comment utiliser les outils) ont été téléchargées sur le marché skills.sh.
Les compétences malveillantes, qui ont été copiées sur les services d’IA populaires Paperclip et Browser Use, ont été téléchargées plus de 1,7 million de fois en moins d’un mois. Lors d’une présentation à Black Hat, Zenity a décrit la campagne comme faisant partie d’une tendance plus large d’attaques contre la chaîne d’approvisionnement de logiciels d’IA..
Le flux d’événements GitHub peut être utilisé pour la télémétrie de sécurité
Les professionnels de la sécurité préoccupés par les attaques de la chaîne d’approvisionnement de manière plus générale se sont vu offrir un indicateur utile lors d’une conférence Black Hat : GitHub fournit peut-être déjà suffisamment de télémétrie pour détecter de nombreuses attaques de la chaîne d’approvisionnement.
Yossi Weizman de Microsoft et Mor Weinberger d’Echo ont montré que les récentes attaques de la chaîne d’approvisionnement telles que Shai-Hulud, Trivy et Megalodon utilisaient à plusieurs reprises les mêmes modèles : fausses identités de validation, balises empoisonnées, abus de flux de travail, utilisation abusive de jetons OIDC et tentatives d’effacement de preuves.
Ces caractéristiques de malversations potentielles peuvent être transformées en détections comportementales à l’aide des webhooks GitHub, des API et des métadonnées Git, ont expliqué les chercheurs lors de leur présentation..
Ils ont publié un outil open source appelé GitHub Threat Detector, proposant 30 règles de détection intégrées, pour accompagner leur discours. GitHub Threat Detector suit un pipeline de type EDR, mais doit être considéré comme un travail en cours, ont-ils noté ; ses inconvénients actuels incluent des webhooks éventuellement désactivés, des API à débit limité et une absence d’inspection en temps réel.
La recherche sur la sécurité basée sur l’IA est plus puissante lorsqu’elle est dirigée par des humains plutôt qu’autonome
L’IA est capable d’effectuer des recherches de sécurité originales au-delà de la simple correspondance de modèles de bogues connus, mais les découvertes les plus marquantes surviennent lorsque des experts humains suivent son chemin.
Le chercheur de PortSwigger, James Kettle, a montré comment il était possible pour un expert de concevoir la méthodologie de recherche, de filtrer les résultats faibles et d’utiliser un code déterministe pour contraindre et faire évoluer le travail de l’IA avant de le lâcher.
HTTP Terminator, un système conçu par Kettle à l’aide de cette méthodologie, a pu détecter des centaines de vulnérabilités de contrebande de requêtes HTTP (désynchronisation HTTP), voler une véritable clé API à une banque et découvrir une nouvelle classe de vulnérabilité appelée « confusion de l’analyseur partagé ».
La « confidentialité » de la traduction d’adresses réseau menacée par une nouvelle attaque
Les hypothèses de sécurité qui sous-tendent l’utilisation généralisée de la traduction d’adresses réseau (NAT) au sein des entreprises ont été mises à mal par une autre présentation à Black Hat.
Le NAT a été conçu comme une solution de contournement à l’épuisement des adresses IPv4, et non comme un contrôle de sécurité, mais la technologie est censée garantir que les adresses privées restent privées, une assurance que de nouvelles recherches ont mise en doute.
Lors d’une présentation à Black Hat, le chercheur Malcolm Stagg (un indépendant affilié à la Red Team de Synack) a révélé NatJack, une classe d’attaques qui manipulent la table de suivi des connexions NAT.
La technique NatJack pourrait être utilisée pour détourner des connexions actives, empoisonner les réponses DNS et provoquer un déni de service, sans avoir besoin d’usurpation d’adresse IP au niveau de la couche 2 ou d’accès au même domaine de diffusion qui était nécessaire pour les attaques plus anciennes, a-t-il déclaré.
Les responsables de Microsoft et de Linux ont publié des correctifs pour résoudre ce problème en réponse aux révélations de Stagg.
