Attendez-vous à ce que l’intelligence artificielle soit le sujet de la semaine lors de la conférence RSA, avec une multitude d’annonces de produits, de discussions en groupe et de buzz conversationnel.
Des milliers de délégués (41 000 personnes présentes en 2024) et environ 600 exposants sont à San Francisco pour entendre des discussions sur l’utilisation des technologies génératrices de l’IA dans la détection des menaces, la gestion automatisée des vulnérabilités et l’éthique de l’IA dans la sécurité, entre autres sujets.
La sécurité des applications figurera également en bonne place avec les sessions sur la chaîne d’approvisionnement des logiciels, la sécurité des API, l’analyse de la composition des logiciels et le développement sécurisé. La gestion de l’identité et de l’accès figurera également sur les deux pistes de conférence et les côtés de la fournisseur de la conférence. La conférence organisera également un bac à sable sur l’innovation, mettant en évidence le travail des startups de sécurité les plus prometteuses.
L’IA stimule les perturbations de l’industrie
Amjad a déclaré que la dernière vague d’innovation est axée sur l’IA en tant qu’application (ou IA agentique), ajoutant que des perturbations se produisent, que ce soit ou non.
« Les entreprises doivent se déplacer même si la technologie peut être différente en six mois », a déclaré Amjad.
Les entreprises ont actuellement trop d’outils de sécurité – offrant des solutions de pipe à poêle – les entreprises doivent donc s’éloigner de cette approche pour développer un plan pour la façon dont les technologies de l’IA peuvent être déployées pour offrir une plus grande intégration et une meilleure productivité, selon Amjad.
Par exemple, les tâches de routine dans les centres d’opérations de sécurité peuvent être effectuées par des agents de l’IA, libérant des analystes pour travailler sur des tâches plus stratégiques.
« Les entreprises doivent réfléchir à la façon de créer une plus grande résilience du point de vue des entreprises », a déclaré Amjad, qui a ajouté que les entreprises devraient se tourner vers la consolidation des plateformes de sécurité.
Montée des machines
Charlie Lewis, associé de la société de conseil en gestion McKinsey & Co., a également prédit que la consolidation des opérations de sécurité et de sécurité du cloud était des tendances clés de l’industrie susceptibles d’être présentées lors de la conférence RSA.
Les technologies de l’IA jouent également un rôle dans l’assainissement de la vulnérabilité et dans la réduction du temps moyen pour répondre aux menaces de sécurité. « Il y a un risque pour les entreprises de ne pas déployer de technologies d’IA », a déclaré Lewis, ajoutant que la façon dont les projets d’IA améliorent les mesures commerciales seront importants pour évaluer le succès de leurs déploiements.
Les garde-corps AI se dégagent vers le bas
Certaines recherches doivent également être présentées lors de la conférence.
Par exemple, la société de tests de sécurité de l’IA Mindgard présente de nouvelles recherches sur le contournement des garde-corps AI en utilisant de nouvelles méthodes comme les emoji et la contrebande de Unicode.
L’équipe de recherche de Mindgard a identifié des vulnérabilités à travers les garde-corps conçus pour protéger les modèles de grandes langues (LLM).
L’étude a révélé que les méthodes d’injection de caractère et les techniques algorithmiques d’évasion d’apprentissage automatique adversaire (LMA) peuvent contourner avec succès et contourner six des systèmes de gardiens AI les plus importants, y compris le bouclier invite Azure de Microsoft, la garde rapide de Meta, la garde NVIDIA NEMO et Protect Ai.
La recherche – qui a été divulguée aux parties concernées avant sa publication – met en évidence la nécessité de systèmes de garde-corps plus robustes, selon Mindgard.
