Cisco AI Defense est l’outil d’IA propriétaire de l’entreprise qui peut valider les modèles d’IA d’entreprise et les protéger contre les attaques.
Alors que le monde s’empresse d’intégrer l’IA dans tous les aspects des applications d’entreprise, il devient urgent de protéger les systèmes d’IA absorbant les données contre les interférences malveillantes.
Pour y parvenir, Cisco a annoncé Cisco AI Defense, une solution conçue pour faire face aux risques introduits par le développement, le déploiement et l’utilisation de l’IA.
Selon Tom Gillis, vice-président directeur et directeur général de Cisco Security, l’intégration rapide de l’IA dans les flux de travail de l’entreprise, qui devrait justifier une « refactorisation sur plusieurs années » des applications pour inclure des fonctionnalités d’IA, progresse plus rapidement que les équipes de sécurité ne peuvent suivre, créant de nombreuses vulnérabilités. pour que les attaquants puissent les exploiter.
« À mesure que cette transition se déroule, nous observons quelques tendances clés », a déclaré Gillis. « L’adoption conduit à la bifurcation des ensembles d’outils émergents, offrant aux développeurs une vaste gamme d’options évoluant rapidement. Par conséquent, les équipes de développement évoluent rapidement, tandis que les équipes de sécurité, chargées d’établir des limites autour du travail des développeurs, ont du mal à suivre et perdent souvent la trace.
Entre autres choses, a souligné Gillis, la défense de l’IA de Cisco abordera ce problème clé de la « découverte » en fournissant un inventaire de toutes les charges de travail, applications, modèles, données et accès des utilisateurs d’IA dans les environnements cloud distribués.
AI Defense de Cisco s’intégrera à son infrastructure de visibilité réseau existante, composée de pare-feu, de proxys Web et de passerelles d’accès sécurisées, pour analyser le trafic réseau et identifier tous les flux de travail d’IA existants.
IA propriétaire pour la validation du modèle
Le deuxième problème que la nouvelle offre tente de résoudre est la nécessité de modifier les pratiques de sécurité à mesure que les systèmes basés sur l’IA se généralisent.
« Le problème avec l’IA, c’est qu’elle est simplement architecturalement différente », a noté Gillis. « Dans une application traditionnelle, vous aviez trois couches : la couche de présentation (couche Web), la logique de l’application et la couche de persistance des données. Les données résidaient dans la couche de persistance, qui, par définition, est persistante, tandis que la couche intermédiaire ne conservait aucune donnée.
Avec l’IA, a-t-il ajouté, un modèle est placé au milieu et les données sont absorbées dans ce modèle. « Le modèle conserve et transforme les données, créant ainsi une toute nouvelle couche dans la pile qui nécessite un examen et une protection attentifs. »
Pour relever ce défi, Cisco AI Defense proposera une nouvelle capacité de détection optimisée par son IA propriétaire. Il effectuera une « validation du modèle » grâce à des tests exhaustifs de la logique du modèle pour identifier tout signe de compromission ou d’empoisonnement.
« Nous voulons nous assurer que les données utilisées pour la formation sont exactes et valides, sans ajouts malveillants aux ensembles de données », a expliqué Gillis. « De plus, nous devons vérifier que les garde-corps implémentés dans le modèle fonctionnent correctement et que le modèle se comporte comme prévu. »
Protection au moment de l’exécution
Si Cisco AI Defense permet de définir des garde-fous pour les modèles d’IA, la technologie propriétaire permettra également aux équipes de sécurité de mettre en œuvre ces protections de manière indépendante, sans interférer avec le contrôle des développeurs sur les modèles.
« Nous calibrons et installons dynamiquement des garde-corps pour les modèles avant et pendant la production », a déclaré Gillis. « En production, un système de surveillance observe le comportement normal des applications et détecte les anomalies, telles que les attaques par injection rapide, en signalant les actions en dehors des modèles attendus. »
Cette protection d’exécution, a souligné Gillis, est indépendante et transparente pour le modèle d’IA, et vit entièrement dans le « réseau ».
Gillis a noté que la plupart des outils de sécurité de l’IA concurrents se concentrent principalement sur la surveillance de l’échange de données et sur la prévention des pertes de données (DLP), leur phase de découverte étant généralement limitée à l’identification simple des éléments d’IA existants.
« La principale différence avec Cisco AI Defense réside dans la compréhension de l’application », a-t-il déclaré. « Contrairement à d’autres outils de sécurité de l’IA, nous effectuons la validation des modèles et avons la capacité d’appliquer des protections, telles que la prévention des attaques par injection rapide au moment de l’exécution. Nos modèles exclusifs suivent de manière unique le comportement des applications et surveillent toute dérive.
Outre l’injection rapide, la solution vise à protéger contre les attaques d’empoisonnement des données et des modèles. Il sera généralement disponible d’ici fin février via Cisco Security Cloud.