Avec les agents de l’IA se multipliant entre les entreprises, l’intégration Watsonx – Guardium d’IBM vise à fournir une visibilité unifiée des agents d’agentops, une équipe rouge automatisée et des accélérateurs réglementaires à la conformité à l’épreuve des futurs.
IBM intègre son outil de gouvernance AI Watsonx.
Agentops, abréviation des opérations d’agent et également connu sous le nom de gestion du cycle de vie du développement des agents, est un domaine de mise au point croissant pour les entreprises, car l’étalement d’agent devient un défi clé, principalement motivé par les fournisseurs qui s’alignent pour offrir des outils d’entreprises pour créer des agents d’IA pour une pléthore de tâches différentes.
«Agentops est une nouvelle discipline avec des douleurs croissantes, et Tool Sprawl en fait partie. L’intégration de la gouvernance et de la sécurité des agents donne aux constructeurs d’IA une perspective unifiée et des contrôles. L’intégration des deux rend également moins probable que les risques comme les agents fantômes se prolifèrent», a déclaré Heather Gentile, directeur du produit pour IBM Watsonx.gouvernement, risque et conformité.
Le fonctionnement de l’intégration est que les deux produits partagent des informations sur les actifs d’IA, tels que l’inventaire du projet AI.
Cependant, il y a une prise. Les entreprises qui souhaitent profiter de cette intégration devront faire déployer Vishal Kamat, vice-président de la sécurité des données chez IBM.
L’intégration aidera les entreprises en fournissant la «première» solution unifiée pour gérer à la fois les risques de sécurité et de gouvernance pour les cas d’utilisation de l’IA, en particulier les agents, car ils offrent d’énormes avantages de productivité, mais peuvent avoir des «conséquences abruptes» lorsqu’ils ne sont pas correctement gouvernés ou sécurisés, a déclaré Dave Nicholson, directeur de recherche au groupe Futurum.
Nicholson a déclaré qu’il s’attend à une intégration supplémentaire des produits de gouvernance et de sécurité axés sur l’IA par des fournisseurs tels que Microsoft, Google et AWS.
«L’adoption rapide des agents de l’IA crée une pression dans le secteur technologique pour combler les silos traditionnels entre les équipes de sécurité et de gouvernance, fournir des plateformes unifiées plutôt que des solutions ponctuelles fragmentées et aborder les risques uniques que les systèmes d’IA autonomes présentent aux organisations», a ajouté Nicholson.
Nouvelles capacités dans Guarium AI et Watsonx.
Dans le cadre de l’intégration, IBM introduit de nouvelles capacités à GuarIum AI Security grâce à une collaboration avec Alltrue.ai, une plate-forme qui se concentre sur la gestion des risques et de la sécurité des systèmes d’IA, des applications.
Ces nouvelles capacités incluent les tests de pénétration automatisés et la découverte des agents, qui peuvent être directement accessibles à partir de IBM Guardium AI Security ou Watsonx.Governance, a déclaré Kamat, ajoutant que les nouvelles «capacités sont disponibles via la licence de produit IBM».
La collaboration avec Alltrue.ai permettra également aux entreprises d’obtenir des capacités de détection spécialisées dans des environnements cloud, des référentiels de code et des systèmes intégrés, a déclaré IBM, ajoutant qu’une fois les risques identifiés, la sécurité IBM Guardium AI peut déclencher automatiquement des flux de travail de gouvernance appropriés de Watsonx.Governance.
Cela devient de plus en plus important car la plupart des entreprises continuent de développer leur écosystème de l’IA, qui est décentralisée, a déclaré Nicholson.
Récemment, IBM a publié des mises à jour d’IBM Guardium AI Security, qui comprenait une équipe rouge automatisée pour aider les entreprises à détecter et à corriger les vulnérabilités et les erreurs de configuration dans les cas d’utilisation de l’IA.
L’intégration avec Watsonx.Governance sera déroulée tout au long de l’année, a déclaré IBM.
Dans le cadre de l’intégration, Watsonx.gouvernance a été mis à jour avec de nouvelles capacités, y compris la possibilité de surveiller et de gérer les agents d’IA tout leur cycle de vie.
« Les nœuds d’évaluation peuvent être construits directement dans les agents, permettant aux utilisateurs de surveiller soigneusement des mesures comme la pertinence de réponse, la pertinence du contexte et la fidélité – et d’identifier la cause profonde des mauvaises performances », a écrit IBM dans un article de blog.
IBM prévoit également d’ajouter des capacités, telles que l’évaluation des risques d’intégration des agents, les sentiers d’audit des agents et un catalogue d’outils agentiques, d’ici le 27 juin. La société a déclaré qu’elle ajoutait des accélérateurs de conformité à Watsonx.gouvernance pour fournir aux entreprises un moyen rapide d’identifier les obligations concernant leur utilisation de l’IA et d’assurer la conformité aux réglementations locales.
Ces accélérateurs, qui contiennent des réglementations, des normes et des cadres du monde entier et sont disponibles en tant que complément, des réglementations clés de soutien comme la loi UE AI, la SR 11-7 de la Réserve fédérale américaine, et la loi locale de New York, ainsi que des normes mondiales comme ISO / IEC 42001 et des frameworks comme le NIST RMF.
