Une nouvelle génération de cadres spécifiques à l’IA est apparue pour aider à atténuer les problèmes de gouvernance, de sécurité ou de conformité liés à l’IA pour lesquels les modèles traditionnels n’ont pas été conçus.
Les organisations qui s’empressent d’intégrer l’IA dans leurs opérations commerciales se rendent compte que les cadres de gestion des risques sur lesquels elles s’appuient depuis des décennies ne sont pas conçus pour les comportements, les modes de défaillance et les complexités éthiques introduits par les systèmes d’IA.
Heureusement, une nouvelle génération de cadres spécifiques à l’IA a émergé pour donner aux organisations un moyen structuré d’identifier où l’IA peut mal tourner, quels contrôles mettre en place et comment démontrer une utilisation responsable de l’IA aux régulateurs, aux clients et aux investisseurs. Tous ces cadres émergents ne répondent pas au même problème. Certains se concentrent sur la gouvernance et la responsabilité organisationnelle, d’autres sur les contrôles de sécurité techniques, la modélisation des menaces ou la conformité réglementaire. Le choix de celui qui convient à votre organisation dépend de l’endroit où se situent vos lacunes les plus urgentes.
Les frameworks sont complémentaires et non concurrents, car ils ont des intentions, des priorités et des objectifs différents, explique Nicole Carignan, RSSI chez Darktrace.
« Il existe un chevauchement entre ces cadres, mais ce chevauchement est utile », souligne Carignan. « Il renforce les pratiques de base que les organisations doivent adopter : gouvernance, intégrité des données, sécurité, responsabilité, surveillance, tests et amélioration continue. »
Voici cinq cadres à considérer pour vos besoins en matière de gestion des risques liés à l’IA.
Système de gestion de l’intelligence artificielle ISO/IEC 42001
ISO/IEC 42001:2023 est la première norme formelle reconnue au niveau international pour la gestion de l’IA. Publiée par l’Organisation internationale de normalisation (ISO) et la Commission électrotechnique internationale (CEI) en décembre 2023, la norme ISO/CEI 42001 suit une structure similaire aux normes de systèmes de gestion telles que la norme ISO 27001. Le cadre donne aux organisations une méthodologie structurée pour établir des politiques, des processus, des contrôles opérationnels et des mécanismes de responsabilisation afin de garantir un développement et une utilisation responsables de l’IA.
La norme ISO/IEC 42001 exige que les entreprises documentent la manière dont elles conçoivent, surveillent, valident et contrôlent les systèmes d’IA, tout en les obligeant également à mener des évaluations d’impact de l’IA pour évaluer les impacts juridiques, éthiques et sociétaux potentiels. La norme couvre les structures de gouvernance, la surveillance des fournisseurs tiers, la gestion des données, les obligations de transparence et la gestion du cycle de vie.
ISO/IEC 42001 est une norme volontaire mais certifiable qui s’applique à tous les secteurs et à toutes les tailles d’organisation. Un nombre croissant d’organisations ont commencé à l’utiliser pour démontrer leur adhésion à des pratiques responsables en matière d’IA et leur alignement sur des réglementations telles que la loi européenne sur l’IA. L’ISO/IEC a décrit le cadre comme aidant les organisations à aligner leurs pratiques d’IA sur les exigences légales et réglementaires ; démontrer une gouvernance responsable de l’IA ; gérer les risques liés aux préjugés, à la sûreté et à la sécurité ; et renforcer la confiance des parties prenantes.
La norme ISO 42001 est une excellente option pour les organisations qui débutent tout juste dans la gestion des risques liés à l’IA, déclare Nicole Carignan, vice-présidente senior de la stratégie de sécurité et d’IA et RSSI sur le terrain chez Darktrace.
«Cela constitue la base la plus solide pour élaborer un programme de gestion des risques liés à l’IA, plutôt que de traiter les risques individuels liés à l’IA de manière isolée», explique-t-elle. « Du point de vue de l’élaboration de programmes, la norme ISO 42001 est le bon point de départ car elle oblige les organisations à réfléchir de manière globale à la propriété, à la gouvernance, à la surveillance, à l’intégrité des données, à l’atténuation des risques de sécurité, à la responsabilité et à l’amélioration continue.
L’un des inconvénients de Carignan est que la mise en œuvre du cadre nécessite beaucoup de ressources et que la norme complète n’est pas accessible au public. Ces deux défis peuvent être formidables pour les organisations qui en sont aux premiers stades de leur parcours de gouvernance de l’IA, dit-elle.
Cadre de gestion des risques liés à l’IA du NIST (AI RMF)
Publié par le National Institute of Standards and Technology (NIST) des États-Unis en janvier 2023, l’AI Risk Management Framework (AI RMF) est un cadre volontaire conçu pour aider les organisations de toutes tailles et de tous secteurs à identifier, évaluer et gérer les risques associés aux systèmes d’IA tout au long de leur cycle de vie.
Le cadre se compose de deux parties. Le premier propose des conseils sur la manière dont les organisations devraient réfléchir aux risques liés à l’IA et aux caractéristiques des systèmes d’IA fiables, telles que la validité, la sûreté, la sécurité, la transparence, l’explicabilité, la confidentialité et l’équité. La deuxième partie s’articule autour de quatre fonctions interconnectées :
- Gouverner se concentre sur ce que les organisations doivent faire pour construire une culture interne, des politiques et des structures de responsabilité pour l’utilisation de l’IA.
- Carte implique de comprendre le contexte plus large et les risques potentiels de systèmes d’IA spécifiques.
- Mesure se concentre sur la manière dont les organisations doivent évaluer et suivre ces risques en utilisant des méthodes qualitatives et quantitatives.
- Gérer fournit des conseils sur la priorisation des risques et les réponses appropriées telles que l’atténuation, le transfert ou l’acceptation.
NIST AI RMF comprend un Playbook distinct qui fournit des étapes de mise en œuvre pratiques pour aider les organisations à mettre en œuvre efficacement chacune de ces fonctions.
Pour les organisations qui ne sont pas prêtes à adopter officiellement la norme ISO 42001, le NIST AI RMF peut servir de point de départ plus flexible et plus accessible, explique Carignan.
« Il est public et donne aux organisations un langage commun pour comprendre et atténuer les risques liés à l’IA », ajoute-t-elle. « Mais si l’objectif est de créer un programme durable de gestion des risques liés à l’IA, la norme ISO 42001 constitue la base la plus solide. »
Ram Varadarajan, PDG d’Acalvio recommande le NIST AI RMF comme un bon endroit pour que les organisations puissent se lancer dans la gouvernance des risques liés à l’IA, « car il est construit autour de la maturité plutôt que d’audits de réussite/d’échec ». Cela donne aux organisations reparties de zéro l’opportunité de découvrir où elles en sont plutôt que de leur attribuer immédiatement une note d’échec.
« Plus important encore, cela impose les trois discussions qui doivent avoir lieu en premier : à qui appartient le risque lié à l’IA, quelle IA exécute réellement et qui est blessé en cas de problème », explique Vardarajan.
Alors que les chercheurs de Forrester ont décrit le NIST AI RMF comme un pas dans la bonne direction peu après son lancement, ils ont également exprimé leurs inquiétudes quant aux conflits d’intérêts entre les multiples parties prenantes qui ont contribué à l’élaboration du cadre, à l’absence de rôle explicite pour la gouvernance des données et au fait que le cadre était « toujours descriptif et non prescriptif ».
En conséquence, « les responsables des données et les responsables de la science des données doivent naviguer judicieusement dans ce cadre pour l’interpréter et l’appliquer à leurs efforts de gouvernance de l’IA », a conseillé le cabinet d’analystes.
Cadre ENISA pour les pratiques de cybersécurité de l’IA
L’ENISA, l’Agence de l’Union européenne pour la cybersécurité, a développé son cadre pour les pratiques de cybersécurité de l’IA (FAICP) en prévision de la loi européenne sur l’IA. Publié en juin 2023, le cadre donne aux organisations de l’UE des orientations structurées et spécifiques en matière de cybersécurité pour améliorer la fiabilité de leurs activités d’IA.
Le FAICP est organisé autour de trois niveaux progressifs. Le premier couvre les pratiques fondamentales de cybersécurité des technologies de l’information et des communications dont les systèmes d’IA héritent en s’exécutant sur une infrastructure logicielle standard. La seconde aborde les risques spécifiques à l’IA, notamment les attaques contradictoires, la falsification des modèles, l’intégrité du pipeline de données et la sécurité de la chaîne d’approvisionnement. Le troisième fournit des orientations sectorielles spécifiques aux secteurs réglementés tels que l’énergie, la santé et les télécommunications.
Selon le Parlement européen, la nature multidimensionnelle du FAICP offre aux organisations « une approche progressive » pour améliorer la fiabilité de leurs activités d’IA.
La FAICP est volontaire, mais son alignement étroit sur la loi européenne sur l’IA et la directive NIS2, qui est la principale loi de l’UE sur la cybersécurité, signifie que les régulateurs européens considèrent le cadre comme une référence pour les pratiques de gouvernance de l’IA dans toutes les organisations exerçant leurs activités au sein de l’UE.
La FAICP est importante car « la loi européenne sur l’IA deviendra probablement la référence mondiale, de la même manière que la loi européenne sur la confidentialité des données est devenue la norme de facto pour les entreprises du monde entier, quel que soit l’endroit où elles ont leur siège social », prédit Vardarajan.
« D’ici deux à trois ans, il faut s’attendre à ce que deux cadres dominent : la loi européenne sur l’IA qui fixe le cadre juridique et le NIST AI RMF qui fournit le manuel opérationnel pour y répondre », déclare Vardarajan.
ISO/IEC 23894:2023 Technologies de l’information — Intelligence artificielle — Lignes directrices sur la gestion des risques
Le cadre ISO/IEC 23894:2923 fournit aux organisations des conseils spécifiques sur la gestion des risques associés à l’intelligence artificielle. Publié conjointement par l’ISO et l’IEC en février 2023, le cadre s’appuie sur et adapte la norme générale de gestion des risques ISO 31000 pour répondre aux risques spécifiques à l’IA tels que ceux liés à biais algorithmiques, dérive du modèle, comportement imprévisible et manque de transparence dans la prise de décision. Il offre aux organisations un moyen d’évaluer la probabilité et les conséquences potentielles de ces risques tout au long du cycle de vie complet du système d’IA.
L’ISO a décrit la norme comme un « compagnon de l’ISO 31000 (gestion des risques) et de l’ISO/IEC 42001 (systèmes de gestion de l’IA) ». La principale différence entre ISO/IEC 42001 et ISO/IEC 23894 est que la première est un système de management certifiable. Il fournit aux organisations toutes les exigences nécessaires pour établir, mettre en œuvre et maintenir un système de gestion de l’IA. L’ISO/IEC 23894 :2023, quant à elle, est une norme à caractère indicatif axée uniquement sur la manière d’identifier, d’évaluer et de gérer les risques spécifiques à l’IA.
« La norme ISO/IEC 23894 offre notamment des exemples concrets de mise en œuvre et d’intégration efficaces de la gestion des risques tout au long du cycle de vie du développement de l’IA et fournit des informations détaillées sur les sources de risques spécifiques à l’IA », selon AI Standards Hub, soutenu par le Royaume-Uni. « L’un des principaux avantages de cette norme est que l’application des lignes directrices peut être personnalisée en fonction de n’importe quelle organisation et de son contexte commercial. »
Cadre d’IA sécurisé de Google (SAIF)
Cadre d’IA sécurisé de Google (SAIF) est le guide pratique de Google destiné à aider les organisations à développer et à exécuter des systèmes d’IA intégrant de solides protections contre les menaces numériques. Lancé en 2023, il se concentre sur l’intégration des considérations de sécurité et de confidentialité directement à chaque étape du cycle de vie d’un projet d’IA, de la conception au déploiement et à l’exploitation continue.
Son objectif principal est de s’attaquer aux vulnérabilités uniques liées aux technologies d’IA, telles que les attaques qui altèrent les données d’entraînement, trompent les modèles via des invites techniques ou volent des informations sensibles. SAIF s’appuie sur les propres expériences de Google en matière de développement et de déploiement de systèmes d’IA à grande échelle et nécessite donc plus d’ingénierie que les autres frameworks. SAIF vise en grande partie à aider les organisations à rendre leurs systèmes d’IA plus résistants aux cyberattaques et aux cyber-adversaires et couvre des domaines tels que la gestion des données, l’infrastructure sous-jacente, les modèles d’IA eux-mêmes, les applications destinées aux utilisateurs et les processus de vérification. Il offre aux organisations des conseils pratiques sur les contrôles de mise en œuvre, le partage des responsabilités et la défense contre les attaques techniques.
Le cabinet de conseil en technologie Thoughtworks a évalué SAIF comme un cadre qui aide les organisations à faire face systématiquement aux « menaces courantes telles que l’empoisonnement des données et l’injection rapide grâce à une carte des risques claire, une analyse des composants et des stratégies d’atténuation pratiques ». Selon la société, « l’accent mis par SAIF sur l’évolution des risques liés à la création de systèmes agentiques est particulièrement opportun et précieux. SAIF propose un manuel concis et exploitable que les équipes peuvent utiliser pour renforcer les pratiques de sécurité pour l’utilisation du LLM et les applications basées sur l’IA ».
David Brumley, directeur de l’IA et de la science chez Bugcrowd, affirme que pour les organisations qui souhaitent adopter un cadre, la question n’est pas vraiment « quel cadre de risque d’IA est le meilleur ? mais « quel cadre aide (l’) organisation à construire, déployer et apprendre en toute sécurité de l’IA dans le monde réel ? »
Même si la plupart des cadres de gestion des risques liés à l’IA actuellement disponibles ont leur utilité, la plupart se concentrent toujours sur la prévention des mauvais résultats plutôt que sur l’aide aux organisations pour ouvrir la voie à une technologie déjà inévitable.
«Cette distinction est importante», déclare Brumley. « L’adoption de l’IA n’attend pas une gouvernance parfaite, et ceux qui se concentrent sur un (cadre de gestion des risques) pourraient par inadvertance créer un problème d’IA fantôme dans leur organisation. »
