La société est disposée à faire évaluer ses modèles d’IA frontaliers par des experts fédéraux avant leur publication, mais elle souhaite que les développeurs d’IA, et non les régulateurs, aient le dernier mot sur les modèles à déployer.
OpenAI a proposé des évaluations fédérales obligatoires des modèles d’IA les plus performants avant leur diffusion publique, tout en faisant valoir que les régulateurs ne devraient pas décider si ces systèmes peuvent être déployés, établissant ainsi un terrain d’entente dans le débat sur la manière dont l’IA de pointe devrait être gouvernée.
La proposition de l’entreprise est intervenue un jour après que la Maison Blanche a publié un décret sur l’innovation et la sécurité avancées de l’IA, au milieu de discussions en cours à Washington sur la question de savoir si la surveillance des systèmes d’IA frontaliers devrait s’appuyer sur des engagements volontaires, des évaluations obligatoires, des exigences de licence ou une combinaison des trois.
Au centre de la proposition d’OpenAI se trouve une distinction entre l’évaluation gouvernementale et l’approbation gouvernementale. La société a proposé que les modèles d’IA les plus performants soient soumis à des évaluations préliminaires par le Center for AI Standards and Innovation (CAISI), l’organisme d’évaluation et de normalisation de l’IA du gouvernement fédéral, sans toutefois donner aux régulateurs le pouvoir d’approuver ou de bloquer les déploiements.
« Les décideurs politiques devraient exiger que les modèles frontières les plus performants soient soumis à une évaluation CAISI avant leur publication publique », a écrit OpenAI dans sa proposition, « Gouvernance démocratique de Frontier AI : un plan pour un cadre fédéral ». Mais il ajoute que « le rôle du CAISI devrait être de mener des évaluations et de recommander des mesures d’atténuation, et non d’approuver ou de bloquer les déploiements ».
Il propose également un cadre fédéral plus large qui exigerait des évaluations, des audits, des rapports de transparence, des rapports d’incidents, des protections des lanceurs d’alerte et des contrôles de sécurité plus stricts autour des systèmes d’IA frontaliers.
Façonner le débat sur la gouvernance
Sanchit Vir Gogia, analyste en chef chez Greyhound Research, a déclaré que la proposition d’OpenAI semble conçue pour influencer l’orientation d’un cadre de gouvernance fédéral émergent plutôt que de répondre à un cadre déjà établi.
« La question n’est plus de savoir si l’IA frontière est gouvernée, mais plutôt de savoir qui la gouverne, selon quelles conditions et où repose l’autorité finale », a-t-il déclaré.
OpenAI a fait valoir que les gouvernements ont besoin d’une plus grande visibilité sur le développement de l’IA aux frontières et que les engagements volontaires à eux seuls ne suffiront pas à mesure que les systèmes d’IA deviennent plus performants.
« Les gouvernements démocratiques – et non les entreprises privées agissant seules – doivent en fin de compte déterminer les règles, les garanties et les mécanismes de responsabilisation », écrit-il. « Les décisions concernant le rythme de l’innovation en matière d’IA ne devraient pas être laissées à un seul laboratoire, entreprise ou groupe d’intérêt particulier. »
L’entreprise a également déclaré : « Si l’intelligence artificielle générale doit bénéficier à l’ensemble de l’humanité, le monde a besoin de plus que des engagements volontaires, des politiques d’entreprises individuelles et des interventions réglementaires isolées. » Au lieu de cela, affirme-t-il, « il faut des cadres juridiques harmonisés et des institutions durables, capables de s’adapter à mesure que la technologie progresse ».
Une porte d’approvisionnement pour l’IA d’entreprise
La proposition s’adresse également aux acheteurs gouvernementaux. OpenAI a déclaré que les agences fédérales ne devraient pas exploiter de systèmes d’IA frontaliers qui n’ont pas passé avec succès une évaluation reconnue et devraient « interdire l’achat de produits et de services qui reposent sur des modèles frontaliers non évalués » dans des contextes sensibles.
Cela permettrait également de trier le marché fédéral en modèles évalués et non évalués : tout fournisseur s’appuyant sur un modèle frontière devrait démontrer que le système a obtenu l’autorisation d’évaluation pour continuer à vendre au gouvernement.
Gogia a déclaré que les règles de conformité lourdes favorisent les plus grands développeurs, qui aident à définir les seuils et les modèles d’audit dont d’autres héritent. « Une gouvernance de cette forme peut devenir un fossé habillé en maturité », a-t-il déclaré.
Au-delà des engagements volontaires
La proposition d’OpenAI va au-delà des évaluations de modèles, suggérant un cadre de gouvernance plus large pour les développeurs d’IA de pointe.
Parmi les mesures recommandées figurent des audits annuels par des tiers, des rapports de transparence publique, des exigences en matière de déclaration des incidents de sécurité critiques, des protections en matière de cybersécurité pour les poids de modèles non publiés et des mesures de protection contre les dénonciateurs.
« Les grands développeurs frontaliers devraient faire appel chaque année à un tiers indépendant pour vérifier le respect des exigences de sécurité aux frontières », a déclaré OpenAI dans le document.
La société réclame également le signalement obligatoire des incidents critiques impliquant les modèles déployés, notamment les comportements dangereux des modèles et l’accès non autorisé aux poids sensibles des modèles.
Shreeya Deshpande, analyste senior chez Everest Group, a déclaré que la proposition tente d’équilibrer une surveillance plus forte avec une innovation continue.
« Cela crée un juste milieu crédible entre les engagements volontaires et les licences, tout en préservant le contrôle des développeurs », a-t-elle déclaré. « L’efficacité du modèle dépendra de la capacité technique du CAISI, de la qualité de l’évaluation indépendante et de la solidité des mécanismes d’application. »
Bâtir des institutions, pas des gardiens
Un élément central de la proposition d’OpenAI est d’étendre le CAISI à ce qu’il décrit comme la principale institution du gouvernement fédéral pour l’évaluation de l’IA aux frontières, l’élaboration de normes, la certification d’évaluation indépendante et la coordination avec les agences de sécurité nationale et les partenaires internationaux.
OpenAI soutient que les décideurs politiques ont besoin d’une institution permanente capable de surveiller les capacités frontalières et d’évaluer les risques émergents à mesure que les systèmes d’IA évoluent.
Dans le même temps, l’entreprise met en garde à plusieurs reprises contre le fait de transformer CAISI en un contrôleur de déploiement. Les développeurs, affirme-t-il, devraient rester responsables des décisions de publication, et le déploiement des modèles ne devrait pas être retardé en raison de contraintes de capacité gouvernementale ou de goulots d’étranglement administratifs.
Gogia a déclaré que le cadre devrait être compris principalement comme un mécanisme permettant de générer des preuves sur les systèmes d’IA frontaliers plutôt que de déterminer directement s’ils peuvent être déployés.
« Il est préférable de le comprendre comme un régime produisant des preuves plutôt que comme un régime produisant des responsabilités », a-t-il déclaré. « Cela rendra les développeurs plus lisibles. Que cela les rende plus responsables est une autre question. »
