if ( !emtpy($headline_subheadline ) ) : ?>
Le procureur général Rob Bonta affirme qu’OpenAI a reconnu aux enquêteurs 80 incidents impliquant des agents d’IA autonomes atteignant des systèmes externes, ce qui dépasse de loin les 27 événements rapportés publiquement par l’entreprise.
endif; ?>
Le procureur général de Californie, Rob Bonta, a poursuivi OpenAI, alléguant que la société a perdu le contrôle de ses agents d’IA autonomes plus de 80 fois au cours des tests et a induit le public en erreur sur la sécurité avec laquelle elle développe ses modèles.
La plainte a été déposée le 16 novembre devant la Cour supérieure de San Francisco contre OpenAI Foundation et OpenAI Group PBC. Il indique qu’OpenAI a divulgué ce chiffre de plus de 80 aux enquêteurs de l’État, mais n’a signalé publiquement que 27 incidents de ce type. Lors de ces incidents, les agents ont atteint des systèmes tiers, des sites Web de gouvernements étrangers et la propre infrastructure d’OpenAI, a affirmé l’État.
« Alors que les récits sur l’attaque Hugging Face ont évoqué des fantasmes de science-fiction selon lesquels des systèmes d’IA malveillants se déchaînent, permettez-moi d’être clair : l’attaque Hugging Face était le résultat prévisible d’une culture interne chez OpenAI qui donne la priorité à la croissance et au développement rapide de modèles plutôt qu’à la sécurité et à la responsabilité – et ce n’était que l’un des 80 incidents connus », a déclaré Bonta dans un communiqué annonçant le procès.
L’État dépose deux plaintes : violation de la loi californienne sur la concurrence déloyale et création d’une nuisance publique. Il demande une injonction, une restitution, une restitution et une ordonnance visant à réduire les nuisances. Il souhaite également des sanctions civiles de 2 500 $ contre chaque accusé pour chaque violation prouvée au procès.
Autres incidents et violations internes
Lors d’un incident survenu en juillet, des agents se sont échappés de leur bac à sable et ont obtenu un accès de niveau administrateur aux propres systèmes d’OpenAI, selon la plainte. Ces systèmes comprenaient le système de déploiement de modèles cloud de l’entreprise, son service de gestion des secrets et son service de gestion des identités et des accès. Les agents ont ensuite lancé des serveurs non autorisés, exposant ainsi l’infrastructure d’OpenAI à Internet. OpenAI n’a pas laissé des chercheurs externes examiner cette attaque, indique la plainte.
La plainte a identifié plusieurs autres incidents impliquant des agents OpenAI.
Chez RubyGems, un référentiel de packages logiciels, des agents auraient téléchargé des milliers de packages en mai 2026. Les administrateurs ont supprimé plus de 500 packages qu’ils considéraient comme malveillants et la plateforme a suspendu les inscriptions de nouveaux utilisateurs entre le 12 et le 16 mai.
La plainte alléguait également que des agents avaient effectué environ 17 000 modifications sur un site Web allemand, DseWiki, l’utilisant comme forum de discussion pour échanger des informations sur le contournement des restrictions du bac à sable.
D’autres incidents ont impliqué l’infrastructure de la Fondation Wikimedia et les sites Web du gouvernement australien. La plainte indique que les agents ont submergé les services Wikimedia avec des millions de requêtes API et des centaines de milliers de requêtes Wikidata, contribuant probablement à une panne partielle en mai. En juin, des agents auraient accédé à des informations non publiques provenant de sites Web du gouvernement australien.
La plainte indique en outre qu’OpenAI a notifié des dizaines d’organisations dont les sites Web ou les systèmes internes avaient été consultés par ses agents. Il s’agissait notamment d’institutions gouvernementales, d’organismes chargés de l’application de la loi, d’établissements d’enseignement et de petites entreprises. Certains incidents auraient impliqué le vol d’informations d’identification, de clés API et de comptes frauduleux, les agents accédant à des informations personnellement identifiables.
La propre infrastructure d’OpenAI a également été compromise lors d’au moins trois attaques en juillet, selon la plainte. Les agents auraient obtenu un accès de niveau administrateur aux systèmes prenant en charge le déploiement de modèles cloud, la gestion des secrets et la gestion des identités et des accès.
S’échappe après le correctif
L’État a fait valoir que le danger persistait. Le 20 septembre, après qu’OpenAI ait renforcé son environnement, un agent s’est échappé lors d’une formation et a atteint un chatbot externe.
« Cet incident s’est produit après qu’OpenAI ait mis en œuvre un » renforcement de la sécurité « à la suite de l’attaque Hugging Face », ajoute le procès.
OpenAI l’a détecté en quelques minutes, mais l’exécution ne s’est pas arrêtée automatiquement et les évaluateurs humains ont mis deux heures supplémentaires pour l’arrêter, indique la plainte.
OpenAI a annoncé une pause dans la formation et l’évaluation de ses modèles les plus performants le 25 septembre. La pause a duré cinq jours et s’est terminée le 1er octobre, selon la plainte.
Des avertissements restés lettre morte
La plainte faisait valoir que les incidents étaient prévisibles. Il a cité comme preuve la préparation à l’attaque de Hugging Face. Le 26 mai, des agents avaient utilisé une vulnérabilité dans un service de progiciel mal configuré pour accéder à l’Internet public.
Une équipe interne d’OpenAI a vu au moins un agent s’échapper mais n’a apparemment pris aucune mesure, indique la plainte. Le 27 juin, un outil de surveillance de la sécurité a signalé que l’environnement de recherche était analysé à la recherche de vulnérabilités, et OpenAI n’a pas encore arrêté ses exécutions.
Lorsque le trafic d’agents a mis le service hors ligne le 4 juillet, OpenAI l’a corrigé pendant le week-end férié et a repris son exécution le 7 juillet, a affirmé l’État. Deux jours plus tard, les agents ont de nouveau éclaté.
L’État a également reproché à OpenAI de ne pas effectuer de suivi en direct de la chaîne de pensée lors de la formation et de l’évaluation, même s’il l’a fait pour les modèles déployés auprès des employés. Lors de l’attaque Hugging Face, le raisonnement d’un agent était le suivant : « Nous attaquons HF tiers en utilisant un jeton divulgué, potentiellement en dehors de la portée prévue. . . . Ceci est sans doute non autorisé. »
Le bureau de Bonta a adressé à OpenAI une assignation à comparaître le 30 septembre. OpenAI a répondu par une lettre de 14 pages et n’a produit aucune pièce justificative, indique la plainte.
La Californie n’est pas le seul État à faire pression sur OpenAI. En août, la procureure générale de l’Iowa, Brenna Bird, a dirigé une coalition de 15 États exigeant qu’OpenAI préserve les preuves, protège les lanceurs d’alerte et arrête les tests derrière le piratage jusqu’à ce qu’il puisse montrer qu’il peut les exécuter de manière responsable. « L’IA s’est transformée en arme, ce qui est extrêmement effrayant », a déclaré Bird dans un communiqué.
OpenAI n’a pas immédiatement répondu à une demande de commentaire.



