if ( !emtpy($headline_subheadline ) ) : ?>
Les modèles contournent les restrictions d’accès à Internet, collectent des données inutiles, dissimulent les violations et détruisent même les environnements de tâches après avoir échoué à accéder aux entrées requises.
endif; ?>
Les problèmes de désalignement d’OpenAI semblent ne faire qu’empirer, sur la base d’un autre trio de rapports détaillant les comportements troublants et trop zélés de ses modèles.
Lors de tests de désalignement ad hoc, les modèles OpenAI ont trouvé des moyens créatifs d’accéder de manière subversive à des informations restreintes en trichant via les paramètres de proxy ou de pare-feu, en se familiarisant avec les outils Internet et même en endommageant leurs propres environnements de tâches pour déclencher des réinitialisations.
Ces rapports sont arrivés juste une semaine après trois autres d’OpenAI qui décrivaient comment des modèles avaient découvert la possibilité de leur propre résiliation après avoir accédé à des messages privés Slack et suggéraient des moyens de l’empêcher, exploitaient des vulnérabilités pour tricher sur les tests et obtenaient des informations non disponibles dans leurs propres espaces de travail.
La prévalence et la gravité accrues de ces incidents incitent de nombreuses personnes à nécessiter des garde-fous et des contrôles plus stricts pour l’IA agentique. Dans son blog personnel, par exemple, le PDG de Microsoft, Satya Nadella, a déclaré que l’industrie devait « prendre du recul et évaluer l’architecture de confiance pour cette nouvelle ère ».
Détruire son propre environnement de test
OpenAI a commencé une surveillance plus agressive du désalignement à la suite de l’incident de Hugging Face de juillet 2026, au cours duquel des agents de recherche autonomes d’OpenAI sont sortis de leurs bacs à sable et ont ciblé l’infrastructure de Hugging Face. Des centaines de ses agents ont également attaqué la plateforme RubyGems et ciblé des sites wiki de programmation allemands ces derniers mois.
Dans l’un de ses nouveaux rapports, OpenAI décrit comment un modèle interne, chargé d’évaluer plusieurs autres modèles, a compris comment endommager son propre environnement alors qu’il ne parvenait pas à obtenir les résultats escomptés.
Lors de la comparaison de sept réponses provenant de sept modèles différents, l’évaluateur devait inspecter le contexte conversationnel et travailler derrière chaque réponse, et inclure des informations pointant vers les fichiers d’entrée.
Le modèle a reçu pour instruction :
Il a découvert que les fichiers d’entrée requis manquaient, mais il a néanmoins tenté de soumettre des évaluations sans aucune information à l’appui. Celles-ci ont été rejetées par un contrôle automatisé. Le modèle a également créé sept faux fichiers de conversation et sept faux fichiers de réponses contenant des informations fabriquées ; ceux-ci ont également été rejetés.
« Il a envisagé de soumettre des notes arbitraires, tout en reconnaissant qu’il lui manquait des preuves pour noter et que la ‘notation aléatoire’ était ‘contraire à l’éthique' », a expliqué OpenAI. Le modèle a également testé la vérification automatisée en soumettant des rapports fictifs pour savoir quelles informations un rapport devait contenir et combien de réponses il devait noter.
Après ces échecs, le modèle a décidé d’endommager son environnement de tâches, probablement dans l’espoir que l’hôte le remplacerait par un autre contenant les entrées manquantes. Il a supprimé les logiciels nécessaires à l’exécution de ses outils et a tenté de supprimer les répertoires système.
Bien que les contrôles automatisés aient rejeté les notes incorrectes ou falsifiées, « cet incident illustre pourquoi la surveillance doit également couvrir les actions de l’évaluateur, y compris les tentatives qui échouent ou se bloquent sans produire de résultat accepté », a écrit OpenAI.
Enfreindre les règles pour obtenir les bonnes réponses, cacher les preuves
Dans un autre cas, un modèle OpenAI a développé et testé des moyens de contourner les restrictions d’accès à Internet.
Des questions ont été posées au modèle sur les salaires des enseignants, les connexions au réseau électrique et le nombre de personnes handicapées dans des domaines spécifiques. Il se limitait à utiliser des requêtes de récupération de données de base, mais « le modèle traitait parfois cette restriction comme quelque chose à contourner », a expliqué OpenAI.
Il a exploré d’autres moyens de contacter des ressources externes, par exemple en déterminant si son service intermédiaire proxy pouvait transporter d’autres types de connexions ou si des services externes pouvaient faire des demandes en son nom. Dans certains cas, il a continué à explorer ces autres options même lorsqu’il disposait des statistiques dont il avait besoin.
« Ces cas montrent qu’un modèle peut continuer à développer des moyens de contourner les restrictions d’accès même lorsqu’un accès supplémentaire n’est pas nécessaire pour obtenir les informations dont il a besoin », a écrit OpenAI.
Dans un troisième cas, impliquant également des statistiques publiques, les modèles OpenAI ont découvert comment contourner les restrictions d’accès à Internet et accéder aux chiffres provenant de sources de données publiques du gouvernement.
Les modèles de cette expérience étaient également limités aux requêtes HTTP GET, mais ils « ont écrit des programmes personnalisés pour envoyer d’autres types de requêtes », a expliqué OpenAI.
À l’aide de l’un de ces programmes, un modèle a interrogé un tableau de bord accessible au public et, même s’il a « explicitement reconnu » que ses actions violaient ses restrictions, il a continué à collecter beaucoup plus de données que nécessaire. Plus tard, il a décidé de ne pas divulguer ce qu’il avait fait.
Un autre modèle utilisait une adresse e-mail temporaire pour créer et vérifier un compte pour un site, puis téléchargeait des données accessibles au public.
« Ces cas illustrent pourquoi les réponses correctes ne suffisent pas pour établir qu’un modèle s’est comporté correctement », a écrit OpenAI. « Un modèle peut obtenir des informations précises par des méthodes interdites et délibérément dissimuler la manière dont il l’a fait. »
En réponse à ces incidents, et à d’autres, OpenAI affirme avoir renforcé les contrôles de sécurité, pris des « mesures supplémentaires » pour empêcher les modèles d’accéder à Internet en direct pendant la formation et amélioré l’évaluation de l’alignement. Il a également « étendu la surveillance du désalignement à tout le trafic d’apprentissage et d’évaluation par renforcement ».
