if ( !emtpy($headline_subheadline ) ) : ?>
S’attendre à ce que les modèles d’IA les plus puissants ne parviennent pas à se frayer un chemin à travers les pare-feu et les proxys serait source d’ennuis.
endif; ?>
Les procédures de sécurité actuelles pour la formation des modèles d’IA sont inadéquates, ont averti les gouvernements et la communauté de l’IA par des centaines de chercheurs en IA. Ils réclament des règles plus strictes et la création d’un nouvel organisme international supervisant les meilleures pratiques en matière de développement de l’IA.
Dans une lettre ouverte, les spécialistes de l’IA – 487 au moment de la publication, dont de nombreux universitaires de haut niveau – ont appelé à davantage de recherches sur la sécurité de l’IA et à une plus grande importance accordée aux technologies de confinement.
« Des mécanismes de sandboxing puissants, notamment l’airgapping (déconnexion d’Internet), devraient être utilisés pour assurer un confinement de haute sécurité des modèles d’IA cyber-capables », déclarent les signataires, parmi lesquels figurent des sommités telles que Geoffrey Hinton et Yoshua Bengio.
Les experts ont déclaré qu’un nouvel organisme international, qui serait créé en consultation avec les gouvernements et un large éventail de spécialistes de l’IA et de la sécurité, pourrait établir de nouvelles normes de sécurité, mais aussi agir comme une organisation à laquelle les échecs de confinement pourraient être signalés, améliorant ainsi la transparence à des fins d’apprentissage et de responsabilisation.
Les revendications des scientifiques vont plus loin que certains appels récents en faveur d’une plus grande réglementation de l’IA. Plus tôt cette semaine, le président de Microsoft, Brad Smith, a déclaré que l’IA était moins réglementée que les machines à laver ou le lait, bien qu’il n’ait fait aucune proposition ferme pour remédier à la situation. Et le parlement britannique étudie les moyens d’améliorer la sécurité de l’IA, même si toute initiative sera entravée par les désaccords entre les entreprises d’IA.
Hinton et Bengio ne sont pas étrangers à ce type d’initiative menée par des scientifiques. En octobre de l’année dernière, ils ont signé une lettre ouverte mettant en garde contre les dangers du développement d’une IA super intelligente. La lettre ne semble pas avoir affecté le développement fulgurant d’AI ; il reste à voir si les acteurs de l’IA dans les salles de conférence tiendront compte de cet avertissement.
