if ( !emtpy($headline_subheadline ) ) : ?>
Des approches divergentes en matière de sécurité pourraient fragmenter l’accès et compliquer la stratégie d’IA de l’entreprise.
endif; ?>
Les divergences croissantes entre les principales sociétés d’IA sur la manière de sécuriser des modèles de plus en plus puissants commencent à se traduire par des défis pour l’informatique d’entreprise, avec des implications sur la manière dont les organisations accèdent, déploient et gèrent les systèmes d’IA.
Le dernier point chaud est survenu après que le PDG de Meta, Mark Zuckerberg, a appelé des évaluateurs neutres pour tester de manière indépendante les modèles d’IA, repoussant les appels des rivaux visant à ralentir le développement ou à resserrer la coordination.
« La confiance et l’alignement deviennent rapidement les capacités les plus importantes qui différencieront les agents et les modèles. Tout laboratoire qui ne se concentre pas sur l’alignement prendra du retard », a écrit Zuckerberg dans un article sur X.
« Engager des évaluateurs et des conseillers indépendants est la meilleure pratique de l’industrie », a-t-il ajouté, notant que Meta le fait déjà dans plusieurs domaines.
Ses commentaires font suite à une série de propositions publiques émanant de leaders de l’industrie de l’IA, notamment Dario Amodei, qui a plaidé en faveur d’un rythme de développement plus prudent, et Sam Altman, qui a appelé à une collaboration sur les normes de sécurité.
Le débat s’est intensifié au milieu des révélations des laboratoires d’IA et des décideurs politiques sur une éventuelle utilisation abusive des systèmes avancés. Anthropic a déclaré limiter les tentatives d’utilisation de ses modèles Claude dans des domaines sensibles, tandis qu’OpenAI s’est engagé auprès des décideurs politiques sur les risques liés à l’IA, selon des déclarations et des rapports de l’entreprise.
Préoccupations des entreprises
Alors que le débat se résume souvent à un choix entre ralentir l’innovation et renforcer la surveillance, les analystes estiment que les entreprises devraient moins se concentrer sur l’approche qui prévaut et davantage sur les conséquences opérationnelles qui se dessinent déjà.
« Des approches de sécurité divergentes rendront l’accès aux modèles d’IA avancés moins prévisibles, plutôt que de produire un ralentissement à l’échelle de l’industrie », a déclaré Sushovan Mukhopadhyay, analyste directeur chez Gartner. Les fournisseurs sont susceptibles d’appliquer différents calendriers de publication, disponibilité régionale, niveaux d’accès et restrictions d’utilisation, a-t-il déclaré, ce qui signifie que les entreprises pourraient rencontrer des capacités similaires « à des moments différents et dans des conditions sensiblement différentes ».
Mukhopadhyay a déclaré que les entreprises devraient planifier la variabilité de l’accès plutôt que de supposer une disponibilité constante entre les fournisseurs ou les zones géographiques.
« J’ai lu cette semaine comme le moment où l’IA frontalière est devenue une offre gérée », a déclaré Bhupendra Chopra, directeur des recettes chez Kanerika. « Pendant trois ans, les DSI pourraient supposer que le prochain modèle apparaîtrait simplement. Un modèle frontière se comporte désormais davantage comme un composant critique d’un fournisseur dont les dates de livraison dépendent en partie de réviseurs externes et des règles d’exportation. »
Chopra a ajouté que « toute feuille de route de l’IA construite sur un modèle spécifique et arrivant à une date précise comporte un risque d’approvisionnement dont elle n’a pas pris en compte le prix ».
La pression sécuritaire s’accentue indépendamment du ralentissement
Selon les analystes, il est peu probable que le seul ralentissement du développement modifie sensiblement le risque de l’entreprise, en particulier à mesure que les modèles open source prolifèrent.
« Le point le plus important n’est pas la pause elle-même. C’est que les dirigeants des sociétés d’IA se mettent d’accord sur quelque chose », a déclaré Nikhil Gupta, fondateur et PDG d’ArmorCode.
Gupta a déclaré que le paysage des menaces avait déjà changé. « Même si les entreprises font une pause, des modèles d’IA open source existent déjà », a-t-il déclaré. « Je ne suis pas convaincu que le fait de ralentir certaines entreprises change de manière significative ce que les adversaires peuvent faire. »
« Même si le développement de l’IA ralentit demain, la sécurité doit s’accélérer », a ajouté Gupta. « Le travail de sécurisation de ces systèmes est effectivement devenu dix fois plus difficile. »
Une nouvelle couche « assurance IA » émerge
L’accent mis sur l’évaluation est à l’origine de ce que les analystes ont décrit comme une nouvelle couche « d’assurance IA », dans laquelle des tiers évaluent la sécurité et la conformité des modèles.
« Une couche distincte d’assurance de l’IA est susceptible d’émerger, mais les entreprises ne doivent pas s’attendre à une seule certification établissant qu’un système d’IA est sûr », a déclaré Mukhopadhyay. « Le risque d’entreprise dépend également des données, des instructions du système, des outils, des agents et des contrôles de déploiement. »
Chopra a déclaré que les entreprises risquent de mal interpréter de telles évaluations. « Les équipes d’approvisionnement peuvent consulter une évaluation tierce et considérer le modèle comme approuvé », a-t-il déclaré. « En un an, cela devient une case à cocher. »
Au lieu de cela, a-t-il déclaré, les entreprises devront effectuer leur propre validation. « Les DSI qui avancent testeront chaque modèle par rapport à leurs propres données avant qu’il n’entre en production. »
La fragmentation complique les stratégies multimodèles
Pour les DSI qui poursuivent des stratégies multi-fournisseurs, des approches différentes selon les fournisseurs pourraient introduire une complexité supplémentaire.
« La fragmentation était déjà la norme par défaut. Les divergences en matière de sécurité l’aggravent », a déclaré Chopra.
Il a déclaré que le risque est plus aigu pendant les transitions. « Pour une entreprise qui gère plusieurs modèles, l’exposition réside dans le transfert », a-t-il déclaré. « Lorsqu’un modèle est retardé ou remplacé, le système peut se comporter différemment. »
« Je placerais la substitution de modèles non testés au-dessus de la dépendance vis-à-vis du fournisseur », a déclaré Chopra.
Gupta a déclaré que les architectures ouvertes seront importantes. « Le cadre doit être ouvert et non limité à un seul fournisseur », a-t-il déclaré.
Mukhopadhyay a ajouté que les entreprises devraient se préparer à ce que les modèles deviennent indisponibles ou restreints.
Les DSI sont invités à renforcer leur résilience
Les analystes ont déclaré que les entreprises devront concevoir des stratégies d’IA capables de s’adapter aux changements en matière de disponibilité, de prix et de gouvernance.
« Pour les applications critiques, les DSI doivent séparer les contrôles applicatifs et la logique métier du modèle sous-jacent », a déclaré Mukhopadhyay.
Chopra a mis l’accent sur la flexibilité. « Une couche de routage entre les applications et les fournisseurs de modèles transforme la commutation en travail de configuration », a-t-il déclaré, ajoutant que les contrats devraient couvrir les délais de dépréciation.
Il a également souligné les implications en matière de prix. « Le rare accès à la frontière commence à avoir des conséquences néfastes », a déclaré Chopra.
Monde informatique
