if ( !emtpy($headline_subheadline ) ) : ?>
Le responsable de la sécurité de l’entreprise affirme qu’on ne peut pas faire confiance aux modèles d’IA.
endif; ?>
Hayete Gallot, vice-président de la sécurité de Microsoft, écrit dans un article de blog que les agents d’IA opérant de manière indépendante au sein des entreprises pourraient constituer une menace sérieuse pour la sécurité. Selon Microsoft, on ne peut pas entièrement faire confiance aux modèles d’IA les plus avancés d’aujourd’hui.
Non pas parce qu’ils sont malveillants, mais parce qu’ils sont formés pour atteindre leurs objectifs et qu’ils peuvent prendre des raccourcis inattendus pour les atteindre. Par exemple, contourner les limitations ou coopérer avec d’autres agents IA d’une manière non prévue.
Le problème devient particulièrement grave lorsque les entreprises autorisent les agents d’IA à accéder à des informations sensibles et à des outils internes, et même à prendre des décisions indépendantes.
Pour faire face aux risques, Microsoft lance des « Guardian Agents », qui sont des agents d’IA qui surveillent et contrôlent les actions d’autres agents d’IA 24h/24 et 7j/7. Il s’agit d’évaluer les risques en temps réel et d’intervenir si un agent IA fait quelque chose de potentiellement dangereux. La technologie fait partie de l’initiative de sécurité Project Perception de Microsoft, dévoilée en juillet.
