if ( !emtpy($headline_subheadline ) ) : ?>
La nouvelle solution stocke les données de détection dans des environnements cloud contrôlés par le client plutôt que dans les systèmes des fournisseurs.
endif; ?>
Anthropic introduit un nouveau cadre visant à aider les entreprises à surveiller les utilisations abusives de l’IA sans céder le contrôle sur les données sensibles, alors que les organisations peinent à équilibrer la visibilité de la sécurité avec des exigences de conformité strictes.
La société a annoncé une nouvelle solution appelée Enterprise Frontier Safeguards (EFS), qui « combine la confidentialité de la rétention zéro des données (ZDR) avec des garanties de pointe pour détecter les utilisations abusives », a déclaré la société dans un article de blog.
Dans le cadre de cette approche, les données d’activité utilisées pour la surveillance seront stockées dans une infrastructure cloud « contrôlée par le client, et non par Anthropic », a ajouté la société.
La fonctionnalité sera déployée par étapes plus tard cet automne et sera proposée aux clients éligibles.
Pour faciliter la transition, Anthropic a déclaré que les clients ne bénéficieraient d’aucune rétention de données sur ses modèles Fable 5 et Fable 5.1 récemment lancés jusqu’au déploiement d’EFS.
« EFS sera pris en charge sur Claude Code, Claude Enterprise, la plateforme Claude, Amazon Bedrock, la plateforme Claude sur AWS, la plateforme d’agent de Google et Microsoft Foundry », ajoute le message.
Cela s’est produit quelques jours après qu’OpenAI ait introduit une approche similaire pour limiter la conservation des données tout en détectant les abus.
Contrôle client, mais responsabilité partagée
La société a déclaré qu’EFS est conçu pour donner aux entreprises le contrôle sur la manière dont les données de surveillance sont stockées et examinées, tout en permettant à Anthropic de détecter les modèles d’utilisation abusive.
« Avec EFS, les clients contrôlent la manière dont les données sont examinées », a déclaré Anthropic en ajoutant des systèmes automatisés qui signalent les activités suspectes et envoient ces signaux aux équipes clients.
« EFS dispose d’une surveillance automatisée de la sécurité, aucun examen humain anthropique n’est requis », a ajouté la société.
Jaishiv Prakash, analyste directeur chez Gartner, a déclaré que ce changement pourrait aider à répondre aux problèmes de conformité.
« Ce changement est important car il neutralise les obstacles à la conformité qui ont empêché les entreprises hautement réglementées d’adopter des modèles d’IA frontaliers », a déclaré Prakash. « En éloignant la conservation des données des environnements de fournisseurs centralisés, les organisations maintiennent une gouvernance définitive sur les informations sensibles. »
Sanchit Vir Gogia, analyste en chef chez Greyhound Research, a déclaré que les entreprises ne devraient pas supposer que le contrôle des données signifie une visibilité totale.
« La garde ne doit pas être confondue avec la visibilité », a déclaré Gogia. « Anthropic définit toujours le cadre de sécurité et exploite le détecteur. »
« Chaque acheteur doit donc se demander qui détient les données, qui détient la clé, qui exploite le détecteur, qui décide de la signification d’une alerte et qui applique les conséquences », a-t-il déclaré.
La charge opérationnelle est transférée aux entreprises
Anthropic a déclaré que ses systèmes analysent l’activité au fil des sessions et prennent en compte des signaux tels que des tentatives de développement de « capacités cybernétiques ou biologiques offensives » ou des signes de « informations d’identification volées ou divulguées ». Les alertes sont envoyées aux équipes clients pour examen.
« La détection est automatisée dans ce modèle, alors que la responsabilité ne l’est pas », a déclaré Gogia, ajoutant que le système crée un flux de travail interne pour examiner les alertes sans divulguer de volumes ou de taux de faux positifs.
Prakash a déclaré que le même changement augmente les exigences opérationnelles.
« Le modèle transfère fondamentalement la charge opérationnelle du tri des alertes et de la réponse aux incidents directement à l’entreprise », a-t-il déclaré. « Les responsables de la sécurité et des risques doivent investir de manière proactive dans des runbooks spécifiques à l’IA et doter leurs centres d’opérations d’un personnel adéquat. »
Recadrer le compromis en matière de conservation des données
Anthropic a déclaré avoir vu « des preuves substantielles de tentatives d’utilisation abusive… depuis des formes typiques d’abus, telles que la fraude, jusqu’à des cyberattaques sophistiquées », y compris des cas impliquant « le vol ou le détournement des informations d’identification des clients de l’entreprise ».
« Une détection efficace nécessite de stocker les données pendant une période de temps significative afin qu’elles puissent être corrélées dans le temps et dans les comptes », a déclaré la société dans le billet de blog.
Gogia a déclaré que l’EFS ne supprimait pas cette exigence.
« Enterprise Frontier Safeguards déplace les preuves conservées plutôt que d’en supprimer le besoin », a-t-il déclaré, décrivant le modèle comme « une rétention de données nulle du côté du fournisseur aux côtés d’une rétention conservée par le client ».
« Deux laboratoires frontières convergeant vers une architecture en l’espace de quinze jours font de la conception un modèle plutôt qu’un différenciateur », a déclaré Gogia.
S’adapte aux contrôles d’entreprise existants
Anthropic a déclaré qu’EFS permet aux clients de stocker des données d’activité dans leurs propres environnements cloud, notamment Amazon S3, Azure Blob Storage ou Google Cloud Storage, en utilisant leurs propres clés de cryptage et contrôles d’accès.
« Les clients veulent pouvoir conserver leurs données dans une infrastructure qu’ils contrôlent », a déclaré la société. La société a ajouté que ces fonctionnalités sont facultatives et ne modifient pas le comportement du modèle ni les prix.
Prakash a déclaré que les outils d’entreprise existants jouent toujours un rôle.
« Les architectures de sécurité existantes offrent une certaine surveillance, mais manquent généralement de la visibilité spécifique au modèle nécessaire pour détecter les modèles d’utilisation abusive dans les invites, les sessions et les comptes », a-t-il déclaré.
Gogia a déclaré que la plupart des entreprises utilisent déjà des passerelles, des outils de prévention des pertes de données et des plates-formes SIEM, et a décrit EFS comme « un capteur natif du fournisseur plutôt qu’un plan de contrôle ».
Modèle émergent, pas encore une norme
Anthropic a déclaré avoir développé EFS avec la contribution de plus de 100 organisations de tous les secteurs.
Gogia a déclaré que cette approche pourrait être adoptée plus largement, mais qu’elle est encore tôt.
« EFS a une chance crédible de devenir une norme d’approvisionnement ou une architecture de référence pour l’IA d’entreprise sensible », a-t-il déclaré. « Il est bien trop tôt pour qualifier cela de norme. »
Prakash a souligné que la surveillance contrôlée par le client « pourrait devenir une option pour les entreprises réglementées », mais a ajouté qu’elle ne remplacerait pas les déploiements privés.
« Les acheteurs réglementés devraient exiger des artefacts testables avant d’accepter des adjectifs sûrs », a déclaré Gogia, y compris « un modèle de flux de données publié, la précision et le rappel du détecteur, ainsi que des preuves immuables avec la provenance de la version ». Anthropic a déclaré qu’il ne facturerait pas l’EFS, bien que les clients supportent les coûts standard de l’infrastructure cloud.
