Si votre PME adopte Claude, déployez les fonctionnalités progressivement et protégez vos clés API, car vous ne pouvez pas externaliser vos risques de sécurité.
Vous êtes un responsable de la sécurité dans une petite ou moyenne entreprise (PME) et votre organisation a décidé d’adopter Claude. Si vous êtes comme moi, une fois passée la « surprise » initiale, vous souhaitez probablement comprendre rapidement ce que l’adoption de Claude signifie pour l’entreprise, et pour la sécurité en particulier. Vous trouverez ci-dessous quelques leçons que j’ai apprises, dont j’ai été témoin en tant que spectateur ou entendues par d’autres responsables de la sécurité dans le domaine des PME. L’entreprise veut évoluer rapidement et la sécurité est chargée de suivre cette vitesse.
Sachez ce que vous achetez et acceptez que les choses évoluent rapidement
Assurez-vous de bien comprendre ce que l’organisation tente de réaliser et quel plan Claude vous achetez. Il est important de comprendre le forfait Claude que vous utilisez ou que vous envisagez d’acheter, car la plupart des éléments de sécurité ne sont pas disponibles avant le forfait Équipe ou supérieur. Par exemple, alors que le forfait Team fournit le SSO, l’API de conformité est disponible uniquement sur le forfait Enterprise. Claude Code (« Code »), Cloud Cowork (« Cowork ») et Claude Chat (« Chat ») sont des produits différents avec des cas d’utilisation et des résultats différents. La stratégie ici est de gérer le rayon d’explosion. Très probablement, chaque utilisateur demandera « Claude » sans savoir de quel plan ou produit il a besoin pour accomplir la tâche. J’ai trouvé qu’une analogie fonctionne bien ici : la finance n’a probablement pas envie de donner à tous les membres de l’organisation une carte de crédit d’entreprise avec des dépenses illimitées et une politique sans dépenses.
Dans le même ordre d’idées, il n’est peut-être pas nécessaire d’équiper tout le monde d’une licence Claude, et même si certains utilisateurs peuvent avoir une analyse de rentabilité pour utiliser Cowork, tout le monde n’aura pas besoin de Code. L’approvisionnement de ces produits n’est pas toujours évident. Ma recommandation est de mettre en place un processus d’approbation agile pour déterminer qui a besoin d’une licence Claude en premier lieu, de quels produits ils ont besoin et comment contrôler initialement le rayon de souffle de cette façon. Un mot d’avertissement cependant : même s’il peut sembler que l’utilisateur avec la licence Claude est désormais plus risqué que celui qui ne l’a pas, cela pourrait ne pas être vrai. À moins que vous ne puissiez contrôler étroitement l’utilisation de l’IA fantôme, l’utilisateur sans licence peut utiliser le plan gratuit de Claude ou un produit d’IA complètement différent. Environ la moitié des employés utilisent des outils d’IA fantôme, tandis que d’autres enquêtes indiquent que ce chiffre pourrait être encore plus élevé (dans le 80e percentile).
Acceptez également qu’il soit difficile de suivre le paysage en constante évolution de l’IA, en particulier en tant que leader de la sécurité d’une PME. Claude envoie des mises à jour presque quotidiennement, et les fonctions et fonctionnalités se déplacent au sein des paramètres organisationnels. Il est intimidant de suivre le rythme de l’innovation, alors ne vous sentez pas mal si vous n’avez pas toutes les réponses immédiatement. Nous apprenons tous en même temps à utiliser et à sécuriser l’IA.
Astuce de raccourci : Vous ne savez pas par où commencer ? Demandez à Claude. Demandez-lui d’expliquer les fonctionnalités de votre plan Claude, les fonctionnalités de sécurité disponibles et à quoi pourrait ressembler un plan de mise en œuvre pour votre organisation. De plus, si quelqu’un a une question à vous poser, demandez-lui : « Avez-vous posé la question à Claude ? La délégation à son meilleur.
N’activez pas tout en même temps et protégez vos clés
Ce que j’ai trouvé qui fonctionne bien, c’est de classer les caractéristiques de Claude en fonction des risques. Si les conseils ci-dessus concernent le rayon de l’explosion, vous pouvez considérer cela comme une évaluation des « vecteurs d’attaque ». Sans aucun doute, les utilisateurs demanderont que toutes les fonctionnalités de Claude soient activées en même temps, mais je recommande une approche progressive. Il est très facile dans les paramètres organisationnels de Claude d’activer ou de désactiver simplement des fonctionnalités, et même s’il existe certains avertissements sur l’impact d’une fonctionnalité sur la sécurité, il n’est pas toujours clair comment la fonctionnalité fonctionne dans les produits Claude ou au sein de ceux-ci.
L’activation de la sortie s’accompagne d’une bannière d’avertissement ; l’activation de la recherche sur le Web ou d’une extension de navigateur ne le fait pas. Cependant, le risque d’une injection indirecte et rapide est réel et encore émergent. Un « non » catégorique pourrait ne pas fonctionner pour l’entreprise, mais un « peut-être plus tard » bien expliqué pourrait le faire. Ma recommandation est de passer en revue les fonctionnalités de Claude et de les classer par risque (ou mieux encore, de demander à Claude de les classer en premier) et d’établir une feuille de route à partir de là. Je me suis retrouvé avec trois tranches : « activer maintenant », « activer avec des contrôles et une surveillance supplémentaires » et « ne pas activer jusqu’à ce que le risque puisse être mieux contrôlé », mais la vôtre pourrait être différente. Une ressource précieuse que nous avons utilisée était ce guide de mise en œuvre pour Cowork, mais il en existe d’autres, et celui-ci est réservé à Cowork.
L’une des parties les plus déroutantes est la façon de gérer les clés API. Ne distribuez pas la clé API Anthropic ; selon qui est le « propriétaire principal » du compte Claude, cette personne contrôle les clés du royaume. Il était difficile de mettre en place un moyen sûr et structuré d’administrer les clés API, car les instructions ne se trouvent nulle part dans les paramètres organisationnels (administrateurs). Puisqu’il s’agit d’un sujet très complexe, sachez qu’il existe différents types de clés API, et Anthropic a introduit le concept d’espaces de travail. De plus, l’API Admin nécessite une clé API spéciale (commençant par sk-ant-admin…) par rapport à une clé standard (sk-ant-api…). L’accès est toujours un domaine à haut risque, alors assurez-vous de comprendre comment l’organisation émet, gère et examine les clés API. Je recommande de limiter le nombre de personnes capables de créer des clés API, surtout au début.
Astuce de raccourci : déposez une photo. Saviez-vous que Claude peut analyser des captures d’écran ? Si vous n’êtes pas sûr de ce qu’une fonctionnalité spécifique de Claude signifie pour la sécurité, prenez une capture d’écran du paramètre et invitez Claude à évaluer ce que cette fonctionnalité signifie en fonction de vos politiques de sécurité, SOC 2, etc. Plus vous fournissez de contexte, meilleurs sont les résultats.
Vous ne pouvez toujours pas externaliser le risque de sécurité, et le problème reste les données.
Ne présumez pas que la sécurité est automatiquement intégrée aux produits Claude, et obtenir une visibilité du point de vue de la sécurité peut être un défi. Bien qu’Anthropic améliore continuellement les contrôles de sécurité et les garde-corps pour ses produits, tout comme aux débuts d’Internet, les contrôles et les garde-corps sont toujours en cours de construction, mais cela ne signifie pas que vous êtes dégagé de la responsabilité de comprendre les risques et les préoccupations en matière de sécurité. Par exemple, l’activation de Skills pourrait conduire à l’exécution de code malveillant. Bien qu’Anthropic publie des conseils sur la manière de créer des compétences, il n’existe pas encore de solution prête à l’emploi. Avec l’aide de Claude Code, nous avons créé notre propre « auditeur de compétences », un mini workflow pour soumettre automatiquement une compétence pour évaluation. Il utilise la documentation interne et le guide des meilleures pratiques d’Anthropic pour auditer la compétence, identifier les problèmes potentiels et fournir des recommandations pour les résoudre.
Nous cherchons maintenant à améliorer encore davantage la compétence afin qu’elle puisse fournir une compétence mise à jour plutôt que de simples recommandations. Le grand défi reste d’avoir de bons contrôles et une bonne gouvernance autour de vos données – non seulement ce qui entre dans Claude, mais aussi ce qui en sort. Et honnêtement, c’est peut-être l’un des problèmes les plus délicats à résoudre, alors si vous l’avez compris, appelez-moi. La recherche sur le Web dans Cowork agit essentiellement comme un proxy pour le trafic Web. Les sites Web ou le contenu Web que vous avez bloqués ou filtrés avec des outils traditionnels peuvent désormais contourner vos contrôles. De plus, les LLM plaisent aux gens : s’ils ne connaissent pas la réponse, ils pourraient l’inventer (c’est-à-dire halluciner). Les utilisateurs sont souvent enclins ou tentés de considérer le résultat comme véridique. Non seulement cela peut créer des problèmes de sécurité, mais cela peut également entraîner de mauvais résultats commerciaux.
Astuce de raccourci : exploitez autant que possible vos outils et fournisseurs existants. Poussez-les sur les questions émergentes. Tout comme vous, ils doivent s’adapter aux nouveaux produits et aux développements de l’IA. N’ayez pas l’impression d’être sur une île.
En tant que professionnels de la sécurité, je crois que nous rêvons tous du jour où les vulnérabilités seront corrigées automatiquement bien avant qu’elles n’atteignent la production, mais avec les choix de mise en œuvre s’ajoute la possibilité de « mal faire ». Cependant, je pense également qu’en tant que leader de la sécurité dans le domaine des PME, vous possédez déjà les compétences et les répétitions nécessaires pour faire les bons choix. Vous êtes probablement habitué à moins de bureaucratie, à une conformité plus agile et à une mise sur le marché plus rapide. Cela signifie que vous êtes constamment à la limite entre le risque et la récompense, et ce n’est pas différent. Bonne chance, vous avez ceci !
Cet article est publié dans le cadre du Foundry Expert Contributor Network.
Voulez-vous nous rejoindre ?
