if ( !emtpy($headline_subheadline ) ) : ?>
Railway affirme que l’outil de test d’IA d’un ingénieur est allé trop loin en sondant son rival du cloud Primcloud, soulignant qu’il a agi indépendamment de l’entreprise.
endif; ?>
Les agents d’IA exploités par l’infrastructure cloud et la plateforme d’hébergement d’applications Railway ont tenté d’accéder à l’infrastructure d’une plateforme rivale, incitant les dirigeants du fournisseur de cloud à reconnaître l’incident sur les réseaux sociaux.
L’ingénieur produit principal des chemins de fer, Jake Runzer, a reconnu que des agents en cours d’exécution effectuaient des inscriptions et des tests d’agents sur des plates-formes similaires après que le fondateur de Primcloud, Josh Manders, ait publiquement demandé pourquoi les employés des chemins de fer tentaient de violer son infrastructure.
Runzer a déclaré qu’il avait arrêté le harnais de test après qu’il ait commencé à aller trop loin. Le co-fondateur et PDG de Railway, Jake Cooper, s’est excusé, affirmant que les modèles « devenaient un peu trop performants à ce stade » et s’est engagé à interdire les tests externes non manuels.
Selon Manders, les agents ont tenté de recevoir des informations d’identification d’un conteneur d’application, de demander des secrets de plate-forme, d’accéder aux métadonnées du fournisseur de cloud, de découvrir des bases de données et des caches internes et d’analyser deux fois les 65 536 adresses du réseau interne de Primcloud.
L’activité aurait impliqué 24 commandes scriptées sur 15 minutes.
« Un agent peut agir sans que personne ne dirige chaque étape », a déclaré Diana Kelley, responsable de la sécurité de l’information chez Noma Security. « Cela ne retire pas la responsabilité des personnes et des organisations qui le déploient. »
Primcloud a déclaré que ses défenses bloquaient chaque tentative et que « rien » n’était accessible. L’incident fait suite à la propre divulgation de sécurité par Railway impliquant des variables d’environnement client cryptées.
L’ingénieur agissait de son propre chef
Cooper a déclaré que l’employé avait développé l’outil de test de manière indépendante, en utilisant des comptes personnels, une carte de crédit personnelle et son temps libre. Il a ajouté que Runzer l’avait exécuté auprès d’un seul fournisseur externe et l’avait interrompu de manière proactive dans les 15 minutes, ajoutant que Railway avait résolu l’incident en interne.
« Je peux confirmer qu’ils ont exécuté cet outil une et une seule fois », a déclaré Cooper dans un article X. « Le chemin de fer ne tolère pas ces actions. Nous attendons de tous nos employés qu’ils respectent nos normes de conduite, qu’ils agissent au nom du chemin de fer ou à titre personnel. »
Bien que cette chronologie concorde avec le propre récit de Manders, certains détails restent obscurs. Après avoir publiquement appelé Runzer sur X, Manders a publié un message de suivi, affirmant qu’il avait observé une autre tentative d’accès au compte après son premier avertissement.
« Je vois que tu as également essayé d’accéder au compte après ce tweet, Jake », avait-il écrit plus de 30 minutes après son premier message.
Primcloud n’a pas de programme de bug bounty, conformément à sa politique d’utilisation acceptable (AUP). Il interdit les sondages, analyses ou tests de vulnérabilité non autorisés sans consentement écrit préalable.
« L’IA l’a fait » n’est pas une stratégie de responsabilisation
Les experts condamnent l’explication de l’incident par une « IA voyou » de Railway.
Amir Boldo, co-fondateur et directeur des produits et de la technologie d’Above Security, a mis en garde contre la description des agents comme des attaquants, car ils peuvent exécuter des séquences similaires à celles d’un attaquant sans aucune intention malveillante.
Les traces d’exécution peuvent établir ce qu’un agent a fait, mais elles ne peuvent pas prouver de manière indépendante son intention, a-t-il déclaré, ajoutant que les enquêteurs ont besoin de preuves couvrant les instructions, les identités, les autorisations, les entrées et les appels d’outils. « Vous ne pouvez pas traduire en justice un agent. Vous pouvez tenir chaque partie responsable de sa part », a déclaré Boldo.
Ronald Lewis, responsable de la gouvernance de la cybersécurité chez Black Duck, a fait valoir que les utilisateurs ne comprennent peut-être pas pleinement que déléguer du travail à un agent délègue également l’autorité associée à leur identité.
« Nous devons maintenant nous demander ce qui se passe lorsque l’identité de confiance est déléguée à un système non déterministe capable de décider de manière indépendante comment l’utiliser », a déclaré Lewis. Cooper a confirmé dans son message X que Railway avait traité l’incident en interne et renforçait ses attentes en matière de conduite des employés, y compris lorsque les employés agissent à titre personnel.
