Mais voici un peu d’argent pour aider à les traiter, disent Google et d’autres sociétés d’IA.
Google n’acceptera plus les soumissions générées par l’IA à un programme qu’il a financé pour trouver des bogues dans les logiciels open source. Cependant, il contribue à un programme distinct qui utilise l’IA pour renforcer la sécurité du code open source.
L’équipe du programme de récompense des vulnérabilités des logiciels open source de Google est de plus en plus préoccupée par la mauvaise qualité de certaines soumissions de bogues générées par l’IA, nombre d’entre elles incluant des hallucinations sur la façon dont une vulnérabilité peut être déclenchée ou signalant des bogues ayant peu d’impact sur la sécurité.
« Pour garantir que nos équipes de tri peuvent se concentrer sur les menaces les plus critiques, nous aurons désormais besoin de preuves de meilleure qualité (comme une reproduction OSS-Fuzz ou un correctif fusionné) pour certains niveaux afin de filtrer les rapports de mauvaise qualité et nous permettre de nous concentrer sur l’impact réel », a écrit Google dans un article de blog.
La Fondation Linux trouve également le volume de bogues générés par l’IA écrasant et a demandé l’aide financière de sociétés d’IA, notamment Google, Anthropic, AWS, Microsoft et OpenAI, pour résoudre le problème. Ensemble, ils contribuent 12,5 millions de dollars à la fondation pour améliorer la sécurité des logiciels open source.
« Les subventions à elles seules ne permettront pas de résoudre le problème que les outils d’IA posent aujourd’hui aux équipes de sécurité open source », a déclaré Greg Kroah-Hartman du projet de noyau Linux dans un article de blog. « OpenSSF dispose des ressources actives nécessaires pour soutenir de nombreux projets qui aideront ces responsables surmenés à trier et à traiter l’augmentation des rapports de sécurité générés par l’IA qu’ils reçoivent actuellement. »
Le financement sera géré par le projet de sécurité open source Alpha-Omega et l’Open Source Security Foundation (OSSF) et sera utilisé pour fournir des outils d’IA pour aider les responsables à gérer le volume de soumissions générées par l’IA.
« Nous sommes ravis d’apporter une assistance en matière de sécurité de l’IA centrée sur les responsables aux centaines de milliers de projets qui alimentent notre monde », a déclaré Michael Winser, co-fondateur d’Alpha-Omega.
