GPT-6 Cyber ​​d’OpenAI augmente la mise en matière de découverte de vulnérabilités

OpenAI présente GPT-6 Cyber, un modèle à accès restreint que l’entreprise appelle son modèle de cybersécurité le plus performant et le plus aligné à ce jour, « conçu pour aider les chercheurs en sécurité à identifier et valider les vulnérabilités exploitables, à évaluer leur impact et à renforcer les correctifs potentiels avant leur publication ».

Les chercheurs d’OpenAI ont déclaré avoir utilisé GPT-6 Cyber ​​​​pour trouver 81 vulnérabilités de haute gravité jusqu’alors inconnues dans Firefox et développer des exploits fonctionnels pour 948 vulnérabilités du noyau Linux, dont 588 vulnérabilités jusqu’alors inconnues. Mozilla a commencé à publier des correctifs, et les résultats de Linux sont rapportés avec des correctifs candidats pour examen par le responsable.

Dans un échantillon de 166 exploits, les chercheurs d’OpenAI ont identifié 10 techniques d’exploitation qui, selon la société, semblaient nouvelles, ce qui signifie que les experts externes en exploitation du noyau ne les auraient jamais vues auparavant, et qui pourraient permettre à une personne disposant d’un accès local d’obtenir les privilèges root.

Soulignant ce qu’il appelle un alignement et des garanties plus forts, OpenAI a déclaré que GPT-6 Cyber ​​ »a été formé pour rester dans le champ d’application autorisé, respecter les restrictions et rapporter les résultats avec précision ». Dans son évaluation ExploitGym Honeypot, le modèle a dépassé la portée prévue dans seulement 0,07 % des cas, contre 5,51 % pour GPT-5.6 Cyber.

Plus de bugs, de nouvelles voies d’exploitation

Chris Hughes, vice-président de la stratégie de sécurité chez Noma Security, estime que les résultats de Firefox suggèrent un réservoir de vulnérabilités plus profond dans les logiciels matures que ce que les défenseurs auraient pu imaginer.

Au-delà de cela, les 10 nouvelles techniques pourraient montrer comment les modèles d’IA pourraient non seulement découvrir davantage de vulnérabilités, mais également créer de nouvelles voies d’exploitation, selon Rob T. Lee, le nouveau directeur de l’IA de la société de cybersécurité industrielle Dragos, qui s’est récemment associée à OpenAI.

La promesse d’une sécurité à la vitesse de l’agent

Lors d’un appel à la presse pour discuter de GPT-6 Cyber, les représentants d’OpenAI ont fait valoir que les modèles peuvent aider à valider l’exploitabilité, à étudier des voies d’attaque alternatives, à renforcer les correctifs et à aider au déploiement des correctifs. Ils ont décrit l’objectif comme une sécurité fonctionnant à la « vitesse des agents ».

Le chercheur d’OpenAI, Eric Wallace, a déclaré que l’objectif était de « valider l’exploitabilité potentielle des vulnérabilités à grande échelle » et de donner la priorité aux failles les plus conséquentes. Il a également insisté sur le fait de tester des correctifs par rapport à d’autres voies d’exploitation, notant qu’« une vulnérabilité n’est peut-être pas la seule voie d’attaque ».

Au cours de l’appel, Clint Gibler, responsable de la recherche sur la cybersécurité d’OpenAI, a évoqué la coordination avancée dans laquelle l’entreprise s’est engagée concernant les vulnérabilités PHP avec les chercheurs, les responsables et les fournisseurs de sécurité. « Nous voulions anticiper ce correctif et cette version publics, afin qu’un maximum d’utilisateurs et d’entreprises puissent être protégés avant même que le correctif ne soit disponible », a-t-il déclaré. OpenAI a travaillé avec Cloudflare « pour s’assurer qu’ils pouvaient déployer des règles WAF (pare-feu d’application Web), qui protégeraient de manière proactive autant de sites Web que possible avant même l’annonce du bug ».

Trouver des défauts est plus facile à mesurer que de les corriger

OpenAI, cependant, n’a fourni aucune mesure montrant dans quelle mesure ses modèles accélèrent le déploiement des correctifs en entreprise ou réduisent l’exposition.

Hughes a ajouté : « Le tableau de bord d’OpenAI Patch the Planet montre actuellement un taux de remédiation inférieur à 25 % jusqu’à présent, et étant donné l’amélioration des capacités de recherche, cela est susceptible d’exacerber ce phénomène, ce qui signifie davantage de choses trouvées mais non corrigées et susceptibles d’être trouvées par des acteurs malveillants ayant des capacités similaires ou une ingénierie efficace sur des modèles de sous-niveau. Cela met en évidence un risque encore plus grand pour les organisations confrontées à la montée en puissance de la découverte industrialisée via l’IA. « 

Des garanties renforcées, un accès restreint

OpenAI classe GPT-6 Cyber ​​comme « critique » en matière de cybersécurité dans son propre cadre de préparation.

« Sortir du champ d’application dans 0,07 % des cas contre 5,51 % pour le modèle précédent constitue une réelle amélioration », a noté Hughes. « A l’échelle de fonctionnement de ces modèles, même une petite fraction implique des actions contre des systèmes que personne n’a autorisés. »

OpenAI a déclaré que GPT-6 Cyber ​​sera initialement disponible via l’API et le Codex pour un groupe sélectionné de clients Daybreak Red approuvés, le plus permissif des deux niveaux d’accès approuvés dans Daybreak, le programme cyber d’accès de confiance d’OpenAI. (Daybreak Blue est le niveau qu’OpenAI recommande à la plupart des défenseurs.) OpenAI a déclaré qu’il étendrait progressivement l’accès GPT-6 Cyber ​​​​à tous les clients Daybreak Red au cours des semaines à venir et rendrait également GPT-5.6 Cyber ​​​​disponible à cet ensemble de clients.

OpenAI a déclaré dans des documents d’information avant l’appel à la presse : « Nous travaillons pour étendre de manière responsable l’accès aux cybercapacités frontalières à un plus grand nombre d’organisations et de membres de la communauté de la sécurité. Pour commencer, nous élargissons l’accès à une version alpha de Daybreak Blue pour Astra », qui est le modèle frontière à usage général GPT-6 d’OpenAI.