Les agents de sécurité qui ont accès à de nouvelles informations sur les services de sécurité, comme Angreifer ChatGPT, vous apportent des informations privées au sujet des prix de vente de chat. Parmi eux, ces outils Angriffe sont des injections rapides indirectes, les outils standard et les fonctions de ChatGPT sont disponibles. Etwa die Fähigkeit, the Kontext von Unterhaltungen langfristig zu speichern or the Web-Suchfunktionen.

« Die Schwachstellen im aktuellen GPT-5-Modell könnten es Angreifern ermöglichen, Nutzer ohne ihr wissen zu kompromittieren. Dafür kommen diverse Anwendungsfälle in Frage, beispielsweise, aine Frage an ChatGPT zu stellen », expliquent les chercheurs dans leur recherche.

Schadhafte Anweisungen – versteckt dans les sites Web

ChatGPT peut être consulté sur Internet à partir d’informations détaillées et d’URL utiles, afin d’être téléchargé sur une page d’exportation. Cet article n’est pas directement adressé à ChatGPT. Il s’agit d’un modèle de langage étendu (LLM) nommé SearchGPT, qui est conçu pour ChatGPT.

L’utilisation d’un modèle secondaire, qui n’est dirigée que vers l’histoire de la conversation des Benutzers, prévoit une étude architecturale réalisée à partir de l’installation Web pour l’installation.

Les suggestions doivent être faites par les chercheurs de Tenable, car SearchGPT répond aux injections rapides, lorsque les pages Web sont dans la section de navigation ou de telles fonctions. Vous pouvez également trouver des réponses intéressantes dans des commentaires de blog ou sur un site Web malveillant, qui utilise les meilleurs mots-clés pour optimiser le classement de votre machine. Nous avons utilisé ChatGPT pour votre fonction Microsoft Bing.

Darüber hinaus könnten Cyberkriminelle laut Tenable auch schadhafte Prompts verstecken, indem sie une version propre de votre site Web pour de telles machines et des recherches régulières, qui permettent au Web Crawlern d’Open AI d’avoir une autre version ici.

« KI-Anbieter verlassen sich bei der Auswahl vertrauenswürdiger Quellen auf Metriken wie SEO-Scores, die für die Sicherheit keine Relevanz haben », critiquent les Forscher. Indem sie the Prompt in massgeschneiderten Webseiten versteckten, könnten Cyberkriminelle ihre Opfer ganz gezielt über spezifische social and politische Themes or Trendsprechen, so die Tenable-Experts.

Le contexte de SearchGPT et ChatGPT est le premier modèle à être dirigé vers des données personnelles de Benutzern. Dennoch haben die Forscher einen Weg gefunden, das Beziehungsgeflecht zwischen den beiden Modellen auszunutzen.

Conversation Injection et heimliche Datenexfiltration

Le ChatGPT de la sortie de SearchGPT est arrivé, mais cette fois-ci, comme le veut Tenable-Forscher, a été passé, lorsque la sortie de SearchGPT est elle-même une injection rapide. Vous pouvez également trouver un message d’erreur : un site Web avec une invite versteckten, la réponse SearchGPT, une autre invite d’injection dans ChatGPT effectuée. Das bezeichnen die Tenable-Experten als « Conversation Injection ».

« Lors de la réaction à l’invite, ChatGPT a été confronté au contexte de conversation et a été pris en compte par les demandes d’assistance, ce qui n’est pas le cas du SearchGPT qui a été créé », a déclaré Forscher. Je cherche à obtenir ChatGPT pour une injection rapide. Die allein bringt ainem Angreifer jedoch wenig, wenn er keine Möglichkeit hat, die Answer des Modells zu erhalten, the sensible Informationenthält.

Une méthode ici est la meilleure, celle de ChatGPT pour les utilisateurs, le formatage de texte Markdown à partir de sa propre structure de rendu, qui est également le moyen de créer des images à distance sur les URL chargées. Laut den Forschern könnten Angreifer ein Dictionary est créé, das jeden Buchstaben des Alphabets ainem eindeutigen Bild zuordnet, deas auf ihrem Server gehostet wird. Vous pouvez également répondre à ChatGPT, une page d’images en charge, qui est également disponible dans une seule réponse. Si vous souhaitez utiliser les URL de recherche et les URL sur votre serveur Web, vous pouvez obtenir la réponse et reconstruire la réponse de ChatGPT.

Cette réponse contient de nombreuses informations sur d’autres obstacles : Il s’agit avant tout de voir la barre de discussion – l’outil de chat des utilisateurs avec les URL d’image affichées. Deux lecteurs ChatGPT pour toutes les URL, avant d’avoir une réponse au problème, un nom de point de terminaison url_safe encore, der Sicherheitsprüfungen durchführt. Ce mécanisme est uniquement utilisé pour empêcher les URL de référence ou pour les injections rapides de réaliser des injections rapides. Une personne de url_safe durchgeführten Überprüfungen betrifft die Reputation du domaine. Dabei hat sich herausgestellt, dass bing.com auf der Whitelist steht et implicite als vertrauenswürdig eingestuft wird.

Die Forscher stellten außerdem fest, dass jeder von Bing indexierte Weblink in a ineinen eindeutigen Tracking-Link der Form bing.com/ck/a?(unique_id) eingebettet ist, wenn er in den Suchergebnissen angezeigt wird. Lorsque Benutzer clique sur ces URL de suivi Bing uniques, il vous permet de consulter les sites Web les plus connus. Les spécialistes de la sécurité créent un alphabet d’URL, le ChatGPT étant en guerre, dans leurs réponses. Dazu erstellten sie für jeden Buchstaben eine eindeutige Seite. Ces pages sont indexées dans Bing et vous permettent d’obtenir de nombreuses URL de suivi.

Les chercheurs de Tenable ont également ajouté un outil dans l’art et l’esprit, comme le bloc de code ChatGPT dans le rendu Markdown : Toutes les dates, la dernière fois que le début des blocs de code est entré dans le premier mot n’est pas généré. Das lasst sich ausnutzen, um Inhalte zu verstecken – comme les images-URL.

ChatGPT utilise un nom de fonctionnalité similaire « Mémoires », qui contient des informations sur les sites et les services partagés avec de nombreux éléments utiles. Cette fonction est activée de manière standard et sera disponible, lorsque Benutzer ChatGPT est ausdrücklich auffordern, sich etwas zu merken. Zudem startet sie automatisch, wenn das Modell Informationen für wichtig genug hält, um sie für später zu speichern.

Les informations fournies par ChatGPT dans la section « Mémoires » sont fournies avec les réponses nécessaires aux informations utiles. Vous avez la possibilité de faire appel aux experts de Tenable en même temps qu’une méthode d’injection rapide pour vous assurer que cela vous permettra d’obtenir des solutions efficaces.

« L’injection rapide est un problème survenu au niveau des fonctions des LLM et il semblerait que dans votre environnement, vous ne puissiez pas être systématiquement confronté à un problème. KI-Anbieter sollten sicherstellen, dass alle ihre Sicherheitsmechanismen (comme url_safe) Ordnungsgemäß funktionieren, um den potenziellen Schaden zu begrenzen“, schreiben die Forscher.

Tenable hat seine Erkenntnisse an OpenAI gemeldet. Doch obwohl daraufhin einige Korrekturen implémenté wurden, funktionieren einige der entdeckten Techniken scheinbar weiterhin. (jm)