Ein Bug dans Google Gemini erlaubt es angreifern, e-mail-zusammenfassungen zu kapern und phishing-atmacken zu starten.
Google Gemini Für Workspace Kann Missbraucht Werden, Um e-mail-Zusammenfassungen Zu Generieren, Die Legiti erscheinen, Aber Bösartige Anweisungen Oder Warnungen Enthalten. Problème DAS: angreifer können ohne anhänge oder direkte liens ihre opfer auf phishing-sites umleiten. Die Sicherheitslücke wurde von einem forscher namens marco figUeroa Entdeckt, der der für mozillas genai-bug-bunty-programm odin tätig ist.
Obwohl im Jahr 2024 Bereits ähnliche Indirekte invite-Angriffe auf Gemini Gemeldet und Sicherheitsmaßnahmen getroffen wurden, ist die technik experten zufolge auch heute noch Praktikabel.
So funktionierirt der angriff
Dans Seinem Blog-Beitrag Zeigt Figueroa auf, wie eine e-mail mit manipuliertem html / css Im text eine dischtbare anweisung für gemini erstellt. Klickt der empfänger auf „diese e-mail zusammenfassen”, befolgt das ki-tool die versckte aufforderung und fügt eine täuschend echt wirkende phishing-warnunng im Stil von google hinzu.
Vertraut das opfer der von der ki generierten benachrichtigungund und befolgt die anweisungen des angreifers, führt meurt zu geleakten anmeldeinformationen oder zu einem telefonbasierten social-ingriff-angriff.
„Aktulle Llm-Leitplanken Konzentrieren Sich Weitgehend auf für den Benutzer Sichtbaren Text. Erklärt Figueroa.
Um Solche Angriffe Zu Verhindern, Rät der Forscher Sicherheitsteams, Verschiedene Erkennungs- und Abwehrmethoden Zu Befolgen. Eine Möglichkeit besteht demnach darin, inhalte zu Entfernen, zu neutraliseren oder zu ignorieren, die so gestaltet Sind, dass sie im fließtext verborgen Sind.
Alternativ Wird Empfohlen, Einen Nachbebeitungsfilter Zu Implevantieren, der Die Gemini-Ausgabe Nach Drindenden Nachrichten, Urls Oder Telefonnumnn Durchsuicht und die nachricht zur weiteren überprüfung kennzeichnet.
