Empoisonnement des données: Cisos Sollten Sich auf den Schutz der Integrität von ki-systemen Konzentrieren.
Für Cisos Reduziert Ki Selten Die Komplexität, Sondern Füllt Vielmehr ihre Ohnehin Schon Volle Agenda. Neben den traditionellen Sicherheitsprioritäten müssen sie sich nun auch mit neuen KI-bedingten Risiken auseinandersetzen, etwa wenn KI-Lösungen unkontrolliert für geschäftliche Zwecke genutzt, Modelle manipuliert und neue Vorschriften nicht eingehalten Werden.
Schatten-ki Birgt Risiken
Eine der Drängendsten Herausforderungen ist Schatten ki: die nutzung von ki-tools und -Modellen ohne it- oder Sicherheitsüberwachung. Genauso wie schatten-it blind flecken in Unternehmensumgebungen schafft, Bringt Schatten ki unüberwachte risiken wie datenlecks, UNSICHERE Integrationen un die Gefährdung Durch nicht überprüfte drittanbieter und -Didéste mit sich.
Selbst Wenn Cisos Transparenz über den Einsatz der Ki Besitzen und Wissen, Welche Daten von der Ki Verwendet, Welche Ki-modelle für Welchen Zweck Eingesetzt Werden, Sind Sie Immer Noch mit einem Breitten Spektrem an ki-bezogengen bedrohungen konfronten. Ein Zentrales Anliegen ist Die Frage, Wo diese Modelle Gehostet Werden. Die Meisten Sind Cloud-Basiert und Oft Öffentlich Zugänglich.
Dadurch a entrepris Neue Anigriffsflächen en injection rapide, intoxication des données et attaques adversaires. Selbst Ohne Direkte Manipulation Sind LLMS (Modèles de grande langue) Anfällig Für Halluzininininen und Gerieren Oft GennaUe Oder irreführende ergebnisse.
Empoisonnement aux données – Sowohl Bei Trainingsdaten als auch bei ki-modellen selbst – chapeau immer mehr zugenommen. Viele Menschen Haben Jedoch Noch Immer Kein Klares Verständnis für Die Die Dieses Auswirkungen Dieses. Vergleichen lässt sich met mit einem Selbstfahrenden Auto, das mit vergifteten datoten trrainert wurde und deshalb ein stoppschild fälschlicherwerweise als geschwindigkeitsbegrenzunsschild interprètement. Dies Könte Dazu Führen, Dass Das Fahrzeug Beschleunigt, Anstatt Anzuhalten und Somit Die Insassen, Fußgänger und Andere Verkehrsteilnehmer à Lebensgefahr Bringt.
Dieses Kritische Risiko ist Lange Zeit Weitgehend Unmerkt Geblieben, Könte Jedoch Eine der Gefährlichsten Bedrohungen à Der Ki-Landschaft Darstellen. Dans Einer Welt, dans Der Ki Zunehmend EntsCheidungen Beeinflusst, Die Sich auf das leben von Menschen Auswirken, ist die mangelnde aufmerksamkeit für dieses thea äußerst belorgniterreg.
Était Bedeutet Bedrohung der Integrität?
Der ExpeRte William L. Scherlis von der Carnegie Mellon University Definiert Die Bedrohung der Integrität im Kontext von ki wie folgt: „Im Zusammenhang Mit Moderner, Auf Neuronalen Netzen Basierender Ki, Einschließlich ML (apprentissage machine) unf dasrativer Potenzial für angriffe, die zu falschen ergebnissen führen. «
Oder Einfacher Ausgedrückt: Selbst Ein Kleines Loch Kann Ein Ganzes Schiff Zum Sinken Bring. Manipulierte Ki-modelle Können Zu Falschen Annahmen und Entscheidungen Führen, bis hin zu einer beeinträchtigung der Geistigen Gesundheit Ihrer Nutzer. Ein Beispiel ist, Wenn Ein solche Kompromittiertes modern um einen Gesundheitsratschlag Gebeten Wird: Eine Vergiftete Ki Könte Dann Das Falsche Medikament Oder Ein Gefährliches Hausmittel Empfehlen, était Für Den Nutzer Möglichese Tödliche Folgenle Fürr Nutzer Möglichese Tödliche Fogeng Könte.
Falsche Ergebnisse von llms und Maschinellem Lernen Können Ebenfalls Zu Finanziellen Verluten Führen. Ein Bericht von Kpmg Beschreibt Genau diese Risiken. Sie Alle Hängen Stark von der Qualität der Daten AB. Um Ein Modell Richtig Zu Trainieren, Sind UNNENGEN AN DATEN ERFORDERLICH. Andererseits Reichen Schon Wenige Datensätze Aus, Um Große Sprachmodelle Zu Manipulieren. Untersuchungen Zeigen, Dass Bereits 0,001 Prozent Korrumpierte Daten, Die in Die Trainingsdaten Für Ein Ki-modell Eingebracht Wurden, AuSreichten, Um Anomale Ergebnisse Zu Verursachen.
Angriffstechniken zur ki-manipulation
Eine der gängigsten Techniken der ModellManipulation ist Die Gradiendenvergiftung. Dabei Manipuliert ein in infekanner angreifer das modell während der Trainingsphase. Dans Ihrer Arbeit Beschreiben die Forscher Wassim Bouaziz, El-Mahdi El-Mhamdi und Nicolas Usunier, Wie Solche Anigriffe Das Training von Algorithmen Für Maschinelles Lernen Manipulieren Können, Um Sie Böswillig Zu Verändern. Zwar Bettreffen GradiendInVergiftunngen Weniger Systeme ALS ANDERE, UMFASSENDERE TECHNIKEN DES DES DONNÉES. Sie Können Jedoch Weitaus Schädlicher Sein. Angreifer Sind Damit Beispsielsweise in Der Lage, Das Verhalten Eines modells Willkürlich Zu Verzerren.
Étiquetage-Angriffe Können Versehentlich, Durch Menschliches Versagen Oder Abichtlich Erfolgen. Ein typisches Beispiel Hierfür ist Das Sogenannte Flippe d’étiquette: Ein bild einer katze wird fälschlicherwerweise als hund gekennzeichnet. DADURCH LERNNT DAS KI-MODELL FALSCHE ASSOZIATIONEN. Werden Solche Fehlkennzeichnungen dans Großem Umfang Wiederholt, Kann meurt die Leistung und zuverlässsigkeit des modells erheblich beeinträchtigen.
Darüber hinaus gibt es auch weitere versteckte oder eingebettete angriffsmethoden, bei denen kleine code-schnipsel oder geringfügige datenmanipulationen in formations eingabedaten eingeschleust werden. Diese Können Muster Im Modell Verändern oder die tür für nachgelaagerte exploite avec une injection rapide öffnen.
Bei der adversarial Attacke, Beziehungsweise Dem Correction contradictoire Werden Eingaben Manipuliert. Dabei nehmen die angreifer kleine änderungen an dem vor, était die ki wahrnimmt. BeispelSweise Verändern Sie Einige Pixel im Bild (für das Menschliche Auge Usicltbar), sodass das ki-modell es falsch interpréttier. Diese Methode Verändert Das Ki-Modell Selbst Nicht, Sondern Täuscht Ihm Eine Falsche Wahrnehmung der Realen Welt Vor.
Unabhängig von der Verwendeten méthode ist das ergebnis dasselbe: die intégrität des modells ist beeintächtigt. Dans Einer Welt, Die Bei Kritischen Entscheidungen Zunehmennd auf Ki Angewiesen Ist, Sind Solche Manipulationn Nicht Nur Technische Störungen, Sondern auch Eine Ernesthafte Bedrohung Für die Sicherheit under das vertrauen Innerhalb Der Gesellschaft.
Die Integrität der Ki-Modelle Abichern
Um angriffe auf die intégrität zu verhindern, müssen cisos die Prinzipien von sécurisé codage (Sichere Programmierung) und Security by Design Frühzeitig in ki-softwarentwicklungsprojekte Integrrieren.
Eine Ki Governance Mit Starkem Fokus Auf Integritätsschutz Muss Ein Kernement der Gesamten SicherheitsStrategie Sein. Dazu Gehören Nicht Nur Kontrollen Zur Gewährleistung der Einhaltung der Dsgvo, des Eu-Ki-Sesetzes und Der Iso / IEC 42001. Es Müssen Auch Maßnahmen Getroffen Werden, Umlabweichungen Zu Verhinder Längeren Zeitraum Aufrecht Zu Erhalten. EBenso wichtig Sind andorderungen an die transparenz, erklärbarkeit und interprètierbarkeit von ki-modellen. Nur so ist Sichegestellt, dass die Entscheidungen von ki-systemen nachvollziehbar und begründbar Sind.
Dies ist Nicht Nur eine Technologische Herausforderung. Es erfordert auch eine änderung der denkweise. Dans l’organisation du der, Muss Das SicherheitsBewusstsein von oben nach unten gefördert Werden. Dabei Leitet der Ciso Die Diskussionen Auf Managementebene. Alle Mitarbeiter und Nutzer, Die Mit den Ki-Systemen Der Organisation Interagieren, Müssen über die Mit Deren Einsatz Verbundenen Risiken, Sicherheitsvorkehrungen und Verantwortlichkeiten aufgeklärt Werden.
FAZIT: Katz-und-Maus-Spiel Zwischen Verteidigern und Angreifern Bleibt
Cisos Haben angriffe auf die intégrität von ki-systemen nicht immer die aufmerksamkeit geschenkt, die sie verdienen. Das liegt unter anderem daran, dass der fokus lange zeit stark auf dem versprechen und potenzial der ki lag. DOCH WO LICHT IST, IST AUCH SCHATTEN: JEDES KI-MODELL BLEIBT ANFällig Für Manipulation – Egal, Wie Gut Es Trainert, GetESTET ODER AUF AUF GEPRUFT WURDE. Je mehr Modelle Unternehmen einsetzen und je mehr nutzer mit ihnen interagieren, desto größer wird das gesamtrisiko.
Dennoch Gibt es Grund Zum Optimismus. Die Weltweite Security Community – Cisos, Forscher und Praktiker – Arbeitet Bereits an Lösungen. Mit der Zeit Werden Wir Stärkere Technische Abwehrmaßnahmen, Bessere Organisatorische Praktiken und Robustere Governance-Rahmedingungengène Sehen. Diese Sicherheitsvorkehrungen werden sich mit der weiterentwicklung des fachgebiets allmählich verbessen. Letztendlich wird die ki-sicherheit ein weiteres kapitel im andauernden katz-und-mas-spiel zwischen verteidigern und angreifern sein – allerdings in viel stärkerem maße. (JM)
