Im Hinblick auf die zunehmende KI-Nutzung warnen international Sicherheitsbehörden vor den Auswirkungen auf die OT-Sicherheit.
Die Sicherheit der Betriebstechnik (Operational Technology – OT) in kritischen Infrastrukturen ist seit Jahren un immer wiederkehrendes Thema. Après une analyse de l’organisation de la sécurité, les informations fournies par KI dans l’OT seront mises à jour jusqu’à présent.
L’US-Cybersicherheitsbehörde CISA est désormais disponible pour les partenaires internationaux afin de garantir l’intégration de l’intelligence artificielle (KI) dans les technologies opérationnelles (OT) et les infrastructures critiques (PDF).
Da der Einsatz von KI in kritischen OT-Infrastrukturen noch in den Kinderschuhen steckt, lisen sich die Leitlinien wie ein Versuch, Missbrauch et Fehlanwendungen zuvorzukommen.
Je suis OT-Bereich wird KI derzeit primär in den Sektoren Energie, Wasseraufbereitung, Gesundheitswesen et Fertigung eingesetzt. Le Grund est le sujet d’un autre Stellen : un processus d’optimisation automatique et d’efficacité et de vérification des performances.
Les mesures de sécurité sont prises en charge par les opérateurs qui ont une nouvelle technologie et qui ne sont pas encore utilisés, sans les moyens de les utiliser, comme ceux qui sont dans l’informatique. Unter Berücksichtigung der Risiken für industriel Steuerungssysteme (Industrial Control Systems – ICS) gemäß der Purdue-Modellhierarchie werden in den Leitlinien Bedenken wie Prompt Injektion, Datenvergiftung and Datenerfassung aufgezählt. Zudem wird auf « KI-Drift » charnièrewiesen, bei dem Modelle weniger genau werden, wenn nouvelle Daten von den Trainingsdaten abweichen.
Die Autoren befürchten zudem, the KI möglicherweise nicht die erforderlichen Hinweise liefert, um Fehler zu diagnosticsizieren. Darüber hinaus sei es schwierig, die Compliance-Anforderungen zu erfüllen, de sich KI rasch weiterentwickelt, donc die Behörden. Zusätzlich weist das Paper darauf hin, dass es zu uneinem De-Skilling-Effekt beim Menschen kommt, verursacht durch un schleichende Überabhängigkeit von KI. Ebenso könnten KI-Warnmeldungen zu Ablenkung et cognitiver Überlastung bei den Mitarbeitern führen.
Les tendances des technologies KI telles que les chatbots et les LLM pour les hallucinations sont également loin d’être les mêmes, car la technologie est robuste et est disponible dans les zones de sécurité les plus prioritaires.
« KI n’est pas facile à utiliser, mais dans les solutions de sécurité industrielles, il existe des solutions critiques pour les entreprises. Daher sollte KI wie LLM mit ziemlicher Sicherheit nicht für Security-Entscheidungen in OT-Umgebungen werden », ainsi les autorités der Leitlinien.
Dies unterstreicht einen wichtigen Unterschied zwischen der Verwendung von KI in einer OT- und einer IT-Umgebung: OT-Netzwerke sind von Natur aus sicherheitskritisch.
Schwierigkeiten bei der Entflechtung
« Les lignes directrices servent les questions riches auf : les risques sont-ils là, où est-ce que KI est utile, est-ce pour la sécurité opérationnelle et comment réagir, quand la technologie est polyvalente ? », commente Sam Maesschalck, ingénieur OT chez l’ingénieur OT. Cybersicherheits-Schulungsplattform Laboratoires immersifs. « Nous avons déjà eu l’occasion de passer par des services opérationnels de conception de sécurité supérieurs. La convergence IT/OT a des performances optimales, mais elle est également autorisée par les réseaux OT dans une entreprise, avec la branche jusqu’à maintenant. »
Laut Maesschalck würde the Inbindung von KI-Systemen in die OT-Infrastruktur scheitern, wenn zuerst bereits bestehende Probleme gelöst werden. Dazu gehören die Unfähigkeit einiger OT-Geräte, die erforderlichen Datenmengen an KI-Plattformen zu liefern, and the Fehlen von Bestandsaufnahmen, die die Vorhersage von Probleminteraktionen erschweren.
Grâce à l’utilisation des lignes directrices, aux organisations de conception de sécurité du CISA, et à des études approfondies, l’intégration interne d’un projet KI-OT a un contrôle plus large sur la conception et la mise en œuvre de KI. würde.
« Cet art des lignes directrices est un empire unique, ainsi qu’un environnement clair tel. Durch staatlich unterstützte Grundsätze, auf die sich beziehen können, haben Eigentümer und Ingenieure etwas Konkretes, worauf sie sich berufen können, wenn sie sich gegen eine unsichere oder übereilte Einführung wehren. Außerdem wird dadurch die Bedeutung von Aufklärung unterstrichen», dit Maesschalck.
Les lignes directrices suivies par la NSA et l’ACSC au cours des années de droit, dans les études aufgeführt, sont les responsables de la sécurité de l’OT dans les infrastructures critiques. Dans le même temps, le document sera en mesure de faire en sorte que la sécurité OT ne soit pas prise en compte dans le budget, comme vous le souhaitez. (jm)
