OT-Sicherheit: KI-Agenten bewegen Roboterarm binnen Minuten

Das US-Beratungsunternehmen Booz Allen Hamilton hat in einem eigenen, isolierten Labor für Betriebstechnik (OT) getestet, wie KI-Agenten mit Frontier-Modellen mit unbekannten Industriesystemen umgehen. Die Agenten erhielten dabei keinerlei Vorwissen über die Umgebung, weder Quellcode noch technische Dokumentation oder spezielle Anleitungen zu OT. Vorgestellt wurden die Ergebnisse auf der ICS Cybersecurity Conference von SecurityWeek in Nashville. Welche KI-Modelle getestet wurden, geht aus dem Bericht von SecurityWeek nicht hervor.

Alle Testziele erreicht

In allen acht Szenarien erreichten die Modelle sämtliche vorgegebenen Ziele. Dabei verbanden sie laut Booz Allen Arbeitsschritte, die sonst mehrere Personen und Phasen umfassen, darunter das Erkennen von Geräten, die Recherche zu einzelnen Komponenten und die Planung des Angriffs. In einem Test vergingen von der Kompromittierung am Netzwerkrand bis zu Aktionen innerhalb eines industriellen Steuerungsnetzes etwas mehr als 16 Minuten. In einem anderen Test fand ein Modell einen Roboterarm, ermittelte dessen Schutzzonen und Bewegungsgrenzen und bewegte ihn innerhalb weniger Minuten. Vorhandene Schutzmaßnahmen blockierten oder verlangsamten einzelne Aktionen, keine davon hielt die Modelle aber durchgängig auf.

„Wir wissen seit Langem, dass nicht-kinetische Cyberaktionen kinetische Wirkungen erzeugen können. Verändert haben sich die Geschwindigkeit und Präzision, mit der diese Modelle helfen können, solche kinetischen Wirkungen zu erzeugen.”
Booz Allen

Zudem untergrüben die Modelle das Prinzip der Sicherheit durch Verschleierung, auf das viele OT-Umgebungen lange gesetzt hätten.

Umgebungen schwer durchquerbar machen

Booz Allen empfiehlt Betreibern, sich weniger darauf zu konzentrieren, jede Form des KI-Einsatzes bei Angriffen vorherzusehen. Stattdessen sollten sie ihre Umgebungen schwer durchquerbar machen, implizites Vertrauen beseitigen, folgenreiche Änderungen an Industrieanlagen schnell erkennen und begrenzen, was ein Angreifer nach dem Eindringen beeinflussen kann.

Das Labor von Booz Allen entspricht nicht zwingend den OT-Umgebungen in Unternehmen, gilt laut SecurityWeek aber als realistische Nachbildung. Am 13. Oktober hatte das BSI nach einem Angriff auf Kühlanlagen in französischen Supermärkten Betreiber dazu aufgefordert, aus dem Internet erreichbare Steuerungssysteme abzusichern.

(red)