Thought Leadership
Künstliche Intelligenz verlässt zunehmend die digitale Welt und übernimmt Aufgaben in Maschinen, Robotern und vernetzten Infrastrukturen.
Diese Entwicklung, oft als Physical AI bezeichnet, eröffnet neue Möglichkeiten für Automatisierung und Effizienz. Gleichzeitig entstehen jedoch Sicherheitsrisiken, die weit über klassische IT-Bedrohungen hinausgehen. Darauf weist der Technologie- und IT-Dienstleister NTT DATA hin.
Wenn KI direkt auf die reale Welt einwirkt
Im Unterschied zu herkömmlichen Softwareanwendungen verarbeitet Physical AI nicht nur Daten, sondern trifft Entscheidungen, die unmittelbare Auswirkungen auf physische Prozesse haben. Sensoren erfassen Informationen aus der Umgebung, KI-Modelle bewerten die Daten und lösen anschließend Aktionen aus – beispielsweise bei Robotern, autonomen Maschinen oder intelligenten Produktionsanlagen.
Fehlerhafte Entscheidungen können dadurch nicht nur digitale Systeme beeinträchtigen, sondern auch Sachschäden verursachen oder die Sicherheit von Menschen gefährden.
Sensoren als kritischer Ausgangspunkt
Die Qualität der Entscheidungen hängt maßgeblich von den erfassten Daten ab. Kameras, Positionssensoren oder Messsysteme liefern die Informationen, auf deren Grundlage die KI arbeitet. Werden diese Daten verfälscht oder durch äußere Einflüsse gestört, kann das gesamte System fehlerhaft reagieren.
Staub, schlechte Lichtverhältnisse oder elektromagnetische Störungen können dabei ebenso problematisch sein wie gezielte Manipulationsversuche. Um solche Risiken zu begrenzen, setzen viele Konzepte auf die Kombination mehrerer Sensorquellen sowie auf automatische Plausibilitätsprüfungen und Echtzeitüberwachung.
KI-Modelle selbst können zum Angriffsziel werden
Neben der Sensorik stehen auch die verwendeten KI-Modelle im Fokus möglicher Angriffe. Manipulierte Trainingsdaten oder fehlerhafte Aktualisierungen können dazu führen, dass Systeme falsche Entscheidungen treffen, ohne dass dies sofort erkennbar wird.
NTT DATA empfiehlt daher eine konsequente Kontrolle der Trainingsprozesse sowie eine kontinuierliche Überwachung der Modellergebnisse. Ergänzend können Versionsmanagement und regelmäßige Audits dazu beitragen, die Integrität der eingesetzten KI-Systeme sicherzustellen.
Vernetzte Systeme vergrößern die Angriffsfläche
Moderne Physical-AI-Anwendungen arbeiten selten isoliert. Sie kommunizieren häufig mit Cloud-Plattformen, Edge-Systemen oder externen Wartungsdiensten. Diese Vernetzung schafft Flexibilität, erhöht jedoch gleichzeitig die potenziellen Angriffsmöglichkeiten.
Um unbefugte Zugriffe zu verhindern, gewinnen Sicherheitskonzepte wie Zero Trust, Netzwerksegmentierung und geschützte Update-Prozesse an Bedeutung. Ebenso wichtig sind eine lückenlose Protokollierung und die kontinuierliche Überwachung der Kommunikationswege.
Sicherheit und Betriebssicherheit wachsen zusammen
Traditionell wurden in der Industrie die Bereiche Safety und Security getrennt betrachtet. Während Safety den Schutz vor technischen Fehlern umfasst, beschäftigt sich Security mit dem Schutz vor Angriffen.
Bei Physical AI verschwimmen diese Grenzen zunehmend. Eine manipulierte oder fehlerhafte KI-Entscheidung kann direkte Auswirkungen auf Maschinen und Menschen haben. Deshalb müssen beide Aspekte bereits bei der Entwicklung gemeinsam berücksichtigt werden. Dazu gehören Notfallmechanismen, sichere Betriebszustände und Strategien für den kontrollierten Umgang mit Fehlentscheidungen.
Unvorhersehbare Situationen bleiben eine Herausforderung
Die reale Welt lässt sich nicht vollständig simulieren. Beschädigte Sensoren, ungewöhnliche Objekte oder veränderte Umweltbedingungen können Systeme mit Situationen konfrontieren, die im Training nicht berücksichtigt wurden.
Um die Robustheit zu erhöhen, setzen Unternehmen auf umfangreiche Simulationen, Stresstests und Verfahren zur Anomalieerkennung. Ergänzend helfen adaptive Algorithmen und kontinuierliche Lernprozesse dabei, auch auf bislang unbekannte Situationen angemessen zu reagieren.
Mit der zunehmenden Verbreitung autonomer Maschinen, intelligenter Produktionssysteme und vernetzter Infrastrukturen wird Physical AI zu einem wichtigen Bestandteil der digitalen Transformation. Gleichzeitig steigen die Anforderungen an Sicherheit und Zuverlässigkeit.
Nach Einschätzung von NTT DATA reicht es künftig nicht aus, Schutzmechanismen erst nachträglich zu ergänzen. Vielmehr müssen Sicherheitsaspekte bereits bei der Architektur, dem Training der KI-Modelle und dem laufenden Betrieb berücksichtigt werden. Nur so lassen sich die Potenziale von Physical AI nutzen, ohne neue Risiken für Unternehmen und kritische Infrastrukturen zu schaffen.
(red/NTT DATA)
