Thought Leadership
Künstliche Intelligenz gehört zu den dynamischsten Technologien der Gegenwart. Unternehmen setzen sie ein, um Prozesse zu beschleunigen, neue Geschäftsmodelle zu entwickeln und Wettbewerbsvorteile zu erzielen.
Gleichzeitig entstehen neue Risiken. Eine Erhebung von McKinsey aus dem Jahr 2025 zeigt, dass inzwischen mehr als drei Viertel aller Unternehmen KI in mindestens einem Geschäftsbereich nutzen. Mit der wachsenden Verbreitung steigt auch das Bewusstsein für Sicherheitsfragen. Laut dem Data Threat Report 2025 von Thales investieren rund 73 Prozent der Unternehmen gezielt in Sicherheitslösungen für KI Anwendungen.
Sicherheit wird zum entscheidenden Faktor der KI Nutzung
Mit dem Einsatz von Sprachmodellen und autonomen KI Systemen verändern sich die Anforderungen an IT Sicherheit grundlegend. Klassische Schutzmechanismen greifen nur noch eingeschränkt, da Angriffe zunehmend auf Eingaben, Modelle und Datenflüsse zielen. Dazu zählen Manipulationen von Prompts, ungewollte Offenlegung sensibler Informationen oder Angriffe auf die Verfügbarkeit von Modellen.
Vor diesem Hintergrund hat der Sicherheitsanbieter Thales erste Funktionen für eine sogenannte AI Runtime Security vorgestellt. Ziel ist es, KI Systeme nicht nur beim Training, sondern auch während des laufenden Betriebs abzusichern.
Im Zentrum des Ansatzes steht eine Sicherheitsarchitektur, die KI Anwendungen, zugrunde liegende Daten und digitale Identitäten gemeinsam betrachtet. Unternehmen sollen KI einsetzen können, ohne dabei neue Einfallstore für Angriffe zu schaffen. Dazu gehört die kontrollierte Nutzung von Unternehmensdaten ebenso wie der Schutz vor Missbrauch durch externe oder interne Akteure.
Die Sicherheitsfunktionen adressieren unter anderem Risiken, die in gängigen Sicherheitskatalogen wie den OWASP Top 10 für KI Anwendungen beschrieben werden. Ziel ist es, Vorfälle frühzeitig zu erkennen und zu verhindern, bevor sie operative oder rechtliche Folgen nach sich ziehen.
Absicherung von KI Anwendungen im laufenden Betrieb
Ein Schwerpunkt liegt auf dem Schutz selbst entwickelter Anwendungen, die auf großen Sprachmodellen basieren. Diese sollen in Echtzeit vor spezifischen Bedrohungen abgesichert werden. Dazu zählen unter anderem Manipulationsversuche über Eingaben, das Umgehen von Sicherheitsmechanismen oder das ungewollte Abfließen sensibler Inhalte.
Die Sicherheitsfunktionen lassen sich sowohl in Cloud Umgebungen als auch in lokalen oder hybriden Architekturen einsetzen. Der Fokus liegt auf einer möglichst einfachen Integration in bestehende IT Landschaften.
Schutz sensibler Daten bei KI gestützter Suche
Ein weiterer Baustein betrifft die Absicherung von Retrieval Augmented Generation Szenarien. Dabei greifen Sprachmodelle auf interne Datenquellen zu, um Antworten zu generieren. Um Risiken zu minimieren, werden sensible strukturierte und unstrukturierte Daten vorab identifiziert und geschützt. Verschlüsselung und Schlüsselverwaltung spielen dabei eine zentrale Rolle, ebenso wie die sichere Kommunikation zwischen KI Modellen und externen Datenquellen.
Ausblick auf erweiterte Schutzmechanismen
Thales plant, die Sicherheitsfunktionen in den kommenden Jahren weiter auszubauen. Vorgesehen sind unter anderem Mechanismen zur Vermeidung von Datenabflüssen, zusätzliche Kontrollen für agentenbasierte KI Systeme sowie eine einheitliche Steuerung von Zugriffen während der gesamten Laufzeit von KI Anwendungen. Ziel ist es, Datenflüsse transparent zu halten und Interaktionen zwischen Nutzern, Modellen und Datenquellen nachvollziehbar abzusichern.
Der zunehmende Einsatz von KI verändert nicht nur Geschäftsprozesse, sondern auch das Sicherheitsverständnis von Unternehmen. Spezialisierte Schutzmechanismen werden zur Voraussetzung, um Innovation und Kontrolle miteinander zu verbinden. Nur wenn Sicherheit von Anfang an mitgedacht wird, lässt sich das Potenzial von KI nachhaltig und verantwortungsvoll nutzen.
