Datenrisiken: KI-Agenten unter Kontrolle

KI-Agenten automatisieren Prozesse, bereiten Entscheidungen vor und interagieren eigenständig mit Unternehmenssystemen. Diese Autonomie macht sie wertvoll, erfordert aber auch neue Sicherheitsmechanismen.

Unternehmen müssen dafür sorgen, dass Agenten nur auf benötigte Informationen zugreifen und keine sensiblen Daten offenlegen.

In Cloud-nativen Umgebungen kommen inzwischen 144 nicht-menschliche Identitäten auf einen menschlichen Nutzer. Zu diesem Ergebnis kommt die Cloud Security Alliance in einer aktuellen Untersuchung. Neben Service Accounts und API-Keys zählen dazu auch Identitäten von KI-Agenten. Immer mehr Unternehmen setzen solche Agenten ein, um Aufgaben und Geschäftsprozesse autonom auszuführen. Mit ihrem zunehmenden Einsatz verändern sich auch die Anforderungen an die Datensicherheit, denn KI-Agenten greifen eigenständig auf Daten, Anwendungen und Systeme zu und können dort Aktionen ausführen.

Diese Autonomie birgt zwei wesentliche Sicherheitsrisiken. Zum einen könnten KI-Agenten versehentlich vertrauliche Informationen offenlegen. Wenn sie über zu weitreichende Berechtigungen verfügen, können sie auf Daten zugreifen, die für ihre eigentliche Aufgabe gar nicht erforderlich sind und sie über externe Anwendungen oder Dienste weitergeben. Zum anderen können Cyberkriminelle versuchen, einen Agenten gezielt zu manipulieren und ihn dazu zu bringen, in ihrem Sinne zu handeln – und ihnen etwa sensible Daten zuzuspielen.

Sechs zentrale Maßnahmen erforderlich

Um KI-Agenten sicher einzusetzen, benötigen Unternehmen Transparenz und Kontrolle darüber, auf welche Daten Agenten zugreifen und welche Aktionen sie damit durchführen dürfen. So lassen sich einerseits unbeabsichtigte Datenabflüsse verhindern und andererseits die Auswirkungen eines erfolgreichen Angriffs auf einen Agenten begrenzen. Dafür sind sechs zentrale Maßnahmen entscheidend:

Agenten erfassen und inventarisieren. Bevor Unternehmen Sicherheitsmaßnahmen durchsetzen können, benötigen sie zunächst einen vollständigen Überblick über alle eingesetzten KI-Agenten. Dazu gehören sowohl offiziell eingeführte Systeme als auch Agenten, die ohne zentrale Freigabe oder Kontrolle genutzt werden. Ohne eine verlässliche Übersicht darüber, welche Agenten existieren und welche Aufgaben sie übernehmen, fehlt die Grundlage für eine wirksame Absicherung.

Aktionen eindeutig zuordnen und nachvollziehbar machen. Da Agenten eigenständig handeln, müssen Unternehmen jederzeit nachvollziehen können, welcher Agent welche Aktion ausgeführt hat. Dazu gehört auch die Zuordnung zum auslösenden Nutzer und zu den dabei verwendeten Daten. Eine solche Nachvollziehbarkeit ist entscheidend, um Sicherheitsvorfälle zu untersuchen und regulatorische Anforderungen zu erfüllen.

Zugriffe nach dem Least-Privilege-Prinzip begrenzen. KI-Agenten sollten nur auf die Daten, Werkzeuge und Systeme zugreifen können, die sie für ihre konkrete Aufgabe benötigen. Dabei darf ein Agent nicht automatisch die umfangreichen Berechtigungen des auslösenden Nutzers übernehmen. Stattdessen sollte bereits vor der Bereitstellung klar definiert sein, welche Ressourcen ein Agent nutzen darf und welche Grenzen für seine Aktivitäten gelten.

Zugangsdaten sicher verwalten. KI-Agenten sollten keine direkten und dauerhaft gültigen Zugangsdaten zu Geschäftsanwendungen besitzen. Stattdessen sollten Unternehmen kontrollierte Zugriffsmechanismen einsetzen, beispielsweise kurzlebige Tokens mit begrenzter Gültigkeit und der Möglichkeit zum sofortigen Widerruf. Dadurch lässt sich verhindern, dass Agenten dauerhaft über weitreichende Zugriffsrechte verfügen.

Menschliche Kontrolle für kritische Aktionen vorsehen. Nicht jede Aktion eines KI-Agenten sollte vollständig autonom erfolgen. Besonders kritisch sind Vorgänge wie das Schreiben, Löschen oder die externe Übertragung von Daten. Für solche Aktionen stellen zusätzliche Freigaben durch Menschen eine wichtige Schutzmaßnahme dar, indem sie verhindern, dass sensible Vorgänge ohne Kontrolle ausgeführt werden.

Risiken von verketteten Aktionen erkennen. Einzelne Aktivitäten eines Agenten sind nicht immer aussagekräftig. Ein Zugriff auf eine sensible Datei kann zunächst unkritisch erscheinen. Wird diese Datei anschließend jedoch an ein externes System übertragen, entsteht eine deutlich höhere Risikosituation. Deshalb müssen Unternehmen Aktivitäten über verschiedene Systeme hinweg zusammenführen und bewerten, welche Bedeutung einzelne Aktionen im Kontext mit anderen Ereignissen haben.

Eine wirksame Strategie für Agentic AI Security besteht nicht darin, den Einsatz von KI-Agenten einzuschränken, sondern die notwendigen Kontrollmechanismen zu schaffen.

Fabian Glöser, Forcepoint

Vor allem eine Frage der Datensicherheit

Bei der Umsetzung dieser Sicherheitsmaßnahmen helfen Unternehmen moderne Softwarelösungen. Eine entscheidende Rolle spielt dabei Data-Security- Software, denn der sichere Einsatz agentischer KI ist in erster Linie eine Frage der Datensicherheit. Diese Lösungen schaffen Transparenz über sensible Daten, kontrollieren, wie KI-Agenten auf diese Informationen zugreifen und welche Aktionen sie damit durchführen. Damit können sie sowohl unbeabsichtigte Datenabflüsse als auch die Auswirkungen eines erfolgreichen Angriffs auf einen Agenten begrenzen.

Die Basis legen dabei Systeme zur Erkennung und Klassifizierung sensibler Daten (Data Security Posture Management, DSPM). Sie zeigen auf, welche schützenswerten Informationen in Cloud-, SaaS- und On-Premises-Umgebungen vorhanden sind und helfen Unternehmen zu erkennen, welche Informationen besonders schutzbedürftig sind und deshalb beim Einsatz von KIAgenten besonders abgesichert werden müssen.

Darauf aufbauend unterstützen Data-Loss-Prevention-Lösungen (DLP) dabei, den Umgang mit sensiblen Informationen zu kontrollieren. Sie überwachen Datenbewegungen und können verhindern, dass vertrauliche Informationen durch KI-Agenten über nicht erlaubte Kanäle weitergegeben werden. Moderne Lösungen bewerten dabei nicht nur einzelne Datenbewegungen, sondern erkennen auch risikoreiche Aktionsketten über mehrere Systeme hinweg.

Cloud Access Security Broker (CASB) ergänzen diese Kontrollen, indem sie die Nutzung cloudbasierter KI-Anwendungen und Dienste steuern. Sie schaffen Transparenz darüber, welche Cloud- Dienste von Agenten genutzt werden, und ermöglichen es, nicht genehmigte Anwendungen zu kontrollieren.

Nicht einschränken, sondern kontrollieren

Agentic AI wird sich in den kommenden Jahren zu einem festen Bestandteil vieler Unternehmensprozesse entwickeln. Gerade die Fähigkeit, eigenständig Aufgaben auszuführen und mit unterschiedlichen Systemen zu interagieren, macht KI-Agenten zu einem wichtigen Baustein für automatisierte Geschäftsprozesse. Gleichzeitig erfordert diese Autonomie neue Sicherheitsmechanismen: Unternehmen müssen das Risiko von unerwünschten Aktionen der Agenten begrenzen und auch berücksichtigen, dass Angreifer deren Zugriffsrechte gezielt ausnutzen können.

Eine wirksame Strategie für Agentic AI Security besteht darin, die notwendigen Kontrollmechanismen zu schaffen. Transparenz, klar definierte Berechtigungen, nachvollziehbare Aktivitäten und der Schutz sensibler Daten bilden die Grundlage dafür, die Vorteile autonomer KI sicher zu nutzen.

it-sa Expo&Congress

Besuchen Sie uns in Halle 7, Stand 336