Klare Identitäten und angemessene Zugriffsrechte

KI-Agenten brauchen klare Zugriffsregeln

KI hält immer schneller Einzug in deutsche Unternehmen. Laut Bitkom setzen inzwischen 57 Prozent der Unternehmen mit mindestens 20 Beschäftigten KI ein. Ein Jahr zuvor waren es noch 36 Prozent.

KI-Agenten brauchen klare Zugriffsregeln

Mit der zunehmenden Verbreitung rückt jedoch eine andere Frage in den Vordergrund: Wie lässt sich KI sicher steuern und kontrollieren? Besonders relevant ist das bei KI-Agenten, die darauf ausgelegt sind, nicht nur Inhalte zu generieren, sondern auch mit Unternehmenssystemen zu interagieren und eigenständig im Auftrag von Nutzern zu handeln.

Gerade für kleine und mittelständische Unternehmen ist das interessant. Ein Agent kann Supportanfragen vorsortieren, Informationen aus dem CRM zusammentragen oder administrative Aufgaben übernehmen. Dafür braucht er allerdings Zugriff auf die Systeme, in denen diese Arbeit stattfindet. Spätestens dann wird aus einem KI-Projekt auch eine Frage der IT-Sicherheit.

Eine eigene Identität statt geteilter Konten

Unternehmen sollten KI-Agenten als Teil ihrer digitalen Belegschaft betrachten. So wie jeder Mitarbeitende eine eigene Identität, klar definierte Zuständigkeiten und entsprechende Zugriffsrechte hat, benötigt auch jeder KI-Agent eine eigene technische Identität. Dadurch können Unternehmen genau nachvollziehen, welcher Agent welche Aktionen ausgeführt hat. Gleichzeitig lassen sich die Berechtigungen der KI-Agenten unabhängig von denen menschlicher Nutzer verwalten und bei Bedarf entziehen.

Auch das US-amerikanische National Institute of Standards and Technology (NIST) beschäftigt sich inzwischen damit, wie sich Identitäts- und Zugriffsmanagement auf KI-Agenten übertragen lässt. Im Mittelpunkt stehen unter anderem eindeutige Identitäten, Authentifizierung, Autorisierung und der Entzug von Zugriffsrechten. Was abstrakt klingt, bedeutet für Unternehmen zunächst etwas sehr Praktisches: Ein Agent sollte nur die Rechte erhalten, die er für seine konkrete Aufgabe benötigt. Unterstützt er den Vertrieb, kann ein Lesezugriff auf bestimmte CRM-Daten sinnvoll sein. Daraus folgt aber nicht, dass er Kundendaten verändern, exportieren oder löschen können muss.

Anzeige
Anzeige

Lesen dürfen heißt nicht handeln dürfen

Entscheidend ist die Trennung zwischen Informationen, die ein Agent verarbeiten darf, und Aktionen, die er ausführen kann. Ein Agent kann beispielsweise Rechnungsdaten lesen und Auffälligkeiten markieren. Die Freigabe einer Zahlung ist eine andere Kategorie. Unternehmen sollten solche Grenzen bereits bei der Einrichtung festlegen. Dazu gehören klassische Lese-, Schreib- und Löschrechte wie beispielsweise bei einem Word-Dokument, aber auch technische Begrenzungen. Wie viele Aktionen darf ein Agent innerhalb eines bestimmten Zeitraums ausführen? Welche Systeme darf er miteinander verbinden? Wann muss ein Mensch zustimmen?

Gerade KMUs brauchen dafür keine neue Governance-Struktur. Häufig reicht es aus, vorhandene Prozesse für Identitäten und Berechtigungen konsequent auf KI-Agenten auszuweiten.

Wenn Inhalte selbst zum Risiko werden

Bei Agenten kommt allerdings ein Problem hinzu, das eine klassische Verwaltung von Rechten allein nicht löst. Sie verarbeiten E-Mails, Dokumente oder Webseiten – also auch Inhalte, über die das Unternehmen nicht immer Kontrolle hat. Darin können manipulierte Anweisungen versteckt sein. Bei einer indirekten Prompt Injection versucht ein Angreifer beispielsweise, Befehle in einer Webseite oder einem Dokument unterzubringen. Verarbeitet der Agent diese Information, kann er sie fälschlicherweise als Teil seiner Aufgabe interpretieren. Aktuelle Untersuchungen des NIST zeigen, dass dieses sogenannte Agent Hijacking ein relevantes Angriffsszenario ist. Besonders problematisch wird es, wenn ein Agent externe Informationen verarbeitet und gleichzeitig viele Zugriffsrechte besitzt.

Deshalb gilt: Selbst wenn ein Agent manipulierte Inhalte verarbeitet, sollten seine Berechtigungen verhindern, dass daraus unmittelbar eine kritische Aktion entsteht.

Anzeige

Kritische Entscheidungen bleiben beim Menschen

KI ist in der Lage, Entscheidungsprozesse zu beschleunigen, die Verantwortung bleibt jedoch beim Menschen. Unternehmen sollten klar festlegen, welche Entscheidungen automatisiert getroffen werden dürfen und welche eine menschliche Überprüfung erfordern. Die Zusammenfassung eines Dokuments oder die Kategorisierung einer Supportanfrage können beispielsweise mit geringen Risiken verbunden sein. Anders sieht es bei der Freigabe von Zahlungen, der Änderung von Verträgen oder Zugriffsrechten sowie der Löschung großer Datenmengen aus. Solche Entscheidungen sollten weiterhin unter menschlicher Kontrolle bleiben.

Für jeden Agenten sollte deshalb von Anfang an feststehen, was er allein erledigen darf und wann er eine Entscheidung übergeben muss. Genauso wichtig ist ein für ihn Verantwortlicher, denn spätestens wenn etwas nicht wie geplant funktioniert, muss klar sein, wer eingreifen kann.

Auffälliges Verhalten muss sichtbar werden

Auch die Aktivitäten eines Agenten müssen nachvollziehbar sein. Im Ernstfall sollte schnell festgestellt werden können, welcher Agent beteiligt war, welche Systeme er genutzt und welche Aktionen er ausgelöst hat. Dabei geht es nicht darum, möglichst viele Logdaten zu sammeln. Gerade für kleinere IT-Teams sind Warnsignale sinnvoller: Greift ein Agent plötzlich auf ungewöhnlich viele Daten zu? Versucht er, nicht freigegebene Ressourcen zu öffnen? Führt er in kurzer Zeit auffällig viele Aktionen aus? Solche Ereignisse sollten eine Warnung auslösen. Ein Logfile, das niemand prüft, hilft im Ernstfall wenig.

Zugänge müssen sich vollständig entziehen lassen

KI-Agenten müssen wie alle anderen Unternehmensressourcen behandelt werden, denn sie werden eingeführt, verwaltet und irgendwann wieder außer Betrieb genommen. Unternehmen müssen wissen, welche KI-Agenten im Einsatz sind, welche Zugangsdaten sie verwenden, auf welche Systeme sie zugreifen können und wie sich ihre Berechtigungen entziehen lassen. Wenn ein Unternehmen einen KI-Agenten nicht schnell identifizieren und deaktivieren kann, hat es auch keine vollständige Kontrolle über ihn.

Den größten Nutzen aus KI-Agenten werden Unternehmen ziehen, die von Anfang an klare Identitäten, angemessene Zugriffsrechte, wirksame Kontrollmechanismen und eindeutige Verantwortlichkeiten etablieren. Da KI-Agenten zunehmend zu einem festen Bestandteil der modernen Arbeitswelt werden, müssen sich auch Sicherheitsmaßnahmen und Governance-Strukturen entsprechend weiterentwickeln.

Anzeige