KI-Agenten im Unternehmen: Mit Sicherheit zum Erfolg

Mit KI-Agenten hält eine neue Art Sicherheitsproblem Einzug in die Unternehmen.

Diese autonomen Systeme, die mit großer Geschwindigkeit auf Daten zugreifen, Entscheidungen treffen und mit verschiedensten Anwendungen interagieren, stellen etablierte Sicherheitskonzepte auf die Probe und führen zu ähnlichen Herausforderungen für die IT-Sicherheitsverantwortlichen wie menschliche Mitarbeiter. Ein Unternehmen muss sicherstellen, dass die Agenten nicht unberechtigt auf sensible Daten zugreifen, Daten an Unbefugte schicken oder für das Unternehmen nachteilige Entscheidungen treffen.

Das Sicherheitsdilemma: Automatisierung versus Kontrolle

Für IT-Sicherheitsverantwortliche entsteht ein fundamentales Spannungsfeld. Einerseits sollen KI-Agenten die Agilität und Geschwindigkeit von Geschäftsprozessen erhöhen, andererseits müssen strikte Sicherheitsstandards gewährleistet bleiben. Die traditionellen Mechanismen der Zugriffssteuerung wurden für menschliche Benutzer konzipiert, die über Identitäten verfügen und deren Handlungen nachvollziehbar sind. KI-Agenten agieren nach anderen Mustern: Sie handeln autonom, teilweise ohne explizite menschliche Autorisierung für jede einzelne Aktion, und ihre Entscheidungslogik kann schwer nachzuvollziehen sein.

Eine wesentliche Frage lautet darum: Wie können Organisationen KI-Agenten befähigen, effektiv zu arbeiten, ohne dabei die bestehende Sicherheitsinfrastruktur zu gefährden?

Integrationskomplexität und organisatorische Fragmentierung

Ein weiteres Problem liegt in der technischen Integration. KI-Agenten müssen häufig auf heterogene Systeme zugreifen, von modernen Cloud-Anwendungen bis hin zu älteren On-Premise-Lösungen. Diese Systeme sind oft in unterschiedlicher Weise gesichert und verwenden verschiedene Authentifizierungs- und Autorisierungsprotokolle. Die Implementierung von KI-Agenten erfordert darum oft umfangreiche Maßnahmen: API-Erweiterungen, neue Schnittstellen oder die Umgestaltung bestehender Infrastrukturen.

Hinzu kommt die Frage der Nachverfolgbarkeit und des Auditing. Regulatorische Anforderungen und Compliance-Standards verlangen, dass nachvollzogen werden kann, wer auf welche Daten zugegriffen hat und wann. Bei autonomen Agenten wird dies zur komplexen Herausforderung, besonders wenn diese über mehrere Systeme hinweg agieren.

Anforderungen an Datenschutz und Governance

KI-Agenten verarbeiten und kombinieren oft große Mengen an Daten, um ihre Aufgaben zu erfüllen. Dies wirft Fragen zum Datenschutz auf: Welche Daten darf ein Agent sehen? Wie werden sensible Informationen geschützt? Wie wird sichergestellt, dass Datenrichtlinien eingehalten werden, wenn ein Agent automatisiert auf Ressourcen zugreift? Eine robuste Datengovernance wird zu einer notwendigen Voraussetzung.

Besonders anspruchsvoll ist die Situation für Organisationen in regulierten Branchen wie Finanzsektor, Gesundheitswesen oder öffentlicher Sektor. Hier kommen zusätzliche Anforderungen hinzu: Datensouveränität, DSGVO-konforme Datenlokalität und strenge Branchenregulierungen wie HIPAA oder BaFin-Vorgaben müssen auch dann eingehalten werden, wenn KI-Agenten automatisiert und bereichsübergreifend agieren. Die Frage, wo Daten verarbeitet und gespeichert werden, ist keine technische Randnotiz, sondern eine Compliance-Anforderung.

Intelligente Orchestrierung

Die Antwort auf diese Herausforderungen liegt in einer intelligenten Orchestrierungsschicht, einer Plattform, die als Vermittlerin zwischen den Anwendungen im Frontend und den Backend-KI-Systemen fungiert. Anders als bei proprietären Embedded-KI-Lösungen, die Unternehmen an das Modell eines einzelnen Anbieters binden, ermöglicht eine offene Architektur die freie Wahl des geeigneten Sprachmodells: ob Anthropic, Google Gemini, OpenAI oder andere. Unternehmen behalten die Kontrolle darüber, welches Modell für welche Aufgabe eingesetzt wird und können bei Bedarf wechseln oder neue Modelle hinzufügen, ohne bestehende Workflows neu aufbauen zu müssen.

Eine adäquate Lösung besteht zum Beispiel in einer eigenständigen SaaS-Lösung, die es Unternehmen ermöglicht, KI-Agenten über eine Low-Code-Umgebung zu erstellen, bereitzustellen und zu verwalten – auf Basis der eigenen Daten und unter Einhaltung der bestehenden Sicherheitsrichtlinien. Entscheidend ist, keine separate Governance-Ebene für KI aufzubauen, sondern auf dem bestehenden Sicherheits- und Rechte-Framework aufzusetzen. Die Agenten agieren dann im Auftrag authentifizierter Nutzer und können ausschließlich auf jene Daten zugreifen, für die der jeweilige Nutzer autorisiert ist. Jede KI-Interaktion wird in einem umfassenden Audit-Protokoll erfasst, sensible Informationen verbleiben stets innerhalb der unternehmenseigenen Umgebung.

Der Low-Code-Ansatz

Setzt die Orchestrierungsplattform auf einen Low-Code-Ansatz, können technische Anwender bestehende IT-Ressourcen nutzen, um KI-Agenten zu konfigurieren, bereitzustellen und zu verwalten, ohne den Mehraufwand einer individuellen Eigenentwicklung. Vorgefertigte Agenten-Vorlagen decken gängige Anwendungsfälle ab und lassen sich innerhalb weniger Minuten überprüfen, konfigurieren und bereitstellen. Für spezifischere Anforderungen können Teams maßgeschneiderte Agenten definieren, die auf eigenen Dokumenten, Produktkatalogen oder Wissensdatenbanken basieren.

Das ist kein theoretisches Versprechen: Unternehmen, die auf diesen Ansatz setzen, können KI-Agenten in Tagen statt Monaten produktiv einsetzen, denn wer nicht bei null anfangen muss, spart die aufwendigste Phase der Implementierung.

Die Plattform sollte zudem Multi-Agenten-Orchestrierung ermöglichen. Damit können Unternehmen spezialisierte Agenten zu durchgängigen Workflows verketten und durch Kontrollpunkte für die menschliche Überprüfung sowie ereignisgesteuerte Auslöser ergänzen. Sicherheitsverantwortliche können sich auf die Definition von Richtlinien und Kontrollen konzentrieren, statt sich in technische Implementierungsdetails verstricken zu müssen.

Nahtlose Integration

Wichtig ist, dass die Orchestrierungsschicht mit bestehenden Authentifizierungs- und Autorisierungssystemen zusammenarbeitet, seien es Active Directory, SAML, OAuth oder andere Standards. So müssen Organisationen nicht ihre gesamte Infrastruktur neu aufbauen. Stattdessen können die neuen KI-Agenten in die vorhandenen Kontrollmechanismen integriert werden. 

Audit und Compliance als native Funktionen

Ein weiterer wichtiger Aspekt ist die Nachverfolgbarkeit. Eine spezialisierte Plattform sollte umfassende Audit-Logs bereitstellen, die dokumentieren, welcher Agent auf welche Daten zugegriffen hat, was mit ihnen geschah und wann. Dies ist nicht nur für die interne Governance wichtig, sondern auch für die Erfüllung regulatorischer Anforderungen von DSGVO und SOC 2 bis hin zu HIPAA und branchenspezifischen Vorgaben.

Einige Anbieter gehen einen Schritt weiter: Das KI-Managementsystem ist dann nach ISO/IEC 42001 zertifiziert, dem internationalen Standard für verantwortungsvolle KI-Governance. Diese Zertifizierung gibt Unternehmen die Gewissheit, dass der Einsatz von KI nicht nur technisch abgesichert, sondern auch organisatorisch und ethisch nachvollziehbar gemanagt wird. Gerade für Unternehmen in regulierten Industrien, die gegenüber Aufsichtsbehörden Rechenschaft ablegen müssen, ist das ein wichtiges Argument.

Sicherheit muss architektonisch gedacht werden

Die Lösung für IT-Sicherheitsverantwortliche besteht nicht darin, KI zu bremsen – sondern darin, sie auf dem richtigen Fundament zu bauen. Sicherheit und Compliance dürfen keine nachträglichen Hinzufügungen sein, die man einer KI-Initiative aufstülpt. Sie müssen von Anfang an als architektonische Anforderung behandelt werden.

Es gibt Plattformen, die beides ermöglichen: schnell und flexibel KI-Agenten zu entwickeln und einzusetzen, ohne dabei bestehende Sicherheitsstrukturen zu kompromittieren. Wer KI-Initiativen nicht im Piloten stecken lassen will, braucht eine Plattform, die Governance, Zugriffssteuerung und Auditierbarkeit als Kernfunktionen mitbringt, nicht als Zusatzmodul. Die Zukunft liegt nicht in der Wahl zwischen Sicherheit und Innovation. Sie liegt in intelligenten Plattformen, die beides als eine Einheit denken.

Autorin: Lea Michel, Field Marketing Managerin EMEA North, Italy & UKI bei Liferay