Thought Leadership
Von der Arbeit mit KI-Agenten versprechen sich Unternehmen große Effizienzgewinne. Die erreicht man jedoch nur, wenn man die KI auf Kontextdaten zugreifen lässt.
Und das führt bei Unternehmensdaten schnell zu Datenschutzproblemen. Im Interview erklärt Jens Büscher, CEO des DMS-Anbieters Amagno, wie Dokumentenmanagement-Systeme im Zeitalter von KI-Agenten zu Kontextmanagern werden.
Herr Büscher, in einer Amagno-Befragung sehen fast 70 Prozent KI als wichtigen strategischen Bestandteil der Zukunft ihres Unternehmens. Gleichzeitig nennen 60 Prozent der Befragten die Sicherheit sensibler Daten und fast 50 Prozent Datenschutz- und Compliance-Fragen als größte Hürden beim KI-Einsatz.
Jens Büscher: Ja, dieser Konflikt prägt gerade die Situation. Unternehmen sehen das Potenzial von KI-Agenten, zugleich wissen sie, dass Risiken entstehen, sobald diese auf Unternehmensdokumente zugreifen. Deshalb lautet die entscheidende Frage nicht: Was kann der Agent? Sondern: Was darf er sehen? Wer KI-Agenten produktiv einsetzen will, muss Datenzugriff, Berechtigungen und Kontrolle zuerst klären.
Warum wird in dieser Situation das Dokumentenmanagement-System entscheidend?
Jens Büscher: Werden Dokumente wie Verträge, Rechnungen, Bewerbungen, Personalunterlagen, Kundendaten über ein Dokumentenmanagement-System mit tief integrierter AI-Funktion wie Amagno.AI verwaltet, erhält man für die tägliche Unternehmensarbeit kostbaren Kontext, der die Automatisierung vieler Prozesse ermöglicht. So kann ein Agent, der eine Rechnung prüfen soll, auch auf Bestellung und Lieferschein zugreifen und der menschlichen Entscheidung wichtige Vorarbeit leisten.
AberKontext ist auch Zugriff – und der muss kontrolliert werden. Dafür eignet sich das Dokumentenmanagement-System ideal. Denn es kennt neben Dokumentarten, Ablagen, Versionen eben auch die Berechtigungen. Sie gelten nicht nur für Personengruppen, sondern auch für KI-Agenten und sorgen dafür, dass Unternehmen weiterhin die Kontrolle über ihren Datenbestand behalten.
Wie funktioniert das in der Praxis?
Jens Büscher: Technisch muss das DMS vor die KI geschaltet werden. Das DMS prüft zuerst, wer fragt und welche Dokumente diese Person – oder dieser Agent – sehen darf. Erst danach bekommt die KI den zulässigen Kontext. Die KI arbeitet nicht frei auf dem gesamten Unternehmensbestand, sondern nur mit Informationen, die jeweils für sie freigegeben sind. Das Thema Compliance war einer der wichtigsten Grundpfeiler bei der Entwicklung von Amagno.AI.
Was sollten Unternehmen auf dem Weg zur Agentisierung als erstes tun?
Jens Büscher: Nicht mit dem spektakulärsten KI-Modell beginnen, sondern mit der Analyse der eigenen Daten. Welche Dokumente sind sensibel? Welche enthalten personenbezogene Daten? Wer darf was sehen? Welche Prozesse dürfen automatisiert werden? Wo braucht es Freigaben? Erst danach sollte man konkrete Anwendungsfälle definieren wie: Rechnungen vorbereiten, Verträge vergleichen, Fristen extrahieren, Dokumente klassifizieren.
Welche Leitplanken brauchen Unternehmen konkret?
Jens Büscher: Fünf Leitplanken sollten Unternehmen einziehen:
Erstens, der Datenraum muss intelligent begrenzt werden. Ein Agent darf nicht einfach auf alles zugreifen, was im Unternehmen liegt.
Zweitens, Berechtigungen müssen vor der KI greifen. Was ein Mensch nicht sehen darf, darf auch über den Agenten nicht sichtbar werden.
Drittens muss die Verarbeitung in einer gekapselten Umgebung stattfinden. Dokumente, Prompts und Ergebnisse dürfen nicht unkontrolliert abfließen oder zum Training externer Modelle verwendet werden.
Viertens, es braucht einen Quellenbezug. Ein Agent sollte zeigen, auf welche Dokumente oder Textstellen er sich stützt.
Fünftens, menschliche Validierung: KI-Agenten können Arbeit erledigen, aber sie können keine Verantwortung übernehmen.
Wo muss der Mensch weiter entscheiden?
Jens Büscher: Überall dort, wo Fehler wirklich weh tun. Unternehmen sollten das nach ihren eigenen Prioritäten regeln. Zum Beispiel, indem sie festlegen, Rechnungen ab einem bestimmten Betrag standardmäßig manuell zu prüfen. Eine gute Automatisierung sollte Mitarbeitende von unnötigen Routinetätigkeiten entlasten und ihre Aufmerksamkeit auf die Fälle lenken, bei denen eine fachliche Bewertung nötig ist.
Wo verläuft für Sie die Grenze zwischen sinnvoller Agentisierung und gefährlicher Autonomie?
Jens Büscher: Ein sinnvoller KI-Agent wie Amagno.AI arbeitet in einem definierten Rahmen. Er hat klare Quellen, klare Rechte und klare Aufgaben. Er bereitet Entscheidungen vor und macht seine Ergebnisse nachvollziehbar. Der Mensch kann prüfen, korrigieren und entscheiden.
Gefährlich wird es, wenn ein Agent sich seine Wege selbst sucht und das Unternehmen diese nicht mehr sauber nachvollziehen kann. Einige Systeme können eigenständig Internetzugriffe ausführen, Benutzeroberflächen steuern, Code erzeugen, externe Dienste nutzen oder mit Zugangsdaten arbeiten. Wenn ein Agent Passwörter oder Cookies braucht, entsteht sofort ein Sicherheitsproblem.
Wird so ein Agent kompromittiert oder handelt er außerhalb der vorgesehenen Grenzen, können Daten abfließen oder Berechtigungen missbraucht werden. Auch interne Sicherheits-Frameworks können ausgehebelt werden. Dann reden wir nicht mehr über Assistenz, sondern über ein System, das faktisch in Unternehmensprozesse eingreift. Darum ist es so wichtig, keine Agentisierung um der Agentisierung willen zu betreiben, sondern KI-Agenten im Rahmen eines ausgereiften Dokumentenmanagement-Systems einzusetzen.
