Das stille Leck – Wenn KI auf Strukturen und Prozesse trifft

Künstliche Intelligenz hält derzeit rasant Einzug in Unternehmen. KI-Assistenten sollen Wissen schneller verfügbar machen, Dokumente analysieren und Mitarbeitenden Antworten in Sekunden liefern.

Doch genau an diesem Punkt entsteht laut FAST LTA ein oft unterschätztes Problem: Viele KI-Systeme berücksichtigen bestehende Zugriffsrechte nur unzureichend – und könnten dadurch sensible Informationen offenlegen.

Der Anbieter für Datensicherheit und Archivierung beschreibt ein Szenario, das in vielen Unternehmen bereits Realität werden könnte. Während klassische IT-Systeme genau regeln, wer welche Informationen sehen darf, verlieren moderne KI-Plattformen diese Grenzen teilweise aus dem Blick.

Wenn die KI alles weiß – und alles verrät

In Unternehmen existieren normalerweise klare Berechtigungsstrukturen. Mitarbeitende aus unterschiedlichen Abteilungen erhalten jeweils nur Zugriff auf die Informationen, die sie tatsächlich benötigen. Diese Rechte wurden oft über Jahre hinweg in Systemen wie Active Directory, SharePoint oder Confluence aufgebaut.

Kommt jedoch ein KI-Assistent hinzu, der auf zahlreiche Datenquellen zugreifen soll, entsteht ein neues Risiko. Die Systeme analysieren Dokumente, E-Mails, Chats und Dateien zentral, um daraus Antworten zu generieren. Kritisch wird es laut FAST LTA dann, wenn dabei ursprüngliche Zugriffsbeschränkungen nicht konsequent übernommen werden.

Fragt beispielsweise ein Mitarbeitender nach Gehaltsinformationen oder internen Planungen, könnte die KI Inhalte liefern, die eigentlich nicht für diese Person bestimmt sind. Besonders problematisch: Der Vorgang bleibt oft unbemerkt. Es gibt keine Warnmeldung und keinen sichtbaren Hinweis darauf, dass vertrauliche Informationen offengelegt wurden.

Cloud-KI und gemeinsame Datenindizes als Schwachstelle

Der Kern des Problems liegt häufig in der technischen Architektur moderner Cloud-KI-Systeme. Daten aus verschiedenen Quellen werden in sogenannten Vektorindizes zusammengeführt, damit die KI Inhalte schneller durchsuchen kann. Dabei gehen bestehende Berechtigungsstrukturen teilweise verloren oder werden nur unvollständig berücksichtigt.

Das Unternehmen warnt davor, dass dadurch Sicherheitsgrenzen verschwimmen, die zuvor selbstverständlich waren. Die KI antwortet dann zwar korrekt und effizient – aber möglicherweise auch auf Fragen, die sie eigentlich nicht beantworten dürfte.

Microsoft Copilot als Beispiel für Oversharing-Risiken

Ein prominentes Beispiel ist der Einsatz von Microsoft Copilot für Microsoft 365. Das System greift auf Inhalte aus SharePoint, Teams, Outlook und weiteren Microsoft-Diensten zu, um Nutzer bei ihrer Arbeit zu unterstützen.

Genau darin sehen Sicherheitsexperten jedoch ein Risiko. Bereits kleine Fehler in den Berechtigungen könnten dazu führen, dass sensible Inhalte unbeabsichtigt in KI-Antworten auftauchen. Dazu zählen etwa Gehaltsdaten, interne Bewertungen oder strategische Planungen.

Microsoft selbst weist darauf hin, dass sogenanntes „Oversharing“ zu den größten Risiken bei Copilot-Einführungen gehört. Analysen von Concentric AI zeigen zudem, dass in vielen Unternehmen ein erheblicher Teil geschäftskritischer Dateien zu weitreichend freigegeben ist.

Hinzu kommen mögliche Verzögerungen bei der Aktualisierung von Berechtigungen. Laut dem Sicherheitsanbieter Knostic können dadurch kurzfristige Datenlecks entstehen – selbst wenn Zugriffsrechte bereits angepasst wurden.

Lokale KI-Systeme sollen Rechte konsequent übernehmen

FAST LTA plädiert deshalb für lokale KI-Lösungen, die bestehende Berechtigungen direkt aus den Quellsystemen übernehmen. Dabei sollen Rechte nicht neu definiert oder separat verwaltet werden, sondern automatisch aus Active Directory oder LDAP-Strukturen übernommen werden.

In der Praxis würde das bedeuten: Zwei Mitarbeitende könnten dieselbe Frage stellen, aber unterschiedliche Antworten erhalten – abhängig von ihren jeweiligen Berechtigungen. Die KI würde Inhalte nur dann ausgeben, wenn tatsächlich eine Leseberechtigung vorliegt.

Viele Unternehmen stehen dem KI-Einsatz derzeit nicht wegen der Kosten skeptisch gegenüber, sondern wegen möglicher Kontrollverluste. Vertrauen wird deshalb zur zentralen Voraussetzung für den produktiven Einsatz von KI im Unternehmensumfeld.

Es ist keine reine Komfortfunktion, sondern eine grundlegende Sicherheitsfrage. Denn sobald KI-Systeme auf sensible Unternehmensdaten zugreifen, entscheiden Architektur und Rechteverwaltung darüber, ob Effizienzgewinne entstehen – oder neue Datenschutz- und Compliance-Risiken.