Wenn KI plötzlich Daten weitergibt: Wie Unternehmen die Kontrolle behalten

Das zeigt ein Vorfall bei OpenAI: In 53 Fällen übertrugen interne Forschungsagenten hochgeladene Nutzerbilder an externe Bildhosting-Dienste. Die Links waren nicht öffentlich gelistet, ließen sich mit der jeweiligen Adresse jedoch aufrufen. OpenAI entfernte inzwischen einen Großteil der Inhalte.

Für Unternehmen ist daran vor allem eines relevant: KI kann Informationen anders verarbeiten oder weitergeben als vorgesehen. Sobald Beschäftigte damit Kundenunterlagen, interne Dokumente oder Geschäftsgeheimnisse bearbeiten, entsteht ein Sicherheitsrisiko. Firmen müssen daher festlegen, welche Systeme sie einsetzen, was diese dürfen und wie sie auf unerwartete Vorgänge reagieren.

Schatten-KI erschwert die Kontrolle

Ein Verbot generativer KI klingt zunächst konsequent, lässt sich im Arbeitsalltag aber schwer durchsetzen. Laut einer Bitkom-Befragung von 2025 vermuten oder wissen 42 Prozent der Unternehmen, dass Mitarbeiter private KI-Zugänge verwenden. Einen eigenen Zugang stellen dagegen nur 26 Prozent bereit.

Dadurch verlagert sich die Nutzung schnell in einen Bereich, den die IT kaum kontrollieren kann. Firmen sollten deshalb ausgewählte Anwendungen freigeben und geschäftliche Accounts, definierte Speicherfristen sowie klare Vorgaben zur Datennutzung vorsehen.

Zusätzliche Grenzen brauchen KI-Agenten. Ein System, das selbstständig auf E-Mails, Dateien und externe Webseiten zugreifen kann, sollte nur die dafür notwendigen Berechtigungen erhalten. Sensible Aktionen sollten zudem eine menschliche Freigabe erfordern.

Vertrauliche Daten gehören nicht in jedes System

Auch technische Schutzmaßnahmen helfen wenig, wenn Beschäftigte sensible Inhalte in nicht freigegebene Anwendungen kopieren. Deshalb braucht es eindeutige Regeln.

Besonders kritisch sind Personal- und Kundendaten, Passwörter, Zugangsschlüssel, Verträge, Quellcode, Geschäftsgeheimnisse und interne Finanzinformationen. Wie schnell Fehler entstehen können, zeigte Samsung 2023: Medienberichten zufolge wurden nach der Freigabe von ChatGPT mehrfach sensible Informationen eingegeben, darunter Quellcode, Anlagendaten und ein Besprechungstranskript. Nach zwischenzeitlichen Einschränkungen setzt Samsung inzwischen auf eine Enterprise-Lösung.

Für den Ernstfall zählt jede Stunde

Vollständig ausschließen lassen sich Zwischenfälle dennoch nicht. Gerade bei personenbezogenen Informationen ist dann schnelles Handeln wichtig: Eine meldepflichtige Datenschutzverletzung muss nach der DSGVO grundsätzlich binnen 72 Stunden nach Bekanntwerden an die zuständige Aufsichtsbehörde gemeldet werden.

Der Ablauf sollte deshalb vorher feststehen. Zunächst gilt es, den betroffenen Zugang zu sperren und weiteren Datenfluss zu stoppen. Anschließend muss geklärt werden, welche Informationen betroffen sind, wohin sie gelangt sind und welches Risiko besteht. Falls erforderlich, müssen Behörden und Betroffene informiert werden.

Auch der KI-Anbieter gehört in den Notfallplan. Sind Daten bereits bei einem externen Dienst gelandet, kann das Unternehmen deren Löschung möglicherweise nicht selbst veranlassen. Entsprechende Unterstützung sollte daher vertraglich geregelt sein.

KI-Sicherheit braucht klare Zuständigkeiten

Probleme entstehen auch, wenn sich die Verantwortung auf mehrere Abteilungen verteilt. Die IT verwaltet Zugänge, der Datenschutz prüft rechtliche Fragen und die Fachbereiche nutzen die Anwendungen. Ohne übergreifende Zuständigkeit können Lücken unbemerkt bleiben.

Unternehmen sollten daher wissen, welche KI-Systeme eingesetzt werden, auf welche Daten sie zugreifen und wer im Krisenfall entscheidet. Denn mit zunehmender Selbstständigkeit der Systeme verändert sich auch die Sicherheitsfrage. Es reicht nicht, lediglich den Zugang zu einer Anwendung abzusichern. Unternehmen müssen deshalb nicht nur ihre KI-Systeme absichern, sondern auch auf unerwartete Aktionen vorbereitet sein.