Thought Leadership
Ein Prompt ist technisch betrachtet nur eine Eingabe. Datenschutzrechtlich kann er jedoch mehrere Verarbeitungsvorgänge auslösen: Informationen werden an einen Anbieter übermittelt, möglicherweise gespeichert, protokolliert, ausgewertet oder für weitere Systemfunktionen verwendet.
Hinzu kommen erzeugte Ausgaben, die ihrerseits personenbezogene Daten enthalten können.
Unternehmen müssen deshalb nicht nur prüfen, welche Informationen Beschäftigte in ein KI-System eingeben. Entscheidend ist der gesamte Datenfluss – von der Anmeldung und Eingabe über die Verarbeitung beim Anbieter bis zur Speicherung und Weiterverwendung der Ergebnisse.
Nicht jede Eingabe personenbezogener Daten ist verboten
Enthält eine Eingabe Informationen über eine identifizierte oder identifizierbare natürliche Person, werden personenbezogene Daten verarbeitet. Das betrifft nicht nur Namen, Anschriften oder Personalnummern. Auch Projektbeschreibungen, Gesprächsnotizen, Vertragsauszüge oder Angaben zu einer bestimmten beruflichen Situation können einen Personenbezug herstellen.
Daraus folgt jedoch kein pauschales Verbot, personenbezogene Daten mit KI-Anwendungen zu verarbeiten. Erforderlich sind vielmehr ein festgelegter Zweck, eine geeignete Rechtsgrundlage und die Einhaltung der weiteren Vorgaben der Datenschutz-Grundverordnung. Die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder weist darauf hin, dass für jeden Verarbeitungsschritt mit personenbezogenen Daten eine datenschutzrechtliche Rechtsgrundlage erforderlich ist. Welche Grundlage infrage kommt, hängt vom konkreten Einsatzgebiet ab.
Zusätzlich sind die Grundsätze aus Art. 5 DSGVO zu berücksichtigen. Dazu gehören insbesondere Rechtmäßigkeit, Zweckbindung, Datenminimierung, Transparenz, Richtigkeit und Speicherbegrenzung. Eine technisch mögliche Verarbeitung ist nicht automatisch erforderlich oder zulässig.
Namen zu entfernen reicht häufig nicht aus
Ein verbreiteter Irrtum besteht darin, Daten bereits dann als anonym anzusehen, wenn Namen und Kontaktdaten entfernt wurden. Der Personenbezug kann sich jedoch aus dem verbleibenden Kontext ergeben.
Eine Formulierung wie „Erstellen Sie ein Arbeitszeugnis für den einzigen Kundenberater der Niederlassung X, der im Mai gekündigt wurde“ kann die betroffene Person auch ohne Namensnennung identifizierbar machen. Gerade generative KI-Systeme sind darauf ausgelegt, Zusammenhänge zwischen unstrukturierten Informationen herzustellen.
Die Datenschutzkonferenz betont daher, dass das Entfernen von Namen und Anschriften regelmäßig nicht genügt, wenn sich die betreffende Person anhand weiterer Angaben bestimmen lässt.
Auch pseudonymisierte Daten bleiben personenbezogene Daten, solange eine Zuordnung mithilfe zusätzlicher Informationen möglich ist. Wo es der konkrete Arbeitszweck zulässt, sollten Unternehmen stattdessen mit tatsächlich anonymisierten Daten oder mit Beispieldaten ohne Personenbezug arbeiten.
Datenschutz und Vertraulichkeit sind getrennt zu prüfen
Nicht jede vertrauliche Information ist zugleich ein personenbezogenes Datum. Unveröffentlichte Geschäftszahlen, Quellcode, technische Dokumentationen oder strategische Planungen können ohne Personenbezug auskommen und damit außerhalb des Anwendungsbereichs der DSGVO liegen.
Ihre Eingabe in einen öffentlich verfügbaren KI-Dienst kann dennoch gegen vertragliche Geheimhaltungspflichten, interne Sicherheitsvorgaben oder den Schutz von Geschäftsgeheimnissen verstoßen. Eine datenschutzrechtliche Freigabe ist daher nicht automatisch eine allgemeine Freigabe für sämtliche betrieblichen Informationen.
Für betriebliche Richtlinien eignet sich folgende Grundregel:
Personenbezogene, vertrauliche oder geschäftskritische Informationen dürfen nur mit ausdrücklich freigegebenen KI-Anwendungen und innerhalb des festgelegten Verwendungszwecks verarbeitet werden.
Die Freigabe sollte sich immer auf eine bestimmte Produktversion, ein konkretes Vertragsmodell und festgelegte Systemeinstellungen beziehen. Kostenlose Privatkonten und vertraglich geregelte Unternehmenszugänge desselben Anbieters können sich hinsichtlich Speicherung, Trainingsnutzung und Administrationsmöglichkeiten erheblich unterscheiden.
Sieben Prüffragen vor der Freigabe eines KI-Dienstes
Vor der betrieblichen Einführung sollte der geplante Einsatzfall dokumentiert und anhand eines strukturierten Prüfprozesses bewertet werden.
1. Welchem konkreten Zweck dient die Anwendung?
Eine Formulierung wie „Nutzung generativer KI zur Effizienzsteigerung“ ist zu unbestimmt. Der Zweck sollte so konkret beschrieben sein, dass sich daraus zulässige und unzulässige Nutzungen ableiten lassen.
Ein geeigneter Anwendungsfall wäre beispielsweise die sprachliche Überarbeitung bereits anonymisierter Produktbeschreibungen. Davon zu unterscheiden wäre die Auswertung vollständiger Kundenakten oder Personalunterlagen.
2. Welche Daten werden tatsächlich verarbeitet?
Die Prüfung darf sich nicht auf den sichtbaren Prompt beschränken. Zu berücksichtigen sind unter anderem:
- eingegebene Texte und hochgeladene Dateien,
- Nutzungs-, Anmelde- und Protokolldaten,
- erzeugte Antworten,
- gespeicherte Gesprächsverläufe,
- Rückmeldungen zur Qualität der Antworten sowie
- angebundene Datenquellen und andere Unternehmenssysteme.
Selbst eine Eingabe ohne Personenbezug kann zu einer Ausgabe mit personenbezogenen Informationen führen. Auch deren Speicherung oder Weiterverwendung muss rechtlich bewertet werden.
3. Welche datenschutzrechtliche Rolle hat der Anbieter?
Es ist zu klären, ob der Anbieter personenbezogene Daten ausschließlich nach Weisung des Unternehmens verarbeitet oder zumindest teilweise eigene Zwecke verfolgt.
Handelt der Anbieter als Auftragsverarbeiter, ist grundsätzlich ein Vertrag nach Art. 28 DSGVO erforderlich. Dieser sollte unter anderem Weisungsrechte, Löschfristen, Sicherheitsmaßnahmen und den Einsatz weiterer Unterauftragnehmer regeln. Nutzt der Anbieter bestimmte Daten für eigene Zwecke, lässt sich die Verarbeitung nicht allein durch den Abschluss eines Auftragsverarbeitungsvertrags absichern.
Die Rollenverteilung muss für jeden relevanten Verarbeitungsschritt betrachtet werden. Eine allgemeine Bezeichnung des Anbieters als „Auftragsverarbeiter“ genügt nicht.
4. Werden Eingaben gespeichert oder für das Training verwendet?
Unternehmen sollten prüfen, ob Prompts, Dateien und Ausgaben dauerhaft gespeichert, zur Produktverbesserung ausgewertet oder zum Training beziehungsweise zur weiteren Anpassung von Modellen verwendet werden.
Eine deaktivierbare Trainingsnutzung ist ein wichtiges Kriterium, löst aber nicht alle Datenschutzfragen. Zusätzlich sind die vertraglichen Regelungen, die Speicherdauer, mögliche Protokolldaten und die tatsächlichen Löschmöglichkeiten zu prüfen.
Datenschutzfreundliche Voreinstellungen sollten insbesondere verhindern, dass Eingaben standardmäßig zu Trainingszwecken verwendet oder Gesprächsverläufe länger als erforderlich gespeichert werden.
5. Finden Drittlandübermittlungen statt?
Der Standort des Rechenzentrums ist nur ein Teil der Prüfung. Relevant ist auch, ob Konzerngesellschaften, Supporteinheiten oder Unterauftragnehmer außerhalb des Europäischen Wirtschaftsraums auf personenbezogene Daten zugreifen können.
Bei einer Drittlandübermittlung müssen die Voraussetzungen der Art. 44 ff. DSGVO erfüllt sein. Je nach Empfänger und Zielland können etwa ein Angemessenheitsbeschluss, Standardvertragsklauseln und zusätzliche Schutzmaßnahmen erforderlich sein.
Eine Aussage wie „Daten werden in Europa gespeichert“ reicht daher nicht aus, wenn gleichzeitig Zugriffs- oder Supportmöglichkeiten aus Drittländern bestehen.
6. Welche Sicherheits- und Administrationsfunktionen bietet das System?
Zu prüfen sind unter anderem Verschlüsselung, Zugriffskontrollen, Rollen- und Rechtekonzepte, Protokollierung, Mandantentrennung, Löschfunktionen und Verfahren für Sicherheitsvorfälle.
Für die berufliche Nutzung sollten Unternehmen eigene betriebliche Konten und Geräte bereitstellen. Die Datenschutzkonferenz rät davon ab, Beschäftigte für dienstliche Zwecke auf private Accounts zu verweisen, da dadurch zusätzliche Nutzungsprofile entstehen können und die organisatorische Kontrolle erschwert wird.
7. Lassen sich Betroffenenrechte praktisch erfüllen?
Unternehmen müssen auch beim Einsatz von KI-Anwendungen gewährleisten können, dass personenbezogene Daten aufgefunden, beauskunftet, berichtigt und – soweit ein Löschanspruch besteht – gelöscht werden können.
Dazu ist zu klären, welche Daten der Anbieter speichert, wie einzelne Inhalte gefunden werden können und ob sich Daten tatsächlich aus allen relevanten Systembestandteilen entfernen lassen. Fehlen hierzu belastbare Informationen, kann bereits dies gegen den vorgesehenen Einsatz sprechen.
Eine Datenschutz-Folgenabschätzung ist nicht automatisch erforderlich
Der Einsatz einer KI-Anwendung löst nicht in jedem Fall eine Datenschutz-Folgenabschätzung aus. Nach Art. 35 DSGVO ist sie erforderlich, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat.
Das kann insbesondere bei umfangreichen Auswertungen, besonders sensiblen Daten, systematischer Überwachung oder Anwendungen im Personal-, Gesundheits- und Finanzbereich der Fall sein. Die Risikobewertung muss jedoch stets auf das konkrete System und den vorgesehenen Einsatz bezogen werden.
Besondere Vorsicht ist geboten, wenn KI-Ergebnisse Entscheidungen über Bewerber, Beschäftigte, Kunden oder Versicherte beeinflussen. Bei Entscheidungen, die ausschließlich auf einer automatisierten Verarbeitung beruhen und gegenüber Betroffenen rechtliche Wirkung entfalten oder sie in ähnlicher Weise erheblich beeinträchtigen, sind zusätzlich die Anforderungen des Art. 22 DSGVO zu prüfen.
Eine menschliche Beteiligung darf sich in solchen Fällen nicht auf das routinemäßige Bestätigen eines KI-Vorschlags beschränken. Die zuständige Person muss das Ergebnis fachlich bewerten und tatsächlich verändern oder zurückweisen können.
Interne Regeln sollten konkrete Anwendungsfälle abbilden
Ein allgemeiner Hinweis wie „Keine sensiblen Daten in KI eingeben“ bietet Beschäftigten kaum Orientierung. Interne Vorgaben sollten stattdessen festlegen:
- welche KI-Anwendungen freigegeben sind,
- für welche Zwecke sie verwendet werden dürfen,
- welche Datenarten ausgeschlossen sind,
- wann Daten anonymisiert oder pseudonymisiert werden müssen,
- wie Ausgaben auf Fehler und Diskriminierung geprüft werden,
- wie mit gespeicherten Verläufen umzugehen ist,
- wer neue Anwendungsfälle freigibt und
- an wen Sicherheits- oder Datenschutzvorfälle zu melden sind.
Hilfreich ist zudem ein internes Verzeichnis der eingesetzten KI-Anwendungen. Darin können Zweck, Anbieter, Datenkategorien, Verantwortlichkeiten, Vertragsgrundlagen, Systemeinstellungen und Prüfergebnisse dokumentiert werden.
Datenschutzbeauftragte, Informationssicherheit, Rechtsabteilung, IT und gegebenenfalls die Beschäftigtenvertretung sollten möglichst früh in den Auswahl- und Einführungsprozess einbezogen werden. Die Datenschutzkonferenz empfiehlt ausdrücklich dokumentierte interne Weisungen mit konkreten Beispielen für erlaubte und untersagte Einsatzszenarien.
KI-Kompetenz erfordert mehr als eine Bedienungsanleitung
Nach der derzeit geltenden Fassung des Art. 4 der europäischen KI-Verordnung müssen Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um nach besten Kräften ein ausreichendes Maß an KI-Kompetenz bei ihrem Personal und weiteren Personen sicherzustellen, die in ihrem Auftrag mit dem Betrieb und der Nutzung der Systeme befasst sind. Die Regelung ist seit dem 2. Februar 2025 anwendbar.
Die häufig verwendete Bezeichnung „KI-Schulungspflicht“ ist allerdings verkürzt. Die Verordnung schreibt weder ein bestimmtes Schulungsformat noch ein allgemeines Zertifikat oder eine feste Zahl an Unterrichtsstunden vor. Welche Maßnahmen angemessen sind, hängt unter anderem von den eingesetzten Systemen, den Vorkenntnissen der beteiligten Personen, dem Einsatzkontext und den damit verbundenen Risiken ab.
Eine Schulung kann daher ein zentraler Bestandteil des Kompetenzkonzepts sein, muss aber auf die tatsächlichen Aufgaben zugeschnitten werden. Beschäftigte, die KI lediglich zur Überarbeitung allgemeiner Texte verwenden, benötigen andere Kenntnisse als Personen, die mit KI-gestützten Bewerberbewertungen oder medizinischen Daten arbeiten.
Mindestens vermittelt werden sollten:
- Funktionsweise und Grenzen der verwendeten Systeme,
- zulässige und unzulässige Eingaben,
- Datenschutz- und Sicherheitsrisiken,
- mögliche fehlerhafte oder erfundene Ausgaben,
- Vorgaben zur menschlichen Kontrolle sowie
- interne Zuständigkeiten und Meldewege.
Die getroffenen Maßnahmen sollten nachvollziehbar dokumentiert und bei neuen Systemen, geänderten Funktionen oder zusätzlichen Einsatzgebieten überprüft werden. Die Europäische Kommission nennt interne Aufzeichnungen über Schulungen und andere Leitmaßnahmen als mögliche Form der Dokumentation; ein bestimmtes Zertifikat ist nicht vorgeschrieben.
Fazit: Datenschutzkonforme KI-Nutzung ist ein Prozess
Ein KI-Dienst ist nicht allein deshalb datenschutzkonform, weil der Anbieter europäische Server, eine Trainingssperre oder einen Vertrag zur Auftragsverarbeitung anbietet. Entscheidend ist, ob das konkrete System für den festgelegten Zweck rechtmäßig und kontrollierbar eingesetzt werden kann.
Dazu gehören eine belastbare Zweck- und Rechtsgrundlagenprüfung, klare interne Freigaben, geeignete Vertrags- und Sicherheitseinstellungen sowie Beschäftigte, die Chancen und Risiken der verwendeten Systeme einschätzen können.
Ergänzend behandelt das Fachseminar „ChatGPT, Gemini, Claude & Co. – Rechtskonformer Einsatz von KI“ die praktische Umsetzung der datenschutzrechtlichen, sicherheitsbezogenen und organisatorischen Anforderungen.
