Datenschützer: Beschwerden wegen KI steigen rasant

Künstliche Intelligenz boomt – und mit ihr die Beschwerden bei den Berliner Datenschützern. Prüfungen vor Ort bei Firmen deckten Missstände auf.

Der steigende Einsatz von Künstlicher Intelligenz macht auch den Berliner Datenschützern zu schaffen. Im Jahr 2025 gab es dazu einen «rasanten Anstieg bei Beschwerden, Hinweisen und Beratungsanfragen», wie die Datenschutzbeauftragte Meike Kamp in ihrem neuen Jahresbericht schreibt. 

Mehrere Prüfungen bei Firmen vor Ort offenbarten demnach, dass Vorgaben zur Transparenz beim Einsatz von KI oft missachtet werden. So verarbeitete ein Unternehmen Daten von Schuldnern, um die Zahlungsquote im Inkassoverfahren zu erhöhen: Herausgefunden werden sollte, was der passende Kanal, der richtige Ton und die richtige Uhrzeit sind, um sie individuell anzusprechen. Über das vermeintlich anonymisierte Training eines KI-Modells wurde aber nicht ausreichend informiert. Das gleiche Problem gab es bei einer Online-Plattform: Hier wurde ebenfalls ein KI-System ohne Transparenz gegenüber den betroffenen Personen mit Kundenanfragen trainiert.

Die Datenschutzbeauftragte rät daher: Unternehmen sollten sorgfältig prüfen, ob ihre KI-Trainingsdaten tatsächlich anonym sind und ob die gesetzlichen Transparenzpflichten eingehalten werden.

Arzt rief Gesundheitsdaten einer Mitarbeiterin ab

Zahlreiche Fälle gab es aus dem Arbeitskontext. So nutzte in einem Fall ein Rezeptionist einer psychiatrischen Ambulanz die Mail-Adresse einer Patientin, um sie um ein privates Treffen zu bitten. Ein Arzt rief die Gesundheitsdaten einer ihm fachlich unterstellten Beschäftigten im Info-System der Klinik ab – ohne erkennbaren Grund. Ein Polizeibeamter fragte einen Vorgang ab, in dem er selbst als Täter geführt wurde, um so Einfluss auf das Verfahren nehmen zu können.

2025 wandten sich dem Jahresbericht zufolge mehr Menschen als je zuvor an die Datenschutzbeauftragte: Der Höchststand von 6.036 Eingaben im Jahr 2024 stieg 2025 noch einmal um 52 Prozent auf 9.224 Eingaben. Die Behörde erließ 53 Verwarnungen und 59 Geldbußen in Höhe von insgesamt 79.450 Euro.

dpa