Deepfakes stehlen Gesichter: Wie gehen Ermittler vor?

Deepfakes diskreditieren Menschen und verbreiten Propaganda. Dagegen vorzugehen, ist kompliziert. Was können die Behörden tun – und was raten sie Opfern?

Sie sollen bekannte Persönlichkeiten zeigen – und sind in Wirklichkeit digital gefälscht. Mit Künstlicher Intelligenz (KI) generierte Fotos oder Pornovideos stellen Polizei und Justiz zunehmend vor Probleme – nicht nur in Rheinland-Pfalz. Aktuelles Beispiel ist Giorgia Meloni: Scharf kritisiert Italiens Premierministerin KI-generierte Fotos von ihr. In Deutschland berichtete im März Schauspielerin Collien Fernandes über falsche Profile mit ihrem Namen.

Losgelöst von konkreten Fällen: Was sagt das Landeskriminalamt (LKA) Rheinland-Pfalz allgemein zu Deepfakes? Nach Einschätzung der zentralen Polizeibehörde des Landes reicht die Rechtslage zwar in vielen Fällen aus, um gegen diese Fälschungen vorzugehen. «Die strafrechtliche Bewertung erfolgt derzeit aber einzelfallabhängig», heißt es in Mainz. Einen eigenen Straftatbestand für Deepfakes gebe es bislang nicht.

Was die Suche nach Verantwortlichen erschwert

Stattdessen müssen Ermittler jeweils prüfen, welche bestehenden Gesetze greifen. «Je nach Ausgestaltung können unter anderem Verletzung von Persönlichkeitsrechten sowie Beleidigungsdelikte oder Nachstellung einschlägig sein», betont die Behörde. In einzelnen Fällen könnten Nötigung, Erpressung oder Verstöße gegen das Kunsturhebergesetz eine Rolle spielen.

Aus Sicht der Ermittler wäre eine klarere gesetzliche Grundlage hilfreich. «Ein eigener und einheitlicher Straftatbestand für Deepfakes wäre zu begrüßen.»

Besonders schwierig sei die Suche nach den Verantwortlichen. «Ein wesentliches Problem besteht darin, dass Ursprung und Herkunft des Materials häufig nur schwer rekonstruierbar sind.» Inhalte würden oft binnen kurzer Zeit über Messenger-Dienste, Plattformen und anonyme Konten verbreitet. Dadurch lasse sich der ursprüngliche Upload nur schwer gerichtsfest nachvollziehen.

Was ist ein «Deepfake Detector»?

«Die Erstverbreitung oder die verantwortlichen Personen können vielfach nicht eindeutig zugeordnet werden», erläutert das LKA. Das sei vor allem bei international genutzten Plattformen ein wachsendes Problem. «Die Polizei ist in erheblichem Maße auf die Mitwirkung von Internetdiensten angewiesen.» Wenn Straftaten spät gemeldet würden, seien wichtige Daten oft gelöscht. Gerade bei anonym betriebenen Accounts im Ausland stoßen Ermittler an Grenzen.

Um manipulierte Inhalte besser zu erkennen, setzt Rheinland-Pfalz inzwischen selbst auf KI. «Ein zentraler Baustein ist ein KI-basierter „Deepfake Detector“», erklärt das LKA. Das System sei mit Spezialisten innerhalb der Polizei entwickelt worden. Derzeit werde die Software getestet.

Moderne Technik ersetzt aber keine klassische Spurensicherung. «Derzeit können automatisierte Lösungen nur als Assistenzsysteme zur Vorauswahl herangezogen werden», betont das Landeskriminalamt. Einen zweifelsfreien Nachweis könnten solche Programme bis auf weiteres nicht leisten.

Was Opfer tun sollten

«Ein gerichtsfester Nachweis ist grundsätzlich nur durch Sachverständige möglich», so die Behörde. Experten untersuchten dabei auffällige Bildmerkmale wie anatomische Fehler, unnatürliche Schatten oder technische Muster in den Pixelstrukturen. Doch auch diese Arbeit werde schwieriger. «Deepfakes werden zunehmend realistischer und realitätsnäher», räumen Ermittler ein.

«Deepfakes werden immer genauer, und es wird schwerer, sie zu erkennen», sagte Tobias Wirth vom Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) im Februar. «Auch gute Augen werden nicht ausreichen.» 

Große Bedeutung hat die internationale Zusammenarbeit. Bei Fällen mit Auslandsbezug arbeitet die Polizei mit Europol und Interpol zusammen. Schwieriger seien juristische Verfahren zwischen Staaten.

Neben der Strafverfolgung setzt die Polizei verstärkt auf Opferschutz. «Entscheidend für den Ermittlungserfolg ist eine möglichst frühzeitige Anzeige», betont die Behörde. Opfer sollten Screenshots, Links und Profilnamen sichern, bevor Inhalte gelöscht oder verändert werden. Sollten Minderjährige zu sehen sein, empfiehlt das LKA, sich an die Polizei zu wenden – um eine rechtssichere Beweissicherung abzustimmen.

Hubig will Strafrecht verschärfen

Für viele Opfer endet der Schaden nicht mit einem manipulierten Bild. «Betroffene dürfen nicht auf die rein strafrechtliche Bearbeitung reduziert werden», betont das LKA. Deepfake-Pornos seien längst nicht mehr nur ein technisches Problem – sondern auch eine Form schwerer digitaler Gewalt.

Auch deshalb soll künftig einfacher gegen Urheber vorgegangen werden können. Von der Bundesregierung sind neue Auskunftsrechte und Maßnahmen bis hin zu richterlich angeordneten Accountsperren geplant. In einem Gesetzentwurf, den Justizministerin Stefanie Hubig (SPD) unlängst präsentierte, stehen neuen Rechte für Betroffene. Zugleich will die frühere rheinland-pfälzische Bildungsministerin das Strafrecht verschärfen.

Von Wolfgang Jung, dpa