Kennzeichnung von Deepfakes schützt nicht vor Beeinflussung

Die Kennzeichnung von KI-generierten Bildern und Videos als solche mag auf den ersten Blick sinnvoll erscheinen, doch neue Forschung der University of Bristol zeigt, dass dies die Wahrnehmung der Betrachter kaum verändert.

Ob ein Video als Deepfake markiert ist oder nicht, beeinflusst demnach nur wenig, wie Menschen den Inhalt beurteilen (via Pressetext).

Warnhinweise erreichen die Psyche nicht vollständig

In politischen und öffentlichen Debatten wird häufig argumentiert, dass Transparenz die Lösung sei: Wenn Menschen wissen, dass Inhalte künstlich erzeugt wurden, könnten sie diese besser einordnen und manipulierte Informationen ignorieren. Psychologische Studien legen jedoch nahe, dass Menschen stark von dem beeinflusst werden, was sie sehen – selbst wenn sie wissen, dass es falsch ist.

Experimente mit echten Videos und Deepfakes

Die Forscher führten drei Online-Studien mit insgesamt über 600 Teilnehmern durch. Die Probanden sahen kurze Clips, in denen Personen zugaben, ein Verbrechen oder eine moralische Verfehlung begangen zu haben. Einige Videos waren echt, andere als Deepfakes mit identischen Skripten und Szenen erstellt. Teilweise wurden die Teilnehmer darauf hingewiesen, dass das Video künstlich erzeugt war, teilweise nicht.

Trotz Warnung: Inhalte wirken

Die Ergebnisse zeigten, dass die Kennzeichnung nur begrenzt wirkt. Viele Teilnehmer wussten zwar, dass das Video ein Deepfake war, ließen sich aber dennoch in ihrer Bewertung beeinflussen. Sie stuften die gezeigten Personen weiterhin als schuldig ein, obwohl sie die Künstlichkeit der Darstellung erkannten. Die Forscher folgern, dass Warnhinweise die Wirkung manipulativer Inhalte lediglich abschwächen, aber nicht verhindern.

Manipulation ist schwer zu stoppen

Die Studie verdeutlicht, dass Menschen visuelle Informationen stark vertrauen, selbst wenn sie wissen, dass diese manipuliert sind. Maßnahmen wie Kennzeichnungen allein reichen daher nicht aus, um die Täuschung durch Deepfakes zu verhindern. Effektiver wäre es, zusätzlich kritisches Denken, Medienkompetenz und Verifikation von Informationen in den Fokus zu rücken.