Anzeige

Deepfakes

Wie lässt sich prüfen, ob Informationen echt und vertrauenswürdig sind – gerade solche, die über das Internet oder die Sozialen Medien verbreitet werden?

Die Möglichkeit, etwa Videos und Fotos mit Hilfe Künstlicher Intelligenz (KI) zu manipulieren, machen eindeutige Antworten immer schwieriger. Forschende des Karlsruher Instituts für Technologie (KIT) haben sich im Auftrag des Europaparlaments mit den potenziellen Gefahren der Deepfake-Technologie beschäftigt und Optionen für eine bessere Regulierung entwickelt. Gemeinsam mit Partnern aus den Niederlanden, Tschechien und Deutschland haben sie die Ergebnisse ihrer Studie vor EU-Abgeordneten offiziell vorgestellt.

Deepfakes sind zunehmend realistisch wirkende Fotos, Audios oder Videos, in denen Personen mit Hilfe von KI-Technologien in neue Kontexte gestellt oder ihnen Worte in den Mund gelegt werden, die so niemals gesagt wurden. „Wir haben es mit einer neuen Generation digital manipulierter Medieninhalte zu tun, die seit einigen Jahren immer kostengünstiger und einfacher zu erzeugen sind und vor allem täuschend echt aussehen können“, sagt Dr. Jutta Jahnel, die sich am Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) des KIT mit der gesellschaftlichen Dimension lernender Systeme beschäftigt. Die Technik eröffne durchaus neue Möglichkeiten für Kunstschaffende, für digitale Visualisierungen in Schulen oder Museen und helfe in der medizinischen Forschung.

Gleichzeitig bringen Deepfakes jedoch erhebliche Gefahren mit sich, wie die jetzt vorgestellte internationale Studie für den STOA-Ausschuss (steht für Scientific Technology Options Assessment) des Europäischen Parlaments zeigt. „Die Technologie kann missbraucht werden, um sehr effektiv Fake News und Desinformationen zu streuen“, so Jahnel, die den Beitrag des ITAS zur Studie koordiniert hat. So könnten gefälschte Audiodokumente dafür eingesetzt werden, juristische Prozesse zu beeinflussen oder in Misskredit zu bringen, und letztlich das Justizsystem bedrohen. Möglich wäre beispielsweise auch, mit einem fingierten Video einer Politikerin nicht nur persönlich zu schaden, sondern damit auch die Wahlchancen ihrer Partei zu beeinflussen und in letzter Konsequenz dem Vertrauen in demokratische Institutionen insgesamt zu schaden.

Kritischer Umgang mit Medieninhalten notwendig

Die Forschenden aus Deutschland, den Niederlanden und Tschechien machen konkrete Lösungsvorschläge. Aufgrund des rapiden technologischen Fortschritts dürfe man sich nicht auf Vorschriften zur Technikentwicklung beschränken. „Um die öffentliche Meinung manipulieren zu können, müssen Fakes nicht nur hergestellt, sondern vor allem auch verbreitet werden“, erläutert Jahnel. „Bei der Regelung zum Umgang mit Deepfakes müssen wir daher in erster Linie bei Internetplattformen und Medienunternehmen ansetzen“. KI-gestützte Technologien für Deepfakes werden sich jedoch auch so kaum ganz aus der Welt schaffen lassen. Im Gegenteil, die Forschenden sind davon überzeugt, dass sich Individuen und Gesellschaften künftig immer häufiger mit visuellen Desinformationen konfrontiert sehen. Essenziell sei es daher, solchen Inhalten künftig noch kritischer gegenüberzutreten und Fertigkeiten weiterzuentwickeln, die dabei helfen, die Glaubwürdigkeit von Medieninhalten kritisch zu hinterfragen. Auf deutscher Seite hat an der Studie neben dem ITAS das Fraunhofer-Institut für System- und Innovationsforschung mitgewirkt, in den Niederlanden das Rathenau Institut als Projektkoordinator und in Tschechien das Technology Centre CAS.

www.kit.edu/


Artikel zu diesem Thema

Deepfakes
Okt 08, 2021

Gefahr von DeepFakes wird unterschätzt

KnowBe4, Anbieter einer Plattform für die Schulung des Sicherheitsbewusstseins und…

Weitere Artikel

Monero Miner

Böses Omen: Tor2Mine Kryptominer mit neuen Varianten

Sophos hat neue Erkenntnisse über den Tor2Mine Kryptominer veröffentlicht. "Das Vorhandensein von Minern wie Tor2Mine in einem Netzwerk ist fast immer ein Vorbote für andere, potenziell gefährlichere Eindringlinge. Tor2Mine ist jedoch viel aggressiver als…
Router

Hacker willkommen: Lücken in sämtlichen gängigen WLAN-Routern

Neun WLAN-Router bekannter Hersteller fanden sich kürzlich unter Laborbedingungen im Sicherheitstest wieder – mit verheerenden Ergebnissen im Bereich IT Security.
Ransomware 2.0

Schnelle Fortschritte bei Ransomware 2.0

Neue Techniken und Strategien machen Ransomware-Angriffe immer gefährlicher. Während herkömmliche Ransomware darauf abzielte, sich zu verbreiten und so viele Endgeräte wie möglich zu verschlüsseln, werden bei Ransomware 2.0-Angriffen fortschrittliche Methoden…
Linux

CronRat: Linux-Malware versteckt sich im Kalender

CronRat ist ein neuer Linux-Trojaner, der sich in den geplanten Aufgaben versteckt. Das Ausführungsdatum am 31. Februar ist natürlich ungültig, trotzdem entdecken ihn viele Sicherheitsprogramme nicht.
2022 KI

IT-Security-Trends 2022: KI macht Cyberangriffe gefährlicher

Cyberkriminalität steigt auch 2022 weiter an. Angreifer nutzen dabei konsequent jede Schwachstelle aus. Um ihre Ziele zu erreichen, setzen sie auf Multi-Ransomware-Angriffe und verwenden Künstliche Intelligenz (KI), mit der sie besseren Schadcode herstellen.
Phishing

Phishing-Kampagnen: Webseiten von Sparkasse und Volksbank werden imitiert

Die Security-Experten von Proofpoint haben eine Zunahme von Phishing-Kampagnen registriert, bei denen deutsche Bankkunden ins Visier der Cyberkriminellen geraten.

Anzeige

Jetzt die smarten News aus der IT-Welt abonnieren! 💌

Mit Klick auf den Button "Zum Newsletter anmelden" stimme ich der Datenschutzerklärung zu.