Anzeige

Deepfake

Künstliche Intelligenz (KI) hat sich im Kampf gegen COVID-19 schon mehrfach als nützlich erwiesen. Zum Beispiel, um vielversprechende neue Forschungsgebiete unter den bereits laufenden Projekten zu identifizieren. Behörden verwenden KI für das Contact-Tracing (die Rückverfolgung von Infektionsketten), und sie wird auch für diagnostische Tools getestet. 

Leider spielt KI aber auch eine Rolle bei zusätzlichen Sicherheitsbelastungen für die Gesundheitsbranche – und das in einer Zeit, in der sie sich das am wenigsten leisten kann. 

 

Was versteht man unter Deepfakes?

Der Begriff Deepfakes beschreibt Inhalte (meist Bilder und Videos), die mittels KI verändert wurden. Die KI verwendet dazu einen vorhandenen Inhalt als Referenz und die Software bildet verschiedene Merkmale und Punkte innerhalb des Inhalts ab.

Die Person, die die Software verwendet, erstellt einen neuen Inhalt, und die KI verändert ihn so, dass er so weit wie möglich mit den Merkmalen des Originalinhalts übereinstimmt. Ziel ist es, den neuen Inhalt so über den ursprünglichen Inhalt zu legen und die verschiedenen Punkte so aufeinander abzustimmen, dass der neue Inhalt nahezu nahtlos integriert erscheint.

Am häufigsten wird die Technologie eingesetzt, um ein neues Gesicht über altes Filmmaterial zu legen, oder um den Anschein zu erwecken, dass jemand etwas sagt, was er nie gesagt hat.
 

Und der Sinn des Ganzen?

Man kann diese Technik verwenden, um überzeugendes Filmmaterial zu erstellen. Die Filmindustrie beispielsweise verwendet sie, um den Hintergrund bestimmter Aufnahmen auszufüllen, oder um das Gesicht eines verstorbenen Schauspielers über bereits gefilmte Inhalte zu legen.

Diese Technologie wurde, wenn auch relativ ineffektiv, eingesetzt, um einer jungen Prinzessin Leia den Auftritt in „Star Wars: Rouge One“ zu ermöglichen.  
 

Warum erweist sich gerade diese Eigenschaft als riskant?

Besorgniserregend ist allerdings, wenn Deepfakes verwendet werden, um Fake News zu verbreiten. Dieser von Buzzfeed produzierte Clip von Barack Obama mit dem Darsteller Jordan Peele zeigt die möglichen Gefahren. Das Video wurde ausschließlich erstellt, um zu verdeutlichen, wie man die Deepfake-Technologie einsetzen kann, um gezielt Fake News zu verbreiten.

Wenn Sie sich das komplette Video aufmerksam anschauen, werden Sie vermutlich merken, dass etwas nicht ganz stimmt. Wenn Sie sich aber nur den veränderten Ausschnitt ansehen, würden Sie vermutlich nicht feststellen, dass es sich um einen Fake handelt. Ein paar Sekunden des Filmmaterials erscheinen also auf den ersten Blick ziemlich überzeugend. Und genau darin liegt die Gefahr. Fake Videos wie diese wurden bereits verwendet, um Persönlichkeiten des öffentlichen Lebens zu diskreditieren und Falschinformationen zu verbreiten.
 

Warum Deepfakes gerade für die Gesundheitsbranche gefährlich sind

Fake News sind schon deshalb gefährlich, weil sie unrichtige Informationen verbreiten. Fake-Videos, in denen behauptet wird, dass beispielsweise Alkohol, übermäßige Hitze oder Kälte das Coronavirus abtöten, hatten und haben genau diesen Effekt. Auch, wenn es keinerlei wissenschaftliche Beweise für die in diesen Videos verbreiteten Behauptungen gibt, haben sie sich dennoch rasend schnell verbreitet.

Falschinformationen werden aber auch dann gefährlich, wenn sie die Reaktionen von Menschen auf die von den Behörden verhängten Kontrollmaßnahmen beeinflussen. Als Anti-Quarantäne-Demonstranten den Zugang zu Krankenhäusern blockierten und das Gesundheitspersonal daran hinderten, zur Arbeit zu gehen, ging die Aktion auf eine legitime Bewegung und nicht auf Deepfakes zurück. Trotzdem wäre es ein Leichtes, die Leistungsfähigkeit der Technologie anlässlich solcher Demonstrationen zu missbrauchen und mutwillig Chaos zu verursachen. 
 

Was ist für die Gesundheitsbranche schlimmer als Fake News?

Kriminelle könnten aber auch einen Weg wählen, der für die Gesundheitsbranche besonders schädlich wäre. Zum Beispiel, wenn Cyberkriminelle Deepfakes als Clickbait für Malware-verseuchte Websites verwenden. Dadurch würden sich Fake-Videos problemlos verteien, insbesondere in einer Situation der allgemeinen Verunsicherung wie gerade jetzt. 

Cyberkriminelle nutzen das Potenzial der Technologie, um mehr Opfer an Land zu ziehen. Die typische Vorgehensweise ist, ein Thumbnail des Videos mit einem Link zu posten. Thumbnail und Überschrift sollen die Opfer auf den Inhalt des Videos neugierig machen, so dass sie auf den Link klicken. Sobald der Benutzer zur Seite navigiert, ist der betreffende Computer Malware-verseucht, wie z. B. durch Ransomware, einen Keylogger oder eine Spyware. Gelingt es so einen Rechner aufgrund nicht ausreichender Cybersicherheitsmaßnahmen zu infizieren, muss der Nutzer sich unter Umständen mit schwerwiegenden Folgen auseinandersetzen. Die meisten Benutzer wissen inzwischen besser Bescheid was Webseiten angeht, auf den möglicherweise Malware gehostet wird. Das hindert kriminelle Akteure aber nicht daran gezieltere Angriffe zu entwickeln.

Stellen Sie sich für einen Moment folgendes Szenario vor. Sie erhalten eine Nachricht, die scheinbar von einer seriösen Organisation wie der Weltgesundheitsorganisation oder einer Aufsichtsbehörde Ihres Landes kommt, und in der um COVID-19 Contact Tracing geht. Die Nachricht zeigt ein miniaturisiertes Bild Ihrer Anmeldung mit einem verschwommenen Bild von jemandem, der wie einer Ihrer Kollegen aussieht. Das würde Sie möglicherweise darin bestärken doch auf den Link zu klicken. 
 

Anmerkung

Bösartige Akteure wenden eine Reihe verschiedener Taktiken an, um ihre Opfer dazu zu bringen, sich zu Schad-Links durchzuklicken oder Zugangsinformationen preiszugeben. Zwar haben einige Hacker- und Ransomware-Gruppen zu Beginn der Krise die Gesundheitsbranche für Tabu erklärt. Die Realität hat aber schon gezeigt, dass es ausreichend böswillige Akteure gibt, die die Situation rücksichtslos ausnutzen. Welches Krankenhaus kann es sich leisten, dass Ransomware gerade jetzt lebenswichtige Systeme blockiert? Wie viele können riskieren, dass die Namen von Patienten durchsickern, die positiv auf COVID-19 getestet wurden? Deepfakes belasten Gesundheitssysteme, die teilweise am Limit agieren,  noch zusätzlich. 

Dieser Blog Artikel wurde von der Gastautorin Kamilla Akhmedova (Bloggering und freie Autorin) geschrieben. Die in diesem Beitrag ausgedrückten Meinungen sind die der Autorin und geben nicht zwangsläufig die Einschätzung von GlobalSign wieder. 

www.globalsign.com/de-de


Artikel zu diesem Thema

Mitarbeiterführung
Jul 23, 2020

Die Zukunft der Mitarbeiterführung: KI und digitalisierte Coaching-Tools

„Bitte ein Bot!“ Gerade in Umbruchzeiten wie diesen sucht die Belegschaft nicht nur einen…
Cyber Spionage
Jul 19, 2020

Gefahr durch Spionage-Software auch im Privaten

Um an Daten und Informationen von Unternehmen zu gelangen, wenden Cyberkriminelle nicht…
Fake News
Jun 15, 2020

Fake News: Journalisten und Verlage fordern Strafen für soziale Netze

Im Kampf gegen Fake News rund ums Coronavirus haben Journalisten, Verlage und…

Weitere Artikel

Cybercrime

Cyberkriminalität: Woher die Gefahr droht

Der aktuelle Cyber Security Threat Radar von Swisscom zeigt, wie Cyberkriminelle infolge der Pandemie ihre Angriffsmethoden angepasst haben: mit Attacken aufs Homeoffice und mit Einsatz neuster KI-Technologie.
Smartphone Scam

„Ihr Paket kommt bald“ – Smishing und was man dagegen tun kann

Cyberkriminalität gegen die Benutzer von Mobiltelefonen, ist proportional zu deren massenhafter Nutzung angestiegen. Im Fokus sind meist Android-basierte Geräte. Schlicht, weil es so viele davon gibt. Aber auch iPhone-Nutzer sind nicht vor Smishing und andere…
Hacker

Wie sich Hacker in der Pandemie Sozialleistungen erschleichen

Im Zuge von COVID-19 stellt der Staat zahlreiche finanzielle Hilfen für Unternehmen, Selbstständige und Familien bereit. Doch diese locken auch Betrüger und Cyberkriminelle an. In Deutschland fehlt häufig die nötige Infrastruktur zur Betrugsbekämpfung – auch…
CyberCrime

Die Pandemie des Internets: Rekordhoch des Bot-Traffics in 2020

Imperva, Inc., ein Unternehmen im Bereich Cybersecurity, mit dem Ziel, Daten und alle Zugriffswege auf diese zu schützen, verzeichnete im Jahr 2020 den höchsten Bad Bot-Traffic (25,6 %) seit der Einführung des Imperva Bad Bot Reports im Jahr 2014. Die…

Anzeige

Jetzt die smarten News aus der IT-Welt abonnieren! 💌

Mit Klick auf den Button "Zum Newsletter anmelden" stimme ich der Datenschutzerklärung zu.