Deepfake: US-Außenminister Marco Rubio auf Signal imitiert

Ein Unbekannter hat sich offenbar mit täuschend echten Audio- und Textnachrichten auf dem Messenger Signal als US-Außenminister Marco Rubio ausgegeben. Ziel der Aktion war es, Einfluss auf Politiker in den USA und im Ausland zu nehmen. Das ist ein äußerst beunruhigendes Beispiel für die wachsende Bedrohung durch Deepfakes.

Hochstapelei per Signal: Cyberangriff auf politische Kreise

Ein bislang nicht identifizierter Angreifer soll sich mithilfe von Deepfake-Technologien als US-Außenminister Marco Rubio ausgegeben haben. Über den Messenger-Dienst Signal versendete er offenbar manipulierte Nachrichten in Rubios Namen – sowohl als Text als auch per Audio. Empfänger waren dabei nicht nur US-amerikanische Entscheidungsträger, sondern auch Außenminister aus anderen Staaten.

Deepfakes: Täuschend echt und gefährlich

Was vor wenigen Jahren noch wie Science-Fiction klang, ist heute bitterer Alltag: Mit Hilfe von Künstlicher Intelligenz lassen sich Stimmen und sogar ganze Persönlichkeiten überzeugend imitieren. Für Cyberkriminelle bedeutet das ein mächtiges Werkzeug, um Vertrauen zu erschleichen, Desinformation zu streuen oder politische Prozesse zu manipulieren.

Sicherheitsexperte warnt vor wachsendem Risiko

Adam Marrè, CISO von Arctic Wolf und ehemaliger FBI-Agent, teilt seine Gedanken zu Deepfakes und bewertet ihre Risiken für die Gesellschaft.

„Die aktuelle Berichterstattung ist besorgniserregend: Ein bislang unbekannter Bedrohungsakteur hat mithilfe von künstlicher Intelligenz über ein Signal-Konto mutmaßlich den US-Außenminister Marco Rubio imitiert und hochrangige US-Regierungsmitglieder sowie ausländische Offizielle kontaktiert. Dieses Szenario verdeutlicht: Wir leben in einer Welt, in der wir beim Scrollen durch Online-Inhalte oft nicht mehr wissen, was wahr ist.

Inzwischen gibt es weltweit zahlreiche Beispiele für die Nutzung von KI, um Politiker, Persönlichkeiten aus der Wirtschaft oder Prominente zu imitieren. Dieser Vorfall unterstreicht einmal mehr, dass wir dauerhaft wachsam sein müssen. Bereits im vergangenen Jahr konnten wir beobachten, wie versucht wurde, Wahlen mittels KI-generierter Inhalte und Verbreitung von Desinformationen zu beeinflussen.

Und es wird zunehmend schwerer zu bestimmen, was auf unseren Bildschirmen oder in unseren Posteingängen authentisch ist. Sicherheitsexperten warnen seit Langem vor den Risiken KI-generierter Inhalte und deren Potenzial zur Beeinflussung der öffentlichen Meinung. Diese sind vor dem Hintergrund weltweit richtungsweisender politischer Wahlen besonders besorgniserregend. Politisch motivierte Bedrohungsakteure und Hacktivisten haben eine klare Agenda und nutzen dafür vermehrt KI-Tools zur Erstellung und Verbreitung gefälschter Inhalte wie Videos, Bilder und Tonaufnahmen. Und die Gesellschaft ist alarmierend schlecht darauf vorbereitet!

Daher braucht es strukturierte Prozesse, um jede Kommunikation zu verifizieren. Es reicht nicht, sich auf das eigene Gefühl zu verlassen. Wir müssen verlässlich prüfen können, ob eine Nachricht tatsächlich von der angegebenen Quelle stammt. Und darüber hinaus muss die gesellschaftliche Diskussion eine neue Richtung einschlagen: Plattformen, die solche Inhalte hosten und verbreiten, müssen stärker in die Verantwortung genommen werden. Sie müssen eine zentrale Rolle bei der Verifizierung, Kennzeichnung und Entfernung falscher Inhalte übernehmen.

Es ist höchste Zeit, KI-basierte Desinformation als ernstzunehmendes gesellschaftliches Risiko zu behandeln und bessere Schutzmechanismen, eine entsprechende Gesetzgebung und reale Konsequenzen zu etablieren, um diejenigen zu belangen, die für die Verbreitung von Lügen und damit die Destabilisierung der Gesellschaft verantwortlich sind.“