Es ist nicht, was Sie denken: „Konversationsbetrug“ (mit und ohne KI)

Conversational Phishing (Konversationsbetrug) war 2022 die am schnellsten wachsende Betrugsmethode über Mobilgeräte. Dieser Trend setzt sich auch 2023 fort. Im Gegensatz zu herkömmlichen Phishing- oder Malware-Angriffen entwickeln sich diese Angriffe über eine Reihe scheinbar harmloser Interaktionen, bis das Vertrauen des Opfers gewonnen ist.

Der Security-Spezialist Proofpoint konstatiert einen Anstieg dieser Technik um das Zwölffache. Cyberkriminelle nutzen dafür verschiedene Kanäle oder Plattformen, darunter SMS, Messaging-Apps und soziale Medien. Diese Art des „Konversationsbetrugs“ hat sich zur volumenstärksten Kategorie unter den Betrugsmethoden über Mobilgeräte entwickelt.

„Konversationsbetrug über Textnachrichten und soziale Medien ist besonders besorgniserregend, da Cyberkriminelle viel Zeit (oft Wochen) und Mühe darauf verwenden, das Vertrauen ihrer Zielpersonen zu gewinnen, indem sie eine zunächst harmlose und unverfängliche Konversation beginnen, um sie zu täuschen und so technische und menschliche Schutzmaßnahmen zu umgehen“, erklärt Stuart Jones, Director, Cloudmark Division bei Proofpoint. „Es gibt viele Varianten dieser Angriffe, und die Menschen sollten bei Nachrichten von unbekannten Absendern sehr skeptisch sein, vor allem wenn man bedenkt, dass KI-Tools es den Kriminellen ermöglichen, ihre Angriffe realistischer als je zuvor zu gestalten.

Proofpoint berichtete erstmals 2022 über das Aufkommen von Konversationsbetrug. Die Interaktion zwischen Angreifer und Zielperson beginnt mit einer scheinbar harmlosen Nachricht. Wenn die Zielperson den Köder schluckt, kann der Angreifer Tage oder sogar Wochen damit verbringen, scheinbar harmlose Texte auszutauschen, bevor er versucht, Informationen, Geld oder Zugangsdaten zu stehlen.

Letztlich handelt es sich bei diesen Angriffen um eine Form des Social Engineering. Geschickte Manipulatoren nutzen die allgegenwärtige Kommunikation über mobile Endgeräte, um ihr Netz weit auszuwerfen und möglichst viele Opfer zu fangen. In dieser Hinsicht ähnelt der Konversationsbetrug dem Vorschussbetrug aus der Anfangszeit des Internets. Damals wurden E-Mail-Empfängern riesige Gewinne in Aussicht gestellt, wenn sie einem Unbekannten zu einer Investition oder Erbschaft verhalfen. Das Einzige, was sich geändert hat, ist der Übermittlungsmechanismus und die Tatsache, dass das versprochene Gold am Ende des Regenbogens eher Bitcoin oder Ethereum ist.

Konversationsbetrug kann teuer werden

Die Tatsache, dass sowohl rein finanziell motivierte als auch staatlich gesponserte Cyberkriminelle auf Konversationsbetrug sowohl über E-Mail als auch über mobile Plattformen setzen, zeigt, dass diese Technik effektiv ist. Mobile Messaging ist ein idealer Bedrohungsvektor, da die Menschen besonders empfänglich dafür geworden sind und dazu neigen, neue Nachrichten innerhalb weniger Minuten nach Erhalt zu lesen.

Im vergangenen Jahr sorgte ein als „Pig Butchering“ bekannter Angriff für Schlagzeilen, bei dem die Opfer große Mengen an Kryptowährung verloren. Der Name „Pig Butchering“ stammt ursprünglich aus China, aber das FBI hat in letzter Zeit einen starken Anstieg der Opferzahlen in den USA festgestellt. Letztes Jahr verloren die Amerikaner mehr als 3 Milliarden Dollar durch Kryptowährungsbetrug, wofür „Pig Butchering“ ein Paradebeispiel ist. Auch Liebesbetrug, Jobbetrug und andere bekannte Formen von Konversationsangriffen gehören weiterhin zum Arsenal der Cyberkriminellen.

Bild: Der Abschluss eines Liebesbetrugs: Die Bitcoin-Wallet hat über 2.500 US-Dollar in Bitcoin erhalten (Quelle: Proofpoint)

Neben den finanziellen Verlusten verursachen diese Angriffe auch erhebliche menschliche Kosten. Sowohl Pig Butchering als auch Love Scams sind mit einer emotionalen Investition seitens der Zielpersonen verbunden. Ihr Vertrauen wird erschlichen und dann missbraucht, was neben den realen Folgen des Geldverlustes auch Gefühle der Scham und Peinlichkeit auslösen kann.

Und die Täter? Es gibt immer mehr Hinweise darauf, dass viele Pig Butchering-Kriminelle die Opfer von Menschenhandel für ihre Betrügereien missbrauchen. Die Experten von Proofpoint haben im Rahmen ihrer Untersuchungen mit mehreren Angreifern gesprochen, um ihre Methoden in der Praxis zu untersuchen. In einem dieser Fälle gab die Angreiferin – eine Frau, die sich „Andi“ nannte – nach und nach zu, dass sie chinesischer Abstammung sei, und nutzte das Tool zum Entfernen von Nachrichten, um versteckte Nachrichten auf Chinesisch zu senden, bevor sie wieder zum Englischen zurückkehrte. Während dieses Austauschs deutete sie an, dass sie sich in Kambodscha aufhalte, von wo aus vermutlich viele “Pig Butchering”-Betrüger operieren.

Die Proofpoint-Experten können nicht wissen, wie viel von dem, was Andi ihnen erzählt hat, wahr ist, und es ist sicher, dass das Erwecken von Sympathie ein wesentlicher Bestandteil vieler Betrügereien ist. Da diese Angriffe jedoch nach wie vor erhebliche personelle Ressourcen erfordern, ist davon auszugehen, dass die verantwortlichen Gruppen in Menschenhandel und moderne Sklaverei verwickelt sind.

Pig Butchering mit KI

Dank der jüngsten Fortschritte in der generativen KI könnten Betrüger in Zukunft nicht mehr lange auf menschliche Hilfe angewiesen sein. Die Einführung von Tools wie ChatGPT, Bing Chat und Google Bard läutet eine neue Art von Chatbots ein, die in der Lage sind, Zusammenhänge zu verstehen, Argumente zu liefern und sogar zu Überzeugungsarbeit zu leisten. Und wenn wir noch weiter in die Zukunft blicken, könnten KI-Bots, die darauf trainiert sind, komplexe Steuergesetze und Anlageinstrumente zu verstehen, eingesetzt werden, um selbst die anspruchsvollsten Opfer zu betrügen.

Quelle: Proofpoint

Bildgenerierungsmodelle, die in der Lage sind, einzigartige Fotos von echt aussehenden Personen zu erstellen, könnten in Kombination mit Tools wie ChatGPT bald dazu führen, dass Cyberkriminelle KI als vollwertigen kriminellen Komplizen für Konversationsbetrug einsetzen, der ihnen alles an die Hand gibt, was sie brauchen, um ihre Opfer zu umgarnen und zu betrügen. Und mit den Fortschritten in der Deepfake-Technologie, bei der KI zur Synthese von Audio- und Videoinhalten eingesetzt wird, könnte sich das Pig Butchering eines Tages vom Messaging auf das Telefon verlagern, was die Überzeugungskraft dieser Technik noch verstärken würde.

www.proofpoint.com