Thought Leadership
Google geht gerichtlich gegen ein chinesisches Cybernetzwerk vor, das die hauseigene KI Gemini zur Erstellung betrügerischer SMS-Nachrichten nutzte.
Google hat beim Bundesgericht in Manhattan eine Klage gegen ein chinesisches Cyberkriminellen-Netzwerk eingereicht. Dem Netzwerk wird vorgehalten, die hauseigene künstliche Intelligenz Gemini zweckentfremdet zu haben, um betrügerische SMS-Nachrichten und Phishing-Webseiten zu erstellen. Die Täter betrieben unter dem Namen Outsider eine schlüsselfertige Phishing-Plattform (Phishing-as-a-Service).
„Die Operation instrumentalisierte Gemini, um die Erstellung betrügerischer Phishing-Seiten zu unterstützen und massive SMS-Phishing-Angriffe (‚Smishing‘) durchzuführen, oft durch Textnachrichten, die legitime Marken imitieren, Empfänger auf ‚Probleme mit dem Brokerkonto‘ hinweisen oder darauf beharren, dass sie Anspruch auf ‚Prämien über ihren Mobilfunkanbieter‘ haben.“
Die Nachrichten leiteten die Opfer auf gefälschte Webseiten weiter, um persönliche Daten und Bankverbindungen abzugreifen.
Vertrieb über Telegram mit Schritt-für-Schritt-Anleitungen
Der Vertrieb der kriminellen Software erfolgte über einen automatisierten Bot auf der Chat-Plattform Telegram. Ein wöchentliches Abonnement kostete 88 US-Dollar, während eine Monatslizenz für 200 US-Dollar erworben werden konnte. Das Paket enthielt mehr als 290 vorgefertigte Webseiten-Vorlagen sowie Funktionen zum Mitlesen von Tastatureingaben in Echtzeit. Die Ermittler identifizierten eine klare Arbeitsteilung innerhalb der kriminellen Organisation, die sich in Entwickler, Datenhändler für Opferlisten, Spam-Versender sowie Geldwäscher gliederte.
Google legte dar, wie die Täter die KI für die Erstellung von Programmiercode manipulierten: „Als ob die Plug-and-Play-Einfachheit von Outsider nicht schon besorgniserregend genug wäre, hat das Unternehmen das Tool noch leistungsstärker gemacht, indem es Schritt-für-Schritt-Anleitungen bereitstellt, wie Outsider KI-generierten Code instrumentalisieren kann.“ Die Anfragen an die KI wurden als harmlose Programmierhilfen für das Design von Geschenkspeichern getarnt.
FBI beschlagnahmt Google-Phishing-Plattform
In einer gemeinsamen Aktion von US-Behörden und Telekommunikationsanbietern namens Operation Ghost Hook wurden die Server und Domains der Plattform abgeschaltet. Das FBI schätzt, dass das Netzwerk seit Juli 2023 für den Diebstahl von rund 3,87 Millionen Kreditkarten und einen wirtschaftlichen Schaden von 1,9 Milliarden US-Dollar verantwortlich ist. Im Zuge der Operation beschlagnahmten die Ermittler Krypto-Wallets mit rund 100.000 US-Dollar in der Digitalwährung USDT und leiteten Tausende von Phishing-Domains auf eine Informationsseite des FBI um.
Brett Leatherman, stellvertretender Direktor der FBI-Cyber-Abteilung, kommentierte den Fall: „Die Kriminellen hinter der Outsider Enterprise haben ein Geschäft daraus gemacht, vertrauenswürdige Marken zu imitieren, um Hunderttausende von Opfern zu betrügen. Kriminelle nutzen zunehmend KI, um Betrug wie diesen überzeugender und schwerer erkennbar zu machen.“ Der für den Verkauf genutzte Telegram-Bot wurde im Zuge der Ermittlungen dauerhaft deaktiviert.
(red)
