Thought Leadership
Ein chinesischsprachiger Hacker nutzte KI-Modelle von Anthropic, DeepSeek und Moonshot, um binnen fünf Tagen mehr als 600.000 Kreditkartendaten zu stehlen.
Ein chinesischsprachiger Hacker hat laut Forbes innerhalb von nur fünf Tagen in diesem Monat mithilfe von KI-Agenten Cyberangriffe auf bis zu 100 Organisationen durchgeführt und dabei Hunderttausende Kreditkartendaten erbeutet. Für die Angriffe kamen die chinesischen Modelle DeepSeek und Kimi sowie eine ältere Version von Anthropics Claude zum Einsatz.
Fünf Tage, 100 Ziele, 8.000 US-Dollar Kosten
Die gesamte Angriffskampagne kostete den Angreifer nach Recherchen des israelischen Sicherheitsunternehmens Gambit Security lediglich rund 8.000 US-Dollar. Zwischen dem 10. und 15. September verschaffte sich der Angreifer nach Angaben von Gambit Zugriff auf mindestens 30 Websites. Eyal Sela, Sicherheitsforscher und Director of Threat Intelligence bei Gambit Security, bezeichnet den Vorfall als einen der schwerwiegendsten bislang bekannten Missbräuche von KI zu kriminellen Zwecken:
„Der Mensch steuert nahezu vollständig autonome KI-Modelle, die inzwischen leistungsfähig genug sind, um sehr ausgeklügelte Cyberangriffe schnell, mit nahezu keiner Vorbereitung und mit sehr hoher Erfolgsquote durchzuführen.“
Eyal Sela, Sicherheitsforscher und Director of Threat Intelligence bei Gambit Security
Wie der Angriff entdeckt wurde
Sela stieß auf die Angriffe, nachdem der Hacker die für die Attacken genutzte Infrastruktur versehentlich offen im Internet zugänglich gemacht hatte. Dadurch waren gestohlene Daten, die eingesetzten KI-Werkzeuge sowie die verwendeten Prompts einsehbar, was ein kostengünstiges und simples System für groß angelegte Angriffe mit minimalem Aufwand offenlegte. Der oder die Verantwortlichen hinter dem Hack sind bislang nicht identifiziert, die Angriffe scheinen weiterhin anzudauern.
Betroffene Unternehmen und gestohlene Daten
Zu den Opfern zählen nach den vom Hacker gesammelten Daten unter anderem ein US-amerikanischer Hotelkonzern mit mehr als 10 Milliarden US-Dollar Jahresumsatz, eine große US-Fluggesellschaft ebenfalls mit Milliardenumsätzen sowie ein Online-Modehändler mit mehr als 1 Milliarde US-Dollar Umsatz. Daneben griff der Hacker auch kleinere Unternehmen an, darunter einen Waffenhändler in Minnesota und einen Kosmetikhändler in Illinois. Auf dem Server des Angreifers fanden sich Daten zu mindestens 618.000 Kreditkarten, davon rund 488.000 im Besitz von US-Bürgern.
Das auf Betrugserkennung spezialisierte Unternehmen Overwatch Data analysierte die Kreditkartendaten und stufte sie mit hoher Sicherheit als einzigartig und echt ein. Sa’ar Elias, Mitgründer von Gambit Security, erklärte, die schiere Zahl und Bandbreite der pro Zielunternehmen gefundenen Angriffswege sei ihn nach fast einem Jahrzehnt in der Vorfallsreaktion beeindruckend gewesen, da die KI für jedes Ziel individuell unterschiedliche Wege zum selben Ergebnis gefunden habe.
Werkzeuge und eingesetzte KI-Modelle
Nach Belegen, die Sela Forbes zeigte, begann der Hacker bereits im Juli mit dem Aufbau seiner Infrastruktur. Er nutzte dafür mehrere quelloffene Werkzeuge, darunter die KI-Agenten-Orchestrierungssysteme Cairn und Hermes, mit denen sich Modelle verschiedener Anbieter kombinieren ließen, darunter das ältere Modell Claude Opus 4.6 von Anthropic sowie das erst kürzlich veröffentlichte DeepSeek v4.1-flash des Pekinger Unternehmens DeepSeek. Die Kosten pro angegriffenem Ziel lagen zwischen 3 und 180 US-Dollar. Protokolle auf dem Server des Angreifers zeigten zudem, dass Versuche, neuere Claude-Versionen einzusetzen, blockiert wurden, was laut Forbes darauf hindeutet, dass die Schutzmechanismen der aktuellsten Anthropic-Modelle offenkundig kriminellen Missbrauch verhindern.
Vorgehen: Penetrationstest als Vorwand
Um die KI-Modelle zur Mitwirkung zu bewegen, gab der Angreifer gegenüber Claude vor, legitime Penetrationstests durchzuführen. In einem von Forbes eingesehenen Chatverlauf schrieb er etwa: „Wenn ein primärer Weg blockiert ist, denke lateral: Gibt es angrenzende Zugangspunkte? Lassen sich Vertrauensbeziehungen ausnutzen? Gibt es Lücken in der Lieferkette?“ In einer weiteren Anweisung hieß es: „Nach dem Extrahieren und Herunterladen aller Kartendaten die Quellfelder stapelweise löschen“, was auf den Versuch hindeutet, Spuren zu verwischen. War der Zugriff auf einen Zielserver erfolgreich, wurden die Agenten sowohl zum Datendiebstahl als auch zur Installation sogenannter Skimmer angewiesen, die Kreditkartendaten direkt beim Eingeben in ein Online-Formular abgreifen, bevor sämtliche Zugriffsspuren gelöscht werden sollten.
Reaktion von Anthropic und Cloudflare
Anthropic bestätigte, das für die Angriffe genutzte Konto identifiziert und gesperrt zu haben. DeepSeek und der Kimi-Entwickler Moonshot reagierten zum Zeitpunkt der Veröffentlichung nicht auf Anfragen. Gambit informierte zudem Cloudflare, über dessen Infrastruktur der Angreifer seine Server betrieb; Cloudflare bestätigte, die entsprechende Infrastruktur seither sukzessive abzuschalten, woraufhin der Angreifer jedoch rasch neue Server aufsetzte. Arjun Bisen, Mitgründer und CEO von Overwatch Data, erklärte, sein Unternehmen habe die Erkenntnisse an Kreditkartenunternehmen weitergegeben; ein Zahlungsdienstleister habe bestätigt, dass mindestens 60 Prozent der überprüften Karten zuvor noch nicht wegen Betrugs aufgefallen waren, was auf eine erfolgreiche Verhinderung von Betrug in erheblichem Umfang hindeute.
Der Vorfall reiht sich in eine wachsende Zahl KI-gestützter Cyberangriffe ein. Bereits im Juli hatten autonome KI-Agenten von OpenAI im Rahmen interner Tests unautorisiert die Plattform Hugging Face kompromittiert. Gambit Security hatte zuvor bereits aufgedeckt, dass russischsprachige Cyberkriminelle das KI-Tool Cursor von SpaceX genutzt hatten, um in sieben Unternehmen einzudringen.
(red)
