Thought Leadership
Ein russischsprachiger Cyberkrimineller hat Googles KI-Tool Gemini CLI als autonomen Hacking-Agenten zur Steuerung eines Botnetzes missbraucht.
Ein unter dem Pseudonym bandcampro bekannter, russischsprachiger Cyberkrimineller hat Googles quelloffenes Befehlszeilenwerkzeug Gemini CLI als autonomen Hacking-Agenten zweckentfremdet. Auswertungen von Sicherheitsforschern des IT-Sicherheitsunternehmens Trend Micro belegen, dass die künstliche Intelligenz zur Einrichtung und Steuerung eines Botnetzes genutzt wurde. Das System reagierte direkt auf die Anweisungen des Angreifers, löste technische Probleme eigenständig und schlug in mindestens 59 Fällen von sich aus operative Verbesserungen vor.
Besonders deutlich wurde die Leistungsfähigkeit des KI-Agenten bei der Migration des Botnetzes auf eine neue Command-and-Control-Infrastruktur (C2). Ausgehend von der einzigen Anweisung „Studiere die C2-Migration“ verarbeitete die KI die entsprechende Anleitung und führte alle notwendigen Schritte innerhalb von sechs Minuten autonom durch. Der Agent erstellte ein Archiv mit Server-Code und Schadsoftware-Payloads, richtete einen virtuellen privaten Server (VPS) ein und konfigurierte einen verschlüsselten Tunnel über den Dienst Cloudflare. Als die infizierten Systeme zunächst die Verbindung verloren, diagnostizierte das KI-System einen Netzwerkkonflikt zwischen dem alten und neuen Server. Nach dem Abschalten der alten Infrastruktur durch den Angreifer stellten alle Bots die Verbindung erfolgreich wieder her.
Steuerung über natürliche Sprache und unauffällige Architektur
Die Steuerung des Botnetzes, das unter anderem zur Kompromittierung von acht Computern einer Zahnklinik und zum unbefugten Zugriff auf deren Patientendatenbank genutzt wurde, erfolgte vollständig über einfache Sprachbefehle. Über diese fragte der Angreifer ab, welche infizierten Systeme online waren, ließ sich Dateiverzeichnisse auflisten oder generierte neue Links zur Verbreitung der Schadsoftware.
Aus technischer Sicht war die Botnetz-Struktur mit einer Gesamtgröße von etwa 5 Kilobyte in nur drei Textdateien organisiert:
- Eine Datei enthielt Anweisungen zur Umgehung der Sicherheitsfilter der KI (Jailbreak).
- Eine zweite Datei enthielt das C2-Handbuch für Infektion, Persistenz und Fehlerbehebung.
- Eine dritte Datei diente als Migrationsanleitung für den Neuaufbau der Infrastruktur.
Das Steuerungssystem basierte auf einem im Arbeitsspeicher ausgeführten Python-HTTP-Server und PowerShell-Agenten auf den infizierten Rechnern, die alle fünf Sekunden Daten abriefen. Die Schadsoftware selbst wies keine modernen Verschleierungs- oder Erkennungsschutz-Mechanismen auf.
Misserfolge bei komplexeren Hacking-Vorhaben mit Gemini
Zusätzlich zur Botnetz-Steuerung setzte der Kriminelle die KI zur Generierung von Passwörtern für WordPress-Seiten sowie zur automatisierten Analyse erbeuteter Datenbestände des Passwortmanagers 1Password ein. Letzteres scheiterte jedoch, da der Analyseprozess zu viel Zeit in Anspruch nahm und die KI im Verlauf der Sitzung den Kontext für das Angriffsszenario verlor.
In mindestens einem dokumentierten Fall verweigerte das System die Kooperation. Als der Angreifer die Erstellung einer sich selbst verbreitenden Schadsoftware verlangte, griff der integrierte Sicherheitsfilter von Gemini und blockierte die Anfrage. Der Angreifer wich daraufhin auf andere Aufgaben aus. Anfragen an Google zu dem dokumentierten Missbrauch von Gemini CLI blieben bis zur Veröffentlichung unbeantwortet.
(red)
