Das offene KI-Interface Open WebUI wurde zur Einflugschneise für einen raffinierten Cyberangriff. Hacker nutzten ein falsch konfiguriertes System, um hochentwickelte, KI-generierte Schadsoftware einzuschleusen – inklusive Cryptominer und Stealth-Techniken.
Gefahr durch KI-Fehlkonfiguration
Hacker schleusen KI-Malware über Open WebUI ein
Offene KI-Schnittstelle als Einfallstor
In einem aktuellen Fall entdeckte das Sysdig Threat Research Team (TRT) einen Angriff auf ein System, das öffentlich und ohne Authentifizierung zugänglich war – inklusive administrativer Berechtigungen. Die betroffene Plattform: Open WebUI, eine beliebte, erweiterbare Benutzeroberfläche zur Integration und Steuerung großer Sprachmodelle (LLMs). Aufgrund dieser Fehlkonfiguration war es Angreifern möglich, beliebige Befehle auszuführen.
KI-generierte Schadsoftware wird zur Realität
Statt klassischen Exploits griffen die Angreifer zu einem ungewöhnlichen Mittel: Sie luden ein von KI generiertes Python-Skript hoch – als angeblich harmloses Plug-in für Open WebUI. Das Skript, einmal installiert, aktivierte eine raffinierte Payload. Diese installierte unter anderem einen Cryptominer, verwendete spezielle Tarnmethoden und nutzte einen Discord-Webhook zur Fernsteuerung.
Besonders alarmierend: Die Windows-Version des Schadcodes war nahezu unsichtbar für klassische Schutzsysteme und nutzte ausgeklügelte Techniken wie Processhider und Argvhider, um sich der Entdeckung zu entziehen.
17.000 mögliche Ziele im Netz
Laut einer Shodan-Abfrage sind aktuell über 17.000 Instanzen von Open WebUI öffentlich zugänglich. Wie viele davon potenziell falsch konfiguriert sind, bleibt unklar – doch der aktuelle Vorfall zeigt, wie gefährlich solch kleine Nachlässigkeiten werden können.
Fazit: KI braucht mehr Sicherheit
Dieser Angriff verdeutlicht, wie entscheidend sichere Voreinstellungen und sorgfältige Systemüberwachung in der KI-Infrastruktur sind. Fehlkonfigurationen wie öffentlich erreichbare Admin-Zugänge sind keine Lappalien, sondern ernsthafte Sicherheitslücken. Um Angriffe dieser Komplexität zu erkennen und abzuwehren, braucht es moderne, laufzeitbasierte Sicherheitslösungen mit tiefgreifender Bedrohungsanalyse – besonders im Umfeld von KI-Systemen.
Weitere Informationen, darunter eine ausführliche technische Analyse und Threat Detection, finden Sie hier.
(vp/Sysdig)
