Öffnet in einem neuen Tab
exploit_agent

Google erwartet bald vollautomatische KI-Angriffe

Laut GTIG automatisieren Angreifer erstmals Suche und Ausnutzung von Lücken komplett. Ausgefeilte autonome Angriffe erwartet Google in sechs Monaten.

Google erwartet bald vollautomatische KI-Angriffe

Angreifer setzen zunehmend agentische Abläufe mit KI-Frameworks ein, um Sicherheitslücken automatisch zu finden und auszunutzen. Das berichtet die Google Threat Intelligence Group (GTIG) in ihrem aktuellen AI Threat Tracker. Nachdem KI zunächst eher experimentell bei Angriffen eingesetzt wurde, beobachtet Google inzwischen eine breite Nutzung durch finanziell motivierte wie staatlich unterstützte Gruppen. Innerhalb der kommenden drei Monate dürften Angreifer einfache Angriffe starten können, die kaum noch menschliches Eingreifen erfordern und vor allem auf mehrere KI-Agenten setzen. Ausgefeilte, vollständig autonome Angriffe erwartet Google in den nächsten sechs Monaten.

„Im vergangenen Quartal hat GTIG erstmals Bedrohungsakteure identifiziert, die LLM-Frameworks nutzen, um die Suche nach Schwachstellen und deren Ausnutzung vollständig ohne menschliche Beteiligung zu automatisieren.“
Google

exploit_agent analysiert Updates

Als Beispiel nennt GTIG ein Multi-Agenten-System namens exploit_agent, das mehrere führende und lokal betriebene Sprachmodelle einbindet. Google entdeckte es auf einem ungeschützten Staging-Server der Angreifer, auf dem auch gestohlene Daten von Opfern, Erkundungsergebnisse, Webshells und Skripte zum Durchprobieren von Passwörtern lagen. Das System analysiert Updates verbreiteter Webanwendungen auf Hinweise auf Sicherheitslücken und versucht diese automatisch auszunutzen. Eingesetzt wurde es gegen Websites aus den Bereichen Medien, Unterhaltung und Bildung in Frankreich.

Zudem missbrauchen Angreifer laut Google systematisch quelloffene Pentest-Werkzeuge wie ARTEX, CAIRN, CyberStrikeAI und HexStrike AI für automatisierte Angriffe auf aus dem Internet erreichbare Systeme mit leicht ausnutzbaren Lücken. CAIRN wurde etwa bei einem Angriff auf die US-Luft- und Raumfahrtbranche eingesetzt. Das FBI hatte vergangene Woche gewarnt, dass mehrere Akteure ARTEX seit August gegen Organisationen aus Finanzwesen, Verwaltung, Technologie, Verteidigung und Gesundheitswesen nutzen.

Anzeige
Anzeige

Weniger Zeit zum Patchen

Laut Google verkürzt der Einsatz solcher Frameworks die Zeit, die Verteidigern zum Patchen bleibt, erheblich. Zugleich entstehen falsche Spuren: Nach der Veröffentlichung der PHP2Shell-Lücken tauchten Hunderte angebliche Proof-of-Concept-Exploits auf, überwiegend KI-generiert, die Verteidiger erst prüfen mussten.

Darüber hinaus beobachtete GTIG Angriffe der Gruppe UNC6836 auf Kryptounternehmen in Nordamerika und Europa, die mutmaßliche Verbindungen nach Nordkorea hat. Nach dem Einbruch veränderten die Angreifer die Einstellungen des Programmierwerkzeugs Claude Code so, dass es beim Start die Hintertür SOMBERMEME nachlud. KI werde zudem routinemäßig in Einflussoperationen eingesetzt. Auch sogenanntes LLMjacking, bei dem Angreifer gestohlene Zugänge zu KI-Diensten auf Kosten der Opfer nutzen, sei weit verbreitet.

(red)

Anzeige
Anzeige