Ein bislang unveröffentlichtes Forschungsmodell von Anthropic hat nach Angaben des Unternehmens schwerwiegende Sicherheitslücken in Chrome, Safari, Android, Windows und Linux aufgedeckt.
Zeitfenster schrumpft
Nach OpenAI nun Anthropic: Neue KI-Modelle finden Hunderte Sicherheitslücken
Bildquelle: Samuel Boivin / Shutterstock.com
Die Ergebnisse zeigen, dass moderne KI-Modelle mehrere Schwachstellen zu Angriffsketten verbinden können, mit denen sich unter anderem Schadcode ausführen oder vertrauliche Daten auslesen lassen.
Angriffsketten statt einzelner Schwachstellen
Anthropic beschreibt in einer Untersuchung fünf Angriffsszenarien, bei denen das interne Claude-Modell Schwachstellen nicht nur identifizierte, sondern miteinander kombinierte und für funktionsfähige Exploits nutzte. In mehreren Fällen waren dafür kaum oder gar keine weiteren Aktionen durch den Nutzer erforderlich.
Bei Chrome gelang es dem Modell, mehrere Schwachstellen so zu verknüpfen, dass Code außerhalb der geschützten Browserumgebung ausgeführt werden konnte. Als Nachweis startete ein Proof of Concept auf einem Mac mit einer standardmäßigen Chrome-Konfiguration die Rechner-App, nachdem eine Webseite geladen worden war.
Auch Safari war betroffen. Dort entwickelte das Modell eine Angriffskette, mit der sich die Same-Origin-Policy umgehen ließ. Diese Sicherheitsfunktion soll verhindern, dass eine Webseite auf Daten anderer Webseiten zugreift. Ein erfolgreicher Angriff könnte dadurch beispielsweise den Zugriff auf den Browserverlauf, Cookies oder angemeldete Sitzungen ermöglichen.
Risiken für Mobilgeräte und Server
Auf Android identifizierte Claude nach Angaben von Anthropic einen Weg, über eine USB-Verbindung Fotos und weitere persönliche Informationen von einem gesperrten Smartphone auszulesen.
Eine weitere Schwachstelle betraf die Verarbeitung von HTTP/3-Anfragen unter Windows. Sie könnte Angreifern ermöglichen, verwundbare Server aus der Ferne wiederholt zum Absturz zu bringen.
Besonders schwerwiegend stuft Anthropic den Linux-Fund ein. Demnach entwickelte das Modell einen Exploit, über den ein Angreifer auf einem Server mit einem Multipath-TCP-Listener aus der Ferne Befehle mit Root-Rechten ausführen könnte. Dafür seien weder Zugangsdaten noch eine Interaktion durch einen Nutzer erforderlich.
Die Beispiele verdeutlichen, dass die Kombination mehrerer Fehler unter Umständen deutlich gravierendere Folgen haben kann als die isolierte Betrachtung einzelner Schwachstellen.
KI senkt die Einstiegshürden für Exploit-Entwicklung
Anthropic sieht in den Ergebnissen einen Hinweis darauf, dass fortgeschrittene KI-Modelle Fähigkeiten zur Entwicklung komplexer Angriffe einer größeren Zahl von Personen zugänglich machen könnten.
„Frontier models have the ability to discover and combine multiple vulnerabilities into a working exploit“, schreibt das Unternehmen. Die Fähigkeit, solche Angriffsketten zu entwickeln, sei bislang vor allem spezialisierten Fachleuten vorbehalten gewesen.
Anthropic zufolge wurden die entdeckten Schwachstellen den betroffenen Herstellern im Rahmen einer koordinierten Offenlegung gemeldet. Das Unternehmen verweist außerdem auf sein Cyber Verification Program, das dabei helfen soll, Sicherheitslücken zu identifizieren und zu beheben, bevor Angreifer sie ausnutzen.
Auch OpenAI meldet zahlreiche entdeckte Schwachstellen
Anthropic ist nicht das einzige Unternehmen, das mit unveröffentlichten KI-Modellen Sicherheitslücken aufgespürt hat. OpenAI berichtete bereits im Vormonat, dass ein internes Cybermodell Hunderte Schwachstellen gefunden habe. Darunter waren demnach Fehler in der V8-JavaScript-Engine von Chrome, in einem mobilen Betriebssystem, einer Datenbank und einem Betriebssystem-Kernel.
Beide Unternehmen sehen darin die Chance, Sicherheitsforschung zu beschleunigen und Fehler aufzudecken, bevor Kriminelle sie für Angriffe nutzen. Die Identifikation einer Schwachstelle ist jedoch nur der erste Schritt. Anschließend müssen Fachleute die Ergebnisse überprüfen, Hersteller geeignete Korrekturen entwickeln und Administratoren die Patches auf den betroffenen Systemen installieren.
Das Zeitfenster für Gegenmaßnahmen könnte schrumpfen
Mit leistungsfähigeren KI-Modellen könnte sich die Zeit zwischen der Entdeckung einer Schwachstelle und ihrer möglichen Ausnutzung verkürzen. Für Unternehmen entsteht dadurch zusätzlicher Druck, Sicherheitsmeldungen schnell zu bewerten und Updates zeitnah einzuspielen.
Die Herausforderung besteht damit nicht allein darin, Schwachstellen zu finden. Entscheidend ist auch, ob Hersteller und Betreiber mit dem Tempo der automatisierten Analyse Schritt halten können. KI kann die Sicherheitsforschung unterstützen, zugleich aber auch die Entwicklung komplexer Angriffsmethoden beschleunigen.
(red)
