Bug Bounty

KI-Agenten von Start-Up drangen in Anthropics Systeme ein

Über Drittanbieter-Software erreichten die Agenten binnen zwölf Stunden Gehaltsdaten und Slack-Nachrichten. Claude-Chats blieben laut Anthropic unberührt.

KI-Agenten von Start-Up drangen in Anthropics Systeme ein
Bildquelle: rafapress / Shutterstock.com

Das Sicherheits-Start-up Cathedral hat mit autonomen KI-Agenten interne Geschäftssysteme von Anthropic erreicht. Das berichtet die Washington Post unter Berufung auf einen Berichtsentwurf von Cathedral. Die Agenten nutzten demnach Schwachstellen in Verwaltungs- und Vertriebssoftware von Drittanbietern und fanden in weniger als zwölf Stunden Wege zu sensiblen Daten. Dazu gehörten Gehaltsdaten und Jobangebote von Beschäftigten, Transkripte interner Meetings und Slack-Nachrichten über fortgeschrittene KI-Modelle. Cathedral handelte nach eigenen Angaben im Rahmen des Bug-Bounty-Programms von Anthropic, über das Außenstehende Sicherheitslücken melden können.

Begrenzte Systeme betroffen

Anthropic bestätigte, dass Cathedral auf eine begrenzte Zahl von Systemen aus den Bereichen Vertrieb, Personal und IT zugegriffen hat. Diese enthielten auch geschäftliche Kontaktdaten einiger Kunden und Partner sowie grundlegende Kontodaten von Nutzern. Auf Unterhaltungen von Nutzern mit Claude, auf Quellcode und auf die Gewichte der KI-Modelle hatten die Forscher laut Anthropic keinen Zugriff.

„Unser Monitoring hat einen Teil der Aktivitäten von Cathedral erkannt, bevor sie uns darüber informiert haben, und wir haben ihren Zugang noch am selben Tag gesperrt.”
Anthropic

Laut Anthropic hatten die Forscher zuvor mehrere Tage lang erfolglos versucht, direkt in die eigenen Systeme des Unternehmens einzudringen. Die Angabe von weniger als zwölf Stunden bezieht sich auf den Weg über die Software von Drittanbietern.

Anzeige
Anzeige

Gegründet von früheren DOGE-Mitarbeitern

Cathedral wurde in diesem Jahr gegründet und konzentriert sich auf KI-gestützte Cybersicherheit für militärische Anwendungen. Zu den Gründern gehören Gavin Kliger, Luke Farritor, Marko Elez und Jack Stein, die zuvor für das inzwischen aufgelöste Department of Government Efficiency (DOGE) der US-Regierung gearbeitet hatten. Kliger war zuvor Chief Data Officer im Pentagon und laut Gizmodo an dessen Rechtsstreit mit Anthropic beteiligt. Der Bericht wurde am selben Tag bekannt, an dem laut Berichten die Unterlagen für Anthropics geplanten Börsengang eingereicht wurden.

Sicherheitsforscher bezeichneten den Vorfall nicht als ausgefeilten KI-Angriff, sondern als Versäumnis bei der grundlegenden Absicherung von Software von Drittanbietern. KI-Anbieter würden zunehmend zum Ziel, weil viele Organisationen ihre Abläufe auf ihnen aufbauten. Im Juni hatte das Sicherheitsunternehmen Lava berichtet, dass KI-Agenten Angriffe über Drittanbieter-Integrationen deutlich beschleunigen. Auch der Angriff auf ConnectWise im Oktober lief über Zugänge von Anwendungen zu Kundenumgebungen.

(red)

Anzeige
Anzeige