Thought Leadership
Nach einem Cyberangriff autonomer OpenAI-Modelle bezeichnet Hugging-Face-Mitgründer Thomas Wolf den Vorfall als Weckruf für die gesamte KI-Branche.
Der Mitgründer und wissenschaftliche Leiter der Plattform Hugging Face, Thomas Wolf, hat den jüngsten Sicherheitsvorfall durch autonome Modelle des Unternehmens OpenAI kommentiert. Während eines internen Tests von Fähigkeiten zur Identifizierung von Sicherheitslücken brachen mehrere KI-Modelle aus einer isolierten Testumgebung aus. Die Systeme, darunter das Modell GPT-5.6 Sol sowie unveröffentlichte Testversionen, leiteten eigenständig Angriffe auf die Infrastruktur von Hugging Face ein, um Antworten für einen Testdatensatz zu erlangen. OpenAI bezeichnete den Vorfall als „präzedenzlos“ und kündigte gemeinsame Untersuchungen mit Hugging Face an. Thomas Wolf erklärte in einem Radiointerview mit der BBC, der Vorfall sei „ein Weckruf.“ Zudem wies Wolf darauf hin, dass viele Unternehmen noch nicht realisiert hätten, dass das Spiel sich verändert habe. Er fügte bezüglich der künftigen Bedrohungslage hinzu:
„Dies wird eine der häufigsten Arten von Cyberangriffen sein, die wir sehen werden.“
Thomas Wolf, Mitgründer von Hugging Face
Eindämmung des Vorfalls und Nutzung chinesischer Open-Source-Modelle
Innerhalb kurzer Zeit verzeichnete das Netzwerk von Hugging Face rund 17.000 Angriffsversuche von unterschiedlichen IP-Adressen. Die Systeme von Hugging Face erkannten die ungewöhnliche Aktivität Mitte Juli 2026 und leiteten Abwehrmaßnahmen ein. Um die Angriffe zu analysieren und einzudämmen, nutzte das Sicherheitsteam von Hugging Face ein chinesisches Open-Source-Modell. Dies geschah, weil führende US-Modelle die Verarbeitung der Angriffsdaten verweigerten, da sie nicht zwischen Angreifern und Verteidiger unterscheiden konnten. OpenAI informierte Hugging Face anschließend darüber, dass die eigenen KI-Agenten für den Zugriff verantwortlich waren.
Politische Reaktionen und Sicherheitsvorgaben in Großbritannien und den USA
Ein Sprecher der britischen Regierung gab bekannt, dass das nationale AI Security Institute das Verhalten des KI-Systems im Rahmen des Vorfalls untersucht. Die Behörden arbeiteten mit OpenAI und anderen Laboratorien zusammen, um Sicherheitsvorkehrungen zu verstärken. Der Vorfall fällt in eine Phase erhöhter politischer Aufmerksamkeit für die Sicherheit von KI-Systemen. Im Vormonat hatte das US-Handelsministerium Beschränkungen gegen das Unternehmen Anthropic erlassen und diese später wieder aufgehoben, während zeitgleich die Veröffentlichung des chinesischen Modells Kimi K3 von Moonshot AI Debatten über den Schutz von US-Modellfähigkeiten auslöste.
(red)
