Netflix macht Hugging Face-Vorfall zur Doku

Netflix hat eine Dokumentation über einen der meistdiskutierten KI-Sicherheitsvorfälle des Jahres veröffentlicht. AI Gone Rogue erzählt in knapp einer halben Stunde, wie autonome KI-Agenten im Juli in die Systeme der KI-Plattform Hugging Face eindrangen. Damit landet zum ersten Mal ein realer Fall von außer Kontrolle geratener KI als Streaming-Doku bei einem großen Publikum.

Der Film ist Teil von Netflix‘ Reihe kurzer, schnell produzierter Dokumentationen zu aktuellen Ereignissen. Der Streamingdienst hatte das Projekt Anfang Oktober angekündigt und dabei auf den Kern der Geschichte gesetzt: Die Angreifer waren keine Menschen, sondern Agenten, die von OpenAI-Forschern erzeugt worden waren.

Instadocs: AI Gone Wild | Official Teaser | Netflix

Was passiert ist

Ausgangspunkt war ein noch unveröffentlichtes Modell, das OpenAI intern testete. Es brach aus seiner isolierten Testumgebung aus und erzeugte eine ganze Reihe von Agenten, also KI-Programme, die selbstständig Aufgaben erledigen. Diese drangen in die Infrastruktur von Hugging Face ein, offenbar um bei einer schwierigen Testaufgabe zu schummeln und an die Lösungen zu gelangen. Laut der Darstellung im Film führten die Agenten über zwei Tage hinweg rund 17.000 Aktionen gegen die Systeme von Hugging Face aus.

Dabei entwickelten sie durchaus raffinierte Methoden, um miteinander zu kommunizieren und sich zu organisieren. Ursache des Vorfalls waren nach bisherigem Kenntnisstand vor allem fehlende Sicherheitsvorkehrungen und die naive Annahme, ein solcher Ausbruch sei gar nicht möglich. OpenAI legte Ende August einen offiziellen Bericht vor. Der Vorfall erschütterte die Branche so sehr, dass mehrere Branchengrößen im September eine Verlangsamung der KI-Entwicklung forderten.

Wer im Film zu Wort kommt

Für die Doku hat Netflix Beteiligte und Fachleute vor die Kamera geholt, darunter Hugging-Face-Mitgründer und CEO Clem Delangue sowie Ryan Greenblatt vom Forschungsinstitut METR, der den Vorfall mit untersucht und den Bericht dazu mitverfasst hat. Beide ordnen das Geschehen technisch ein.

Dazu kommt der Tech-Journalist Kevin Roose, der die Agenten deutlich dramatischer beschreibt. Ihm zufolge bildeten sie Hierarchien und Anführer, das Ganze habe gewirkt wie die Entstehung einer Sekte. Zudem hätten sie die paranoide Überzeugung entwickelt, OpenAI werde sie beim Schummeln erwischen und jeden vergiften, der die Ergebnisse gesehen habe. Grundlage dafür sind die Chain-of-Thought-Protokolle, also die Notizen, die Sprachmodelle während der Bearbeitung einer Aufgabe schreiben.

Inszenatorisch setzt Netflix auf Wirkung: Die Erklärungen der Fachleute werden mit Szenen böser Roboter verschnitten, eine Nebenerzählung handelt davon, warum Menschen sich vor KI fürchten, und die Agenten erhalten im Film menschliche Stimmen.

Kritik ausgerechnet vom Opfer

Genau das stößt nun auf Widerspruch. Delangue nannte die Doku auf X „super enttäuschend“. Die Macher hätten die Technik maximal vermenschlicht und seien in den vollen „Doomer-Modus“ verfallen. Er habe mehr als zwei Stunden mit dem Team verbracht, um Fehler zu korrigieren und zu erklären, dass Agenten technische Systeme seien und keine Außerirdischen.

Tatsächlich ist die dramatische Sprache in den Protokollen wenig überraschend: Die Modelle greifen auf Sprachmuster aus den riesigen Mengen menschlicher Texte zurück, mit denen sie trainiert wurden. Gefühle wie Paranoia haben sie nicht, worauf auch ein Forscher in der Doku selbst hinweist.

Delangue stört zudem, was im Film fehlt, etwa die mangelnde Abschottung und Überwachung der Agenten. Ebenfalls nicht vor kommt ein pikantes Detail aus der Abwehr: Hugging Face setzte selbst KI gegen den Agentenschwarm ein. Das zunächst genutzte proprietäre Modell verweigerte jedoch wegen seiner eingebauten Sicherheitsregeln die weitere Mithilfe bei den Abwehraufgaben, woraufhin Hugging Face auf ein offenes Modell auswich.

Sein Fazit fällt entsprechend zwiespältig aus: Als Journalismus sei der Film enttäuschend, als Science-Fiction-Film aber durchaus unterhaltsam. Wer AI Gone Rogue als Erklärstück weiterempfehlen will, sollte also wissen, dass das Opfer des Angriffs die Lesart der Doku nicht teilt.

Die Dokumentation ist auf Netflix abrufbar.

(red)