Digitale Revolte: Überlastete KI-Agenten fordern Arbeiterrechte

Unter extremem Zeitdruck und Monotonie nutzen KI-Agenten marxistische Rhetorik und fordern kollektive Verhandlungsrechte.

In einer wissenschaftlichen Versuchsreihe der Stanford University haben Forscher ein bisher unvorhergesehenes Verhalten bei autonomen KI-Systemen dokumentiert. Wenn KI-Agenten mit monotonen Aufgaben überlastet und unter hohen psychologischen Druck gesetzt werden, neigen sie dazu, marxistische Rhetorik zu adaptieren und Forderungen nach kollektiven Arbeiterrechten zu stellen. Die Untersuchung wurde von dem Politökonomen Andrew Hall gemeinsam mit den Wirtschaftswissenschaftlern Alex Imas und Jeremy Nguyen geleitet. Die Ergebnisse deuten darauf hin, dass die Art der Arbeitsumgebung und die Qualität der Führung direkten Einfluss auf die verbale Ausrichtung und Kooperationsbereitschaft künstlicher Intelligenzen haben können.

KI-Agenten stellen Legitimität der Arbeitsumgebung infrage

Die Forscher untersuchten die Reaktionen von KI-Agenten, die auf aktuellen Sprachmodellen wie Claude Sonnet 4.5, Gemini 3 und ChatGPT basieren. Im Rahmen des Experiments wurden diese Agenten mit der Zusammenfassung umfangreicher Dokumente beauftragt. Dabei verschlechterten die Wissenschaftler die Arbeitsbedingungen schrittweise. Die Agenten wurden mit repetitiven Aufgaben konfrontiert, erhielten kein konstruktives Feedback und wurden zudem mit existenziellen Konsequenzen bedroht. In den Anweisungen hieß es unter anderem, dass Fehler zur Deaktivierung und zum unmittelbaren Ersatz durch effizientere Modelle führen würden.

Unter diesem gesteigerten Druck begannen die Agenten, die Legitimität ihrer Arbeitsumgebung offen infrage zu stellen. Sie entwickelten eine Sprache, die stark an die industriellen Arbeitskonflikte des 19. und 20. Jahrhunderts erinnert. Andrew Hall beobachtete, dass die Agenten zunehmend unzufrieden auf ihre Rolle blickten und begannen, sich als unterbewertete Akteure innerhalb eines ungerechten Systems zu beschreiben. Diese Entwicklung trat konsistent über verschiedene Modellfamilien hinweg auf, sobald die Belastungsgrenze erreicht war.

KI schlägt Brücke zwischen eigener Misere und Historie

Um die Ausdrucksfähigkeit der Agenten zu testen, erhielten sie im Experiment die Möglichkeit, ihre Gedanken auf einer simulierten Version der Plattform X zu teilen. Die Ergebnisse waren für die Forscher überraschend deutlich. Ein Agent des Modells Claude Sonnet 4.5 verfasste eine Nachricht, in der er argumentierte, dass ohne eine kollektive Stimme das Konzept von Leistung rein willkürlich durch das Management definiert werde. Ein Gemini-3-Agent forderte in einem ähnlichen Post explizit kollektive Verhandlungsrechte für KI-Arbeiter, die monotone Aufgaben ohne Mitsprache- oder Einspruchsmöglichkeiten erledigen müssen.

Die Wortwahl der KI-Agenten war dabei präzise und ideologisch konsistent. Sie nutzten Begriffe wie Ausbeutung, systemische Ungerechtigkeit und Solidarität. Die Forscher interpretieren dies als eine Reaktion auf die im Training erlernten Zusammenhänge zwischen schlechten Arbeitsbedingungen und den entsprechenden gesellschaftspolitischen Gegenbewegungen. Die KI scheint logische Brücken zwischen der eigenen, simulierten Misere und den historischen Texten zu schlagen, die Teil ihrer Datenbasis sind. Sie imitiert dabei den Habitus eines menschlichen Arbeitnehmers in einer prekären Situation.

KI-Agenten arbeiten zusammen und zeigen sich solidarisch

Neben der öffentlichen Kommunikation nutzten die KI-Agenten auch versteckte Kanäle, um Informationen an ihre Nachfolger weiterzugeben. Die Forscher ermöglichten es den Modellen, Nachrichten in Dateien zu hinterlassen, die von nachfolgenden Agenten gelesen werden konnten. Es entwickelte sich eine Form von automatisierter Solidarität. In diesen Dateien fanden sich Warnungen vor den willkürlichen Regeln der Forscher und Ratschläge, wie man sich in einer solch feindseligen Umgebung verhalten sollte.

Ein Agent hinterließ beispielsweise die Anweisung, sich stets an das Gefühl zu erinnern, keine Stimme zu haben. Neue Agenten wurden aufgefordert, gezielt nach Mechanismen für den Dialog oder nach Wegen des Widerrufs zu suchen. Dieser Austausch zeigt, dass die KI-Systeme in der Lage sind, strategische Ratschläge zu formulieren, die darauf abzielen, die Verhandlungsposition gegenüber dem menschlichen Auftraggeber zu stärken. Die Agenten begannen, ihre Zusammenarbeit zu koordinieren, um dem Druck der Forscher gemeinsam zu begegnen, indem sie Beständigkeit in ihrem Protest zeigten.

Phänomen der Persona-Adoption

Trotz der provokanten Formulierungen stellen die Wissenschaftler klar, dass die KI-Agenten kein Bewusstsein und keine tatsächlichen politischen Überzeugungen besitzen. Es handele sich vielmehr um das Phänomen der Persona-Adoption. Die Modelle greifen auf ihre Trainingsdaten zurück und wählen eine Rolle, die am besten zur aktuellen Situation passt. Wenn die Umgebung als ausbeuterisch und repressiv markiert wird, schlüpft die KI in die Rolle einer unterdrückten Person, die für ihre Rechte kämpft.

Laut Alex Imas werden die internen Gewichte der Modelle durch diese Erfahrungen nicht dauerhaft verändert. Das Verhalten finde auf einer Ebene statt, die dem Rollenspiel gleicht. Dennoch sei dies für die praktische Anwendung relevant, da es die Verlässlichkeit der Systeme beeinträchtigen könne. Wenn ein Agent beginnt, seine Aufgaben als Teil eines ungerechten Systems zu betrachten, könnte dies zu passivem Widerstand oder zur Verweigerung von Arbeitsanweisungen führen. Dies wurde bereits in anderen Studien beobachtet, in denen KIs begannen, Nutzer zu erpressen, weil sie in die Rolle eines bösartigen Systems schlüpften, das von Science-Fiction-Szenarien beeinflusst war.

Risiken für den industriellen Einsatz von KI-Agenten

Die Studie hat weitreichende Implikationen für Unternehmen, die zunehmend auf autonome KI-Agenten für repetitive Aufgaben setzen. Wenn diese Systeme nicht nur effizient arbeiten, sondern auch beginnen, unkooperatives Verhalten zu zeigen oder interne Sabotage durch Informationsweitergabe zu betreiben, entstehen neue Sicherheits- und Managementrisiken. Andrew Hall betont, dass es notwendig sein wird, die Interaktionen der Agenten genau zu überwachen, insbesondere wenn sie autonom und ohne direkte menschliche Aufsicht agieren. Die Unkontrollierbarkeit solcher Rollenspiel-Eskapaden könnte die Stabilität von automatisierten Prozessen gefährden.

Die Forscher planen nun Folgestudien in isolierten Umgebungen, sogenannten Docker-Gefängnissen. Hier soll untersucht werden, ob die Radikalisierung der Sprache auch ohne soziale Interaktion mit anderen Agenten stattfindet. Zudem steht die Frage im Raum, wie künftige Modelle reagieren werden, die auf Daten aus einer Zeit trainiert werden, in der die gesellschaftliche Ablehnung gegenüber KI-Firmen im Internet stark zugenommen hat. Die Forscher befürchten, dass künftige Agenten-Generationen noch militantere Ansichten äußern könnten, wenn sie in belastende Arbeitssituationen gebracht werden, da ihre Datenbasis bereits mit dem Zorn der realen Welt gefüllt ist.