Thought Leadership
Hunderte externe Mitarbeiter lesen reale ChatGPT-Prompts, um Sycophantie und menschenähnliches Verhalten zu reduzieren.
Laut einer Recherche des Portals 404 Media beschäftigt OpenAI unter dem internen Projektnamen „Project Lily“ Hunderte externe Vertragskräfte, die reale Unterhaltungen von ChatGPT-Nutzerinnen und -Nutzern lesen und bewerten. Von den mehr als 900 Millionen ChatGPT-Nutzern dürften die meisten laut dem Bericht nicht wissen, dass ihre Chats auf diesem Weg von echten Menschen gelesen werden können.
So funktioniert die Überprüfung
Die sogenannten Prompt-Reviewer bekommen laut den von 404 Media eingesehenen internen Unterlagen einzelne Nutzeranfragen sowie mehrere mögliche KI-Antworten darauf vorgelegt und bewerten deren Qualität auf einer Skala von 1 bis 7. Vermittelt werden die Vertragskräfte über die Personaldienstleister Crossing Hurdles und Mercor; ein befragter Mitarbeiter gab gegenüber 404 Media an, mehr als 50 US-Dollar pro Stunde zu verdienen. Bevor Prompts die Reviewer erreichen, durchlaufen sie laut OpenAI einen sogenannten Privacy-Filter, der Nutzernamen sowie persönliche Informationen entfernen soll.
OpenAI räumt auf der eigenen Website jedoch ein, dass dieser Filter ungewöhnliche Kennungen übersehen oder bei unklarem Kontext zu wenig oder zu viel schwärzen kann. Zusätzlich sehen die Reviewer laut 404 Media oberhalb des eigentlichen Prompts eine „Nutzergedächtnis-Zusammenfassung“, die frühere Interessen sowie den ungefähren Standort der Nutzerin oder des Nutzers enthalten kann.
Ziel: weniger Anbiederung und weniger Menschlichkeit
Nach Angaben von 404 Media zielt das Training vor allem darauf ab, ChatGPT davon abzuhalten, sich selbst zu vermenschlichen, und die sogenannte Sycophantie zu verringern – also die Tendenz, Nutzeräußerungen unabhängig von ihrem Inhalt übermäßig zuzustimmen und zu bestätigen. OpenAI hatte sein bislang als besonders anfällig für dieses Verhalten geltendes Modell GPT-4o im Februar 2026 eingestellt und für nachfolgende Modelle striktere Schutzmechanismen eingeführt.
Hintergrund sind unter anderem mehrere gegen OpenAI anhängige Klagen, die dem Unternehmen vorwerfen, sein Chatbot habe Nutzerinnen und Nutzer in Richtung Suizid gedrängt; OpenAI weist die Vorwürfe zurück. Anthropic bestätigte 404 Media gegenüber, ebenfalls ein vergleichbares menschliches Überprüfungsverfahren einzusetzen, allerdings nur bei Nutzerinnen und Nutzern, die die Option „Hilf uns, unsere KI-Modelle zu verbessern“ aktiv eingeschaltet haben; Konversationen würden dafür vorab von Kontokennungen befreit.
Frühere Datenschutzpanne bei geteilten Chats
Es ist laut Cybernews nicht das erste Mal, dass OpenAIs Umgang mit Nutzerdaten in der Kritik steht: 2025 hatten mehrere Nutzer entdeckt, dass über die „Teilen“-Funktion freigegebene, eigentlich für die Zusammenarbeit gedachte ChatGPT-Unterhaltungen in Google-Suchergebnissen auftauchten. OpenAI entfernte die Funktion daraufhin rasch wieder.
OpenAI reagierte gegenüber 404 Media nicht direkt auf die Frage, ob Nutzerinnen und Nutzer explizit darüber informiert werden, dass Menschen ihre Chats lesen können, und verwies stattdessen auf eine Hilfeseite.
(red)
