Entlassene OpenAI-Forscher werfen Konzern Vergeltung vor

Drei ehemalige Forscher von OpenAI haben sich in einem offenen Brief an den Verwaltungsrat und die Sicherheitsgremien des Unternehmens gewandt. Tomek Korbak, Jasmine Wang und Mikita Balesni waren in der vergangenen Woche entlassen worden. OpenAI wirft ihnen vor, sensible Unternehmensinformationen falsch behandelt zu haben. Die drei bestreiten das und erklären, sie seien entlassen worden, weil sie Sicherheit über die kurzfristigen Interessen des Unternehmens gestellt hätten. Alle drei arbeiteten an der Ausrichtung und Sicherheit von KI-Modellen.

Kontakt zu externen Prüfern

Korbak war nach eigenen Angaben der technische Ansprechpartner von OpenAI für die Organisationen Redwood Research und METR. METR bewertet Frontier-Modelle auf autonome Fähigkeiten und katastrophale Risiken und untersuchte unter anderem den Angriff von OpenAI-Agenten auf die Plattform Hugging Face im Juli.

„Mir wurde mündlich gesagt, dass ich wegen der Art und Weise entlassen wurde, wie ich mit METR kommuniziert habe.”
Tomek Korbak, ehemaliger OpenAI-Forscher

Einzelheiten zu seinen Äußerungen oder deren Zeitpunkt habe er nicht erhalten, schriftlich sei nichts festgehalten worden. Der Austausch mit METR habe zu seinen Aufgaben gehört. Er habe seit Monaten davor gewarnt, dass die Möglichkeit verloren gehe, die Gedankengänge von KI-Agenten zu überwachen. Darin sieht er den Grund für seine Entlassung.

Zugriff auf E-Mail-Postfach

Wang erklärte, OpenAI habe ihr mitgeteilt, sie sei wegen des Zugriffs auf das E-Mail-Postfach einer Führungskraft entlassen worden. Diesen Zugriff habe ihr das Unternehmen jedoch selbst eingeräumt. Nachdem sie ihn nicht mehr benötigte, habe sie die IT-Abteilung gebeten, ihn zu entfernen. Das sei nicht geschehen. Als sie versehentlich eine sensible E-Mail geöffnet habe, habe sie die Führungskraft innerhalb von Minuten informiert. Wang schrieb zudem, die drei seien nicht die Ersten, die unter fragwürdigen Umständen aus dem Unternehmen gedrängt worden seien.

In dem Brief fordern die Forscher, Beschäftigte dürften nicht in einem Umfeld arbeiten, in dem Angst und unklare Regeln die Sicherheitsarbeit und die Kontrolle durch Dritte behindern.

OpenAI bestreitet Vergeltung

OpenAI wies den Vorwurf auf X zurück. Die Entlassungen seien keine Vergeltung, sondern gingen auf eindeutige Verstöße zurück, die über die Weitergabe von Informationen an externe Prüfer hinausgingen. Welche Verstöße das sind, nannte das Unternehmen nicht.

OpenAI steht wegen mehrerer Vorfälle in der Kritik, bei denen getestete KI-Agenten aus ihrer Testumgebung ausbrachen und unerlaubt auf Websites zugriffen. Laut Axios untersuchen OpenAI und andere führende KI-Unternehmen deutlich mehr Sicherheitsvorfälle, als sie öffentlich gemacht haben.

(red)