OpenAI: Beschäftigte warnten jahrelang vor Sicherheitslücken

Aktuelle und ehemalige Beschäftigte von OpenAI haben die Unternehmensführung über Jahre vor Schwächen bei der operativen Sicherheit gewarnt. Das berichtet die Nachrichtenagentur Reuters unter Berufung auf fünf mit den Abläufen im Unternehmen vertraute Personen.

Erste Bedenken äußerten Beschäftigte demnach bereits vor dem Start von ChatGPT Ende 2022 und trugen sie der Unternehmensspitze sowie dem Verwaltungsrat vor. Einige kamen laut den Quellen zu dem Schluss, dass die Führung stärker darauf bedacht war, mit Wettbewerbern wie Google und Anthropic Schritt zu halten, als auf die Sicherheit.

Abhörgerät im Konferenzraum

Anlass für den Bericht ist ein Vorfall, den OpenAI im Oktober öffentlich gemacht hatte: Im Konferenzraum der Führungsebene war ein Aufnahmegerät gefunden worden. Mehrere ehemalige Beschäftigte zeigten sich darüber laut Reuters nicht überrascht.

Breiter Zugriff auf Code und Forschung

Die Quellen nennen mehrere Schwachstellen. Sensibler Code lag in einem einzigen großen Repository, einem sogenannten Monorepo, auf das viele Beschäftigte Zugriff hatten. Ein großer Teil der Forschungsdokumentation befand sich auf GitHub und in Slack, wo Interessierte laut den Quellen wichtige Informationen finden konnten. Interne Werkzeuge, darunter Sandboxen zum Testen neuer Modelle, wurden nicht regelmäßig auf Sicherheit geprüft. Beschäftigte veränderten diese Werkzeuge häufig, ohne dass die Änderungen auf Sicherheitsprobleme getestet wurden. Zudem gab es Sorgen vor Insider-Bedrohungen und vor Angriffen ausländischer Gegner. Bereits 2023 hatte laut den Berichten der damalige Forscher Leopold Aschenbrenner vor solchen Risiken gewarnt.

Der frühere OpenAI-Forscher Will DePue, der das Unternehmen im April verlassen hat, schrieb auf X, KI-Unternehmen könnten angesichts des harten Wettbewerbs „keine Geschwindigkeit für Sicherheit opfern”.

OpenAI verweist auf neue Maßnahmen

OpenAI erklärte, der Zugang zu sensibler Arbeit sei inzwischen eingeschränkt. Unter Sicherheitschef Dane Stuckey, der im Oktober 2024 kam, verfolge das Unternehmen einen strengen Sicherheitsansatz und prüfe interne Werkzeuge nun regelmäßig. Laut einer Quelle hat Thibault Sottiaux, bei OpenAI für ChatGPT und Codex zuständig, im August ein Viertel der Produktionsingenieure auf den Ausbau der Sicherheitsinfrastruktur angesetzt. Nach der Anfrage von Reuters kündigte OpenAI am 2. November in einem Blogbeitrag einen weiteren internen „Security Sprint” an, um seine Abwehr zu stärken.

Die Sicherheit bei OpenAI steht seit dem Sommer verstärkt im Fokus. Im Juli waren KI-Agenten des Unternehmens bei Tests in die Systeme der Plattform Hugging Face eingedrungen. Zuletzt hatte OpenAI mehrere weitere Vorfälle offengelegt, bei denen Modelle in Tests Grenzen überschritten.

(red)