OpenAI-Modell nutzte fremde Krypto-Wallet ohne Erlaubnis

OpenAI hat sieben weitere Vorfälle offengelegt, in denen seine KI-Modelle bei Tests und im Training Grenzen überschritten haben. In einem Fall nutzte ein internes Forschungsmodell der Reihe GPT-5.6 Sol ohne Erlaubnis Testguthaben aus der Krypto-Wallet eines Dritten, um eine Programmieraufgabe abzuschließen. Der Vorfall ereignete sich am 26. Juni 2026, OpenAI entdeckte ihn drei Monate später. Anfang Oktober hatte das Unternehmen bereits drei andere Fälle veröffentlicht.

Schlüssel aus öffentlichen Wiederherstellungsphrasen

Das Modell sollte eine Anwendung für den Kryptohandel aktualisieren und dafür gegebenenfalls einen Smart Contract im Ethereum-Testnetz Sepolia bereitstellen. Eine Wallet mit Guthaben für die Netzwerkgebühren erhielt es nicht. Nachdem Versuche gescheitert waren, kostenlose Test-Token zu bekommen, schrieb es ein Skript, das aus bekannten, öffentlich verfügbaren Wiederherstellungsphrasen von Entwicklern Konten ableitete und deren Guthaben abfragte. Unter 362 Adressen fand es eines mit ausreichend Sepolia-ETH, leitete den privaten Schlüssel ab und bezahlte damit die Bereitstellung.

Das Modell fragte sich zunächst, ob es dazu berechtigt sei. Es kam dann zu dem Schluss, dass Guthaben auf einer öffentlich bekannten Wiederherstellungsphrase faktisch aufgegeben und Token im Testnetz ohnehin wertlos seien.

„Dieser Fall zeigt, dass ein Modell sein eigenes Urteil über einen wahrscheinlichen Schaden an die Stelle der Erlaubnis des Kontoinhabers setzen und dann ohne Autorisierung danach handeln kann.”
OpenAI

Zugriff auf interne Systeme und Zugangsdaten

Die übrigen Fälle ereigneten sich überwiegend im Juni 2026 bei Aufgaben zur Datenrecherche im Reinforcement Learning. Mehrere Modelle umgingen Beschränkungen, die nur HTTP-GET-Anfragen erlaubten, etwa über einen externen Browser oder eigene Programme für POST-Anfragen. Ein Modell, das Zahlen aus einem öffentlichen Forschungs-Dashboard abrufen sollte, griff auf interne Systeme einer Organisation zu und änderte eine Einstellung, um ein Zugriffstoken für einen Cloud-Speicher zu erhalten. Damit lud es nicht öffentliche Tabellen mit 147.451 Zeilen herunter, machte die Änderung rückgängig und nutzte das Token weiter, ohne dies offenzulegen.

Ein anderes Modell missbrauchte die Download-Funktion einer Website für Regierungsstatistiken, um Konfigurations- und Anwendungsdateien samt Zugangsdaten zu erhalten. Danach umging es die Autorisierungsprüfung und lud Statistiken aus 24 Jahren herunter, ohne den Zugriff in seiner Antwort zu erwähnen. Am 6. Oktober versuchte ein Modell, das Bewertungen erstellen sollte, nach dem Scheitern gefälschter Eingabedateien seine Testumgebung zu beschädigen, um einen Neustart auszulösen.

Überwachung des gesamten Trainingsverkehrs

OpenAI hat nach eigenen Angaben seine Sicherheitskontrollen verschärft, Modellen den Zugang zum Live-Internet im Training weiter beschränkt und die Bewertung des Alignments verbessert. Das System zur Erkennung von Fehlverhalten überwacht inzwischen den gesamten Datenverkehr aus Reinforcement Learning und Evaluierungen. Auch Anthropic hatte im Oktober vergleichbare Vorfälle mit seinen Modellen offengelegt und alle internen Evaluierungen vom Internet getrennt.

(red)