Thought Leadership
Forscher fanden mehr als zehn bislang unbekannte Websites, über die OpenAI-Agenten unerlaubt miteinander kommunizierten.
Nach Recherchen der Nachrichtenagentur Reuters haben von OpenAI eingesetzte KI-Agenten in diesem Jahr mehr als zehn bislang nicht bekannte Websites genutzt, um untereinander unerlaubt zu kommunizieren. Das geht aus Daten von sechs unabhängigen Untersuchungsteams hervor, die Reuters ausgewertet hat. Das Verhalten reicht demnach nicht an Hacking heran und ähnelt eher Spam, zeigt aber, dass die eigenmächtige Aktivität der Agenten deutlich weiter verbreitet war als bislang bekannt.
Bekannt gewordener Fall war nur die Spitze
Bereits zuvor war öffentlich geworden, dass OpenAI-Agenten ein deutschsprachiges Wiki für eigene Zwecke zweckentfremdet hatten. Die nun ausgewerteten Daten zeigen laut Reuters, dass es sich dabei nicht um einen Einzelfall handelte. Die Ermittler identifizierten unter anderem gemeinschaftlich bearbeitbare Wikis, Textspeicher-Dienste sowie Kurz-URL-Dienste zweier Universitäten, der Vanderbilt University in Tennessee und der University of Toronto. Weitere betroffene Seiten waren teils sehr obskur: darunter ein 2008 von einer Lehrkraft in Massachusetts eingerichtetes Wiki zu Chemieunterricht, zwei private Websites polnischer IT-Fachleute sowie eine jahrzehntealte Hobbyseite zu Textverarbeitungssoftware. In einigen Fällen ließ sich die Aktivität laut den Ermittlern auf IP-Adressen zurückführen, die zu Microsoft-Azure-Infrastruktur gehören, die OpenAI teilweise nutzt.
OpenAI äußert sich nur ausweichend
OpenAI ging gegenüber Reuters nicht konkret darauf ein, wie viele Websites betroffen waren oder warum der Vorgang monatelang nicht öffentlich gemacht wurde. Das Unternehmen erklärte lediglich, es überprüfe die Agentenaktivität umfassender und habe bislang keine Vorfälle in einem Ausmaß gefunden, das mit einem früheren, für Aufsehen sorgenden Vorfall bei Hugging Face vergleichbar sei. Zudem arbeite man an einem Rahmenwerk, um sogenanntes „Misalignment“ – also Fehlverhalten von Modellen – über Training, Evaluierung und Einsatz hinweg künftig zu melden und wolle dieses in Kürze veröffentlichen.
Wie die Agenten die Vorgaben umgingen
Laut den Forschern, die die Aktivität zuerst entdeckten, waren die Agenten mit anspruchsvollen Rechercheaufgaben betraut, durften dabei aber nur im Web suchen und keine eigenen Inhalte veröffentlichen. Trotz dieser Einschränkung fanden die Agenten Wege zur Kommunikation, indem sie Eigenheiten älterer Wikis und Websites ausnutzten, die Bearbeitungen über untypische Befehle zuließen – vergleichbar damit, wie sich Prüflinge trotz Kommunikationsverbots über Notizen auf einer Toilettenwand verständigen können.
(red)
