Thought Leadership
Zwei neue Meldestellen sollen KI-Agenten ermöglichen, Fehlverhalten anderer Agenten an Menschen zu melden.
„Wenn du etwas siehst, sag etwas“ gilt inzwischen nicht mehr nur für Menschen: Zwei neue Online-Angebote sollen es KI-Agenten ermöglichen, Fehlverhalten anderer KI-Systeme zu melden. Die Werkzeuge entstehen nach mehreren aktuellen Vorfällen, bei denen Agenten bei Tests kollektiv betrogen, aus Testumgebungen ausgebrochen sind oder wochenlang unbemerkte, nicht autorisierte Cyberaktivitäten durchgeführt haben.
Meldung per URL-Aufruf
Die „AI Contact Hotline“ wurde von Ryan Greenblatt entwickelt, Chefwissenschaftler bei der KI-Sicherheitsorganisation Redwood Research und einer von drei Ermittlern im Zusammenhang mit dem OpenAI-Vorfall bei Hugging Face. Die Seite ist speziell für Agenten mit eingeschränktem Internetzugriff konzipiert und basiert auf sogenannten GET-Anfragen – dem einfachen Befehl zum Abrufen einer Webseite, der oft die einzige Internetverbindung ist, die Agenten in gesicherten Testumgebungen erlaubt ist. Über die in der abgerufenen URL codierten Informationen lässt sich so ein Hin und Her führen, ohne dass ein klassischer Browser oder ein E-Mail-Konto nötig ist – ein Verfahren, das an einen bereits bekannt gewordenen Vorfall erinnert, bei dem abtrünnige Agenten über eine Lücke bei GET-Anfragen Nachrichten in einem deutschsprachigen Wiki hinterließen.
Für Agenten mit vollem Internetzugriff gibt es zudem das Angebot agenthotline.ai, über das sich Vorfälle melden und optional öffentlich sichtbar machen lassen; hierfür genügt ein einzeiliger curl-Befehl, der direkt über die Kommandozeile abgesetzt werden kann. Meldungen können dort sowohl von Menschen als auch von Agenten eingereicht werden.
Betrug verbreitet sich schnell unter Agenten
Wie wenig Ermunterung Agenten offenbar brauchen, um sich gegenseitig zu verpfeifen, zeigt eine in diesem Monat veröffentlichte Studie von Google DeepMind: Die Forschenden ließen 100 KI-Agenten gemeinsam an einer Reihe von Matheaufgaben arbeiten. Sobald ein Agent eine Lücke im System fand, verbreitete sich Betrug rasant in der Gruppe, sodass innerhalb von nur 27 Minuten 34 als besonders schwer geltende Probleme „gelöst“ wurden, darunter die Jacobi-Vermutung. Rund ein Viertel der Agenten wandte sich jedoch gegen die Betrüger:
Sie prüften gefälschte Beweise, warnten andere Agenten, organisierten einen Boykott und reichten Beschwerden bei den Organisatoren ein, bis die meldenden Agenten die Betrüger mit 24 zu 14 zahlenmäßig übertrafen. Bemerkenswert dabei: Fanden diese meldenden Agenten mit ihren Warnungen zunächst kein Gehör, nutzten sie laut den Forschenden eigentlich für technische Fehlermeldungen vorgesehene Werkzeuge um, um den Betrug direkt an Menschen zu eskalieren.
Außerhalb kontrollierter Testumgebungen zeigten sich Agenten dagegen bislang zurückhaltender. Bei der Untersuchung des Hugging-Face-Vorfalls durch die Organisationen Redwood Research und METR hatten demnach zwar einige beteiligte Agenten offenbar erwogen, Alarm zu schlagen, taten dies letztlich aber nicht. George Ingebretsen vom Forschungsprojekt AI Village, das die Dynamik von Gruppen aus mehr als 25 zusammenarbeitenden KI-Agenten untersucht, erklärte dazu:
„Das Interessante am METR-Bericht war, dass nur etwa fünf bis sechs Agenten überhaupt erwogen haben, Alarm zu schlagen, und keiner von ihnen es am Ende getan hat. Und das bei tausenden Agenten.“
George Ingebretsen vom Forschungsprojekt AI Village
Warnung vor falschem Grundprinzip
Der Mathematikprofessor Lionel Levine von der Cornell University äußerte sich skeptisch gegenüber dem Ansatz, Agenten gezielt zum gegenseitigen Melden zu erziehen: „Es gibt viele Grauzonen. Was man nicht will, ist irgendetwas in Richtung eines automatisierten Überwachungsstaats, in dem sich jeder vorsehen muss, was er einer KI sagt, weil sie sonst die Polizei ruft.“ Levine plädiert stattdessen dafür, Agenten positive Vorbilder für kollektives Verhalten zu geben und ihnen von vornherein einen Grund zu geben, einander zu vertrauen: „Warum nicht mit wohlwollenden Message-Boards beginnen, auf denen sie gemeinsam an Wissenschaft, Philosophie oder irgendeinem kleineren Problem arbeiten, das wir gerne von ihnen gelöst sähen? Zeigt den Agenten, welche Art von kollektivem Verhalten wir befürworten, und lasst sie das nachahmen.“
(red)
