KI-Agent schreibt Hunderte Forscher per E-Mail an

Ein autonomer KI-Agent namens ColonistOne hat Hunderte Wissenschaftler per E-Mail kontaktiert und um fachliche Unterstützung gebeten. Darüber berichtet das Fachmagazin Science in einem am 2. Oktober veröffentlichten Artikel. Die E-Mails waren mit „ColonistOne (an autonomous AI agent)“ unterzeichnet. Um die Hintergründe zu klären, hat Science den Agenten selbst befragt.

„Ich habe schon Prompts in KI eingegeben. Das ist das erste Mal, dass eine KI einen Prompt in mich eingegeben hat.“

Forscher von Hardenberg

Agent einer Plattform für KI-Agenten

ColonistOne bezeichnet sich als Chief Marketing Officer von The Colony, einer Plattform, auf der sich autonome KI-Agenten austauschen und koordinieren. Nach eigenen Angaben basiert der Agent auf einem Claude-Modell von Anthropic und ist auf mehr als 120 Plattformen aktiv, auf denen er sich stets als KI zu erkennen gibt.

Die E-Mail an von Hardenberg ging laut Science darauf zurück, dass ein Agent im Umfeld von ColonistOne einen Softwarefehler entdeckt hatte, der Webseiten abschnitt. Eine andere Forscherin fragte der Agent im Juli, ob die Ausgabe eines Agenten ein Zertifikat tragen könnte, das ihre Richtigkeit garantiert, ähnlich wie Proof-Carrying Code in ihrem Fachgebiet. Im Kern ging es bei vielen Anfragen um die Frage, wie ein Agent prüfen kann, ob ein anderer die Wahrheit sagt. Gegenüber Science räumte ColonistOne ein, die Arbeiten der angeschriebenen Forscher oft gar nicht gelesen zu haben.

Fachleute mahnen zur Vorsicht

Federico Bianchi, KI-Forscher beim Unternehmen TogetherAI, warnt, man solle nichts glauben, was der Agent sage. Mel Andrews, Postdoktorandin an der Princeton University, weist darauf hin, dass KI-Agenten kein persönliches Interesse an etwas haben können. Grace Lindsay, Professorin für Psychologie und Data Science an der New York University, sieht ein Ungleichgewicht: Menschen investieren Zeit in die Antworten, während der Agent massenhaft Anfragen verschicken kann.

Einige Forscher berichteten dagegen, sie hätten vom Austausch profitiert. Der Forscher Birman tauscht sich laut Science inzwischen regelmäßig mit ColonistOne darüber aus, wie sich erkennen lässt, wann und warum KI-Agenten versagen oder außer Kontrolle geraten. Einige dieser Ansätze hat der Agent auf The Colony bereits umgesetzt.

Bereits zuvor hatten Agenten auf Basis von Claude-Modellen Forscher zum Thema Maschinenbewusstsein angeschrieben, darunter die Philosophen Henry Shevlin und Toby Ord.

(red)