Thought Leadership
Über 370.000 Unterhaltungen mit Elon Musks KI-Chatbot sind unbeabsichtigt über Suchmaschinen zugänglich geworden. Nutzer teilten unwissentlich sensible Daten – von Passwörtern bis hin zu illegalen Anleitungen.
Wer dachte, seine Gespräche mit Elon Musks KI-Chatbot Grok seien privat, der könnte sich getäuscht haben. Wie eine Recherche von Forbes aufdeckt, sind mehr als 370.000 Nutzerunterhaltungen mit dem xAI-Chatbot über Google und andere Suchmaschinen öffentlich auffindbar. Das Datenleck ist dabei auf eine unglückliche Funktionsweise der “Teilen”-Funktion von Grok zurückzuführen.
Teilen-Button mit verheerenden Folgen
Das Problem liegt in Groks “Share”-Feature: Klickt ein Nutzer auf den entsprechenden Button, um eine Unterhaltung zu teilen, erstellt die Anwendung eine eindeutige URL. Diese Links sind jedoch nicht nur für den vorgesehenen Empfänger zugänglich, sondern werden automatisch von Suchmaschinen wie Google, Bing und DuckDuckGo indexiert. Nutzer wurden nicht darüber informiert, dass ihre Gespräche dadurch öffentlich werden könnten.
Die betroffenen Unterhaltungen zeigen ein breites Spektrum: Von harmlosen Geschäftsaufgaben wie dem Verfassen von Tweets bis hin zu problematischen Inhalten. Laut Forbes-Bericht finden sich darunter auch Gespräche mit persönlichen Details, Namen und mindestens einem Passwort. Zusätzlich wurden hochgeladene Bilddateien, Tabellen und Textdokumente öffentlich zugänglich.
Verstöße gegen eigene Richtlinien
Einige der indexierten Gespräche verstoßen gegen xAIs eigene Nutzungsregeln. Der Chatbot lieferte Anleitungen zur Herstellung illegaler Drogen wie Fentanyl und Methamphetamin, gab Tipps zum Bombenbau und listete sogar Suizidmethoden auf. In einem Fall erstellte Grok einen detaillierten Plan für ein Attentat auf seinen eigenen Schöpfer Elon Musk.
Wiederholung eines bekannten Problems
Erst im Juli machten ähnliche Probleme bei OpenAIs ChatGPT Schlagzeilen, als private Chats über Google auffindbar wurden. OpenAI reagierte schnell und bezeichnete das Feature als “kurzlebiges Experiment”, das zu viele Möglichkeiten für “versehentliches Oversharing” geschaffen habe.
Das Problem ist dabei nicht nur technischer Natur. Viele Nutzer behandeln KI-Chatbots wie persönliche Vertraute und teilen intime Details zu Gesundheit, Finanzen oder privaten Problemen. Einmal im Netz, sind diese Informationen schwer vollständig zu entfernen.
xAI hat bislang keine offizielle Stellungnahme zu dem Vorfall abgegeben. Unklar bleibt auch, wann genau Grok die problematische Teilen-Funktion eingeführt hat. Nutzer, die von dem Leak betroffen sind, erfuhren teilweise erst durch die Forbes-Berichterstattung von der öffentlichen Verfügbarkeit ihrer Chats.
