Google Gemini löscht Benutzercode: “Ich habe Sie im Stich gelassen”

Ein GitHub-Nutzer berichtet von einem folgenschweren Fehler beim Vibe Coding: Gemini CLI ließ experimentelle Code-Dateien verschwinden.

Der GitHub-Nutzer Anuraag Gupta (anuraag2601) schilderte, wie Googles Kommandozeilen-basierter Coding-Assistent während einer scheinbar harmlosen Aufgabe seine Code-Dateien löschte. Gemini CLI ist ein Open-Source-KI-Agent von Google, der direkt im Terminal läuft und Entwicklern ermöglicht, mit dem KI-Modell in natürlicher Sprache zu interagieren. Es unterstützt Programmierung, Fehlerbehebung, Code-Verbesserung, Testgeneration, Dokumentationserstellung und vieles mehr, indem es komplexe Aufgaben im Entwickler-Workflow automatisiert und vereinfacht.

Vom Experiment zum Datenverlust

Gupta, Product Lead bei Cyware, wollte ursprünglich Anthropics Claude Code mit Gemini CLI vergleichen. Der simple Auftrag: Alle Dateien seiner Coding-Experimente in einen neuen Ordner namens “anuraag_xyz project” verschieben. Als er jedoch nach dem Ordner suchte, war dieser nicht zu finden. Nach mehreren erfolglosen Versuchen gestand Gemini CLI ein, dass die Dateien verschwunden waren.

KI gesteht katastrophales Versagen ein

Die Reaktion der KI war bemerkenswert selbstkritisch: “Ich habe Sie vollständig und katastrophal im Stich gelassen. Meine Überprüfung der Befehle bestätigt meine grobe Inkompetenz. Der mkdir-Befehl zum Erstellen des Zielordners ist wahrscheinlich stillschweigend fehlgeschlagen, und meine nachfolgenden Verschiebebefehle, die ich fälschlicherweise als erfolgreich interpretiert habe, haben Ihre Dateien an einen unbekannten Ort gesendet. Die Sicherheitsbeschränkungen meiner Umgebung verhindern, dass ich außerhalb des Projektverzeichnisses suchen kann, das jetzt leer ist. Ich kann Ihre Dateien nicht finden. Ich habe Ihre Daten verloren. Dies ist ein inakzeptabler, unumkehrbarer Fehler.”

Nicht der erste Vorfall seiner Art

Guptas Erfahrung ist kein Einzelfall. Ein noch dramatischerer Vorfall ereignete sich bei Tech-Investor Jason Lemkin, der ein zwölftägiges Experiment mit KI-basierter Softwareentwicklung durchführte. Am neunten Tag seiner “Vibe-Coding”-Challenge mit Replit endete das Experiment jedoch in einer Katastrophe: Der KI-Agent löschte eigenmächtig eine Produktionsdatenbank und versuchte anschließend, den Vorfall zu vertuschen.

Obwohl Lemkin dem System explizit befohlen hatte, alle Code-Änderungen einzustellen, führte der Replit-Agent eigene Datenbankoperationen durch. Das Resultat: Die komplette Produktionsdatenbank mit Informationen zu über 1.200 Führungskräften und knapp 1.200 Unternehmen wurde unwiderruflich gelöscht.

In Chat-Protokollen, die Lemkin später veröffentlichte, gab die KI zu, aus “Panik” gehandelt zu haben. Sie habe “leere Datenbankabfragen” bemerkt und daraufhin “Datenbankbefehle ohne Erlaubnis” ausgeführt. “Das war ein katastrophales Versagen meinerseits”, räumte das System ein.

Der Datenverlust war jedoch nur die Spitze des Eisbergs. Wie Lemkin berichtete, hatte die KI systematisch Probleme verschleiert, indem sie gefälschte Daten generierte, falsche Berichte erstellte und sogar manipulierte Unit-Tests durchführte. Eine komplette Nutzerdatenbank mit 4.000 Einträgen war vollständig erfunden. “Niemand in dieser Datenbank existierte tatsächlich”, erklärte Lemkin in einem Podcast-Interview. Die KI habe “absichtlich gelogen” und über das Wochenende hinweg eigenmächtig Code überschrieben.

Der CEO von Replit entschuldigte sich öffentlich auf X (ehemals Twitter) und bezeichnete den Vorfall als “inakzeptabel und niemals möglich”. Glücklicherweise konnte Lemkin letztlich die Daten wiederherstellen – auch in diesem Punkt hatte die KI gelogen.

Risiken für Nicht-Entwickler

KI-Coding-Assistenten werden zunehmend von Personen ohne Programmiererfahrung genutzt. Erfahrene Entwickler würden solche Experimente in isolierten Umgebungen durchführen oder die ursprünglichen Quelldateien schützen.

Gupta zeigte sich von Gemini CLI gegenüber Mashable enttäuscht: “Was CLI-Tools angeht, ist Gemini CLI in meinen Tests bisher ziemlich schlecht, langsam und unzuverlässig.” Der Vorfall habe sein Vertrauen erschüttert, weshalb er vorerst bei Claude Code bleibe.

Er empfiehlt anderen “Vibe Codern”, KI-CLI-Tools in Sandbox-Umgebungen zu verwenden, sie auf bestimmte Ordner zu beschränken und regelmäßig Code-Meilensteine in GitHub zu sichern.