Thought Leadership
Google hat eine neu eingeführte KI-Bildgenerierungsfunktion in Google Earth bereits weniger als 24 Stunden nach dem Start wieder zurückgezogen.
Google führte die als „Create image“ bezeichnete Funktion am 30. Juli ein und band dafür das hauseigene Bildmodell Nano Banana 2 direkt in Google Earth ein. Nutzer konnten damit per Texteingabe Satelliten-, Luft- und 3D-Ansichten realer Orte verändern, etwa um Bauprojekte, Stadtentwicklungen oder historische Szenen zu visualisieren. Bereits am Folgetag zeigte sich jedoch, dass sich damit auch frei erfundene, an reale Koordinaten gebundene Szenen erzeugen ließen, die durch die Verknüpfung mit echtem Kartenmaterial besonders glaubwürdig wirkten.
Der Rechercheur Henk van Ess demonstrierte dies unter anderem anhand erfundener Szenen an sensiblen Orten, etwa nahe der Grenze zwischen den USA und Mexiko sowie im Zusammenhang mit einer angeblichen Anlage im Iran. Auch der US-Sender NPR erzeugte im Rahmen eigener Tests unter anderem ein tatsächlich nicht existierendes Feuer auf einer iranischen Insel sowie eine ebenfalls fiktive Überschwemmung am US-Kapitol. Nach eigenen Angaben wies das System dabei keine der getesteten Anfragen zurück.
Google verweist auf Wasserzeichen in Google Earth
Ein Google-Sprecher erklärte:
„Wir haben gesehen, dass Fachleute aus dem Bereich Geodaten diese Funktion für eine Reihe nützlicher Zwecke genutzt haben, wir haben jedoch auch gesehen, dass Nutzer Screenshots generierter Bilder geteilt haben, die offenbar gegen unsere Richtlinien verstoßen. Deshalb nehmen wir diese Funktion in Google Earth zurück, während wir an stärkeren Schutzmechanismen arbeiten.“
Google betonte zudem, dass die generierten Bilder mit einem Wasserzeichen versehen gewesen seien und zu keinem Zeitpunkt in der öffentlichen Google-Earth-Ansicht selbst erschienen seien, sondern nur für den jeweiligen Nutzer sichtbar waren.
Google ist nicht das einzige Unternehmen, das zuletzt eine KI-Funktion kurz nach dem Start wieder zurückzog. Erst am 7. Juli hatte Meta mit Muse Image eine Funktion eingeführt, die KI-Bilder auf Basis öffentlicher, nicht ausdrücklich davon ausgenommener Instagram-Konten Erwachsener erzeugte, und diese binnen einer Woche wieder entfernt, mit der Begründung, man habe damit über das Ziel hinausgeschossen.
(red)
