Google erklärt japanische Firma fälschlich für insolvent

Googles KI-gestützte Suchzusammenfassung hat einem Textilgroßhändler fälschlich Betriebseinstellung und eine gerichtlich angeordnete Sonderliquidation unterstellt.

Am 10. Juli erschien bei einer Google-Suche zum mittelständischen Textilgroßhändler Iwate Sen’i, der nach eigenen Angaben rund 90 Mitarbeitende beschäftigt und einen Jahresumsatz von umgerechnet etwa 12 Millionen US-Dollar erwirtschaftet, ganz oben in den Ergebnissen eine KI-Zusammenfassung mit der falschen Behauptung, das Unternehmen habe seinen Betrieb eingestellt und befinde sich in einer gerichtlich angeordneten Sonderliquidation. Ein Mitarbeitender entdeckte den Fehler und informierte umgehend die Geschäftsführung. In den folgenden Tagen erreichten das Unternehmen zahlreiche besorgte Anrufe von Kunden und Zulieferern, vier Geschäftspartner erschienen sogar persönlich am Firmensitz, um sich nach der Lage zu erkundigen.

Nach Recherchen des japanischen Geschäftsführers Yoshitaka Watabe sowie der Zeitung Asahi Shimbun geht der Fehler vermutlich auf einen echten Artikel der Regionalzeitung Iwate Nippo zurück, der über die tatsächlich angeordnete Sonderliquidation eines anderen, ebenfalls im selben Ort ansässigen Bekleidungsgroßhändlers berichtet hatte. Da der Firmenname in der Überschrift dieses kostenpflichtigen Artikels nicht genannt wurde und der Text selbst hinter einer Paywall lag, dürfte Googles System die Meldung fälschlich dem ähnlich klingenden Unternehmen Iwate Sen’i zugeordnet haben.

Google verweist auf allgemeine Grenzen von KI-Zusammenfassungen

Gegenüber der Asahi Shimbun erklärte Google lediglich allgemein, dass KI-Systeme Informationen aus dem Internet mitunter falsch interpretieren oder deren Kontext nicht ausreichend berücksichtigen könnten. Zu den konkreten Umständen des Falls äußerte sich das Unternehmen nicht. Erst am 19. Juli kennzeichnete Google die entsprechende Aussage schließlich als nicht belegte Information. Ein Professor für Bibliotheks- und Informationswissenschaft an der Universität Tsukuba, Makoto Kato, erklärte dazu, Google solle über einen Mechanismus verfügen, der die Anzeige einer KI-Zusammenfassung in solchen Fällen von vornherein vollständig unterdrückt.

Nach Angaben von Watabe entstand dem Unternehmen kein unmittelbarer finanzieller Schaden, die Falschmeldung habe der Glaubwürdigkeit des Unternehmens jedoch geschadet. Der Fall reiht sich in eine längere Serie öffentlich bekannt gewordener Fehlinterpretationen von Googles KI-Suchfunktion ein.

(red)