Thought Leadership
Die Unternehmensberatung Deloitte steht erneut in der Kritik: Ein 526-seitiges Gesundheitsgutachten für die kanadische Provinz Neufundland und Labrador soll erfundene Studien und falsche Quellenangaben enthalten. Der Verdacht: KI-generierte Inhalte ohne ausreichende Prüfung.
Die kanadische Provinzregierung von Neufundland und Labrador zahlte knapp 1,6 Millionen US-Dollar für einen Gesundheitsbericht, der nun wegen fehlerhafter Quellenangaben in der Kritik steht. Laut Recherchen der Nachrichtenplattform “The Independent” enthält das im Mai veröffentlichte Deloitte-Gutachten mehrere Hinweise auf den Einsatz von KI-Tools mit entsprechenden Halluzinationen als Folge.
Es ist nicht das erste Mal, dass Deloitte wegen KI-bedingter Fehler in Regierungsaufträgen in die Schlagzeilen gerät. Erst im Oktober wurde bekannt, dass ein 290.000 australische Dollar teures Gutachten für die australische Regierung ähnliche Probleme aufwies: erfundene Studien, nicht existierende Zitate aus Gerichtsurteilen.
In der überarbeiteten Fassung gab Deloitte dort zu, Azure OpenAI zur Unterstützung verwendet zu haben. Die australische Niederlassung musste eine Teilrückerstattung leisten.
Erfundene Paper und falsche Autorenschaften
Konkret geht es um nicht existierende wissenschaftliche Arbeiten, die als Grundlage für Kosten-Nutzen-Analysen herangezogen wurden. Der Bericht zitiert etwa eine Studie aus dem “Canadian Journal of Respiratory Therapy”, die sich in der Datenbank der Fachzeitschrift nicht finden lässt. Zudem wurden reale Forscher mit Arbeiten in Verbindung gebracht, an denen sie nie beteiligt waren.
Ein besonders auffälliger Fall: Die Pflegewissenschaftlerin Gail Tomblin Murphy von der Dalhousie University wurde als Co-Autorin einer nicht existierenden Publikation genannt. Von den sechs weiteren angeblichen Mitautoren kenne sie lediglich drei aus früherer Zusammenarbeit, so Murphy gegenüber “The Independent”. Ihr Verdacht: “Es klingt so, als würde hier KI in erheblichem Umfang zur Arbeitserstellung eingesetzt.”
Deloitte: “Selektiver Einsatz” von KI
Deloitte Canada räumt den Einsatz von KI gegenüber Fortune ein, relativiert aber zugleich: Man habe die Technologie “selektiv zur Unterstützung einer kleinen Anzahl von Recherche-Zitaten” verwendet. KI sei nicht zur Erstellung des Berichts selbst eingesetzt worden. Die fehlerhaften Zitate würden korrigiert, hätten aber keinen Einfluss auf die Kernaussagen und Empfehlungen des Gutachtens.
Das 526-seitige Dokument behandelt Themen wie virtuelle Gesundheitsversorgung, Mitarbeiterbindung und die Auswirkungen der Corona-Pandemie auf das Gesundheitssystem. Der Bericht ist weiterhin auf der Website der Regierung verfügbar.
