Wenn ChatGPT den Chef erfindet: Die Gefahr der KI-Halluzinationen

In 96 Prozent der Fälle nennt die KI fiktive Namen für Geschäftsführer. 97 Prozent der negativen KI-Antworten basieren ausschließlich auf Personal-Portalen. Wie sich das auf das KI-Image der Unternehmen auswirkt.

Die Verlässlichkeit von Künstlicher Intelligenz bei Unternehmensrecherchen steht massiv in der Kritik. Eine aktuelle empirische Untersuchung der Agentur maxonline zeigt, dass ChatGPT bei Fakten zum DACH-Mittelstand eine alarmierende Fehlerquote aufweist. Besonders kritisch für die Außenwirkung der Unternehmen: In fast jedem Fall, in dem die KI Namen von Führungspersönlichkeiten nennt, sind diese frei erfunden. Das bedeutet für Unternehmen ein unkalkulierbares Reputationsrisiko in der digitalen Auskunft.

Die Illusion der Fakten: Systematische Falschinformationen

In der breit angelegten Studie wurden 150 mittelständische Unternehmen aus Deutschland, Österreich und der Schweiz über elf Branchen hinweg analysiert. Das Ergebnis der über 450 standardisierten Prompts: ChatGPT liefert nur in drei Prozent der Fälle vollständig korrekte Darstellungen. Bei 45 Prozent der Anfragen halluziniert die KI falsche Fakten, während sie bei weiteren 37 Prozent jede Aussage verweigert.

Besonders gravierend sind die Fehlerquoten in den Kernkategorien der Unternehmensidentität:

• Geschäftsführung: Bei 96 Prozent der genannten Namen handelt es sich um fiktive Personen.
• Gründungsjahr: 78 Prozent der Angaben sind falsch, wobei Abweichungen von bis zu 162 Jahren registriert wurden.
• Mitarbeiterzahlen: 68 Prozent der Informationen entsprechen nicht der Realität.
• Zertifizierungen: 58 Prozent der genannten Auszeichnungen sind erfunden.

Das Risiko der „Halb-Bekanntheit“

Die Studie identifiziert ein spezifisches Muster bei der Entstehung dieser Fehler. Während völlig unbekannte Firmen oft eine korrekte Verweigerung der Aussage durch die KI erhalten, steigt das Risiko bei Unternehmen mit einer gewissen, aber fragmentierten digitalen Präsenz massiv an.

„Das gefährlichste Muster unserer Studie ist nicht die Halluzination an sich — sondern wann sie auftritt. Völlig unbekannte Unternehmen erhalten von ChatGPT eine ehrliche Verweigerung. Unternehmen mit fragmentarischem KI-Wissen erhalten selbstbewusst vorgetragene Falschinformationen, die auf den ersten Blick korrekt wirken. Je ‚halb-bekannter‘ eine Firma ist, desto gefährlicher wird die Antwort.“

Harald Fischl, Geschäftsführer von maxonline und Verantwortlicher der Studie

Reputation unter dem Einfluss von Arbeitgeberportalen

Ein weiterer Fokus der Untersuchung lag auf der Tonalität der KI-Antworten. Zwar werden 65 Prozent der Unternehmen positiv dargestellt, doch bei negativen Einschätzungen zeigt sich eine einseitige Quellenlage. Ganze 97 Prozent der negativen KI-Darstellungen basieren auf Einträgen in Arbeitgeberbewertungsportalen. Klassische Kundenrezensionen oder offizielle Presseberichte spielen für das von der KI gezeichnete Image eine untergeordnete Rolle. Für das Personalmarketing und das Employer Branding bedeutet dies, dass negative Einträge auf Portalen wie Kununu oder Glassdoor direkt das gesamte Firmenprofil in generativen KI-Modellen dominieren können.

Neben der Korrektheit ist die schiere Auffindbarkeit ein Problem. 56 Prozent der untersuchten Betriebe werden bei branchenspezifischen Empfehlungsfragen schlicht nicht genannt. Besonders die Immobilienbranche ist betroffen, hier liegt die Sichtbarkeit laut Studie bei null Prozent. Im Gegensatz dazu erreicht der Sektor Gesundheit und Pflege eine Quote von 88 Prozent. Die Daten legen nahe, dass eine starke digitale Präsenz in Form von strukturierten Daten und spezifischen Landingpages direkt mit der KI-Sichtbarkeit korreliert.

Strategische Gegenmaßnahmen: GEO statt nur SEO

Um die Halluzinationsrate zu senken, rücken neue Optimierungsmethoden in den Fokus. Die sogenannte Generative Engine Optimization (GEO) zielt darauf ab, KI-Modellen verifizierbare Fakten in einer maschinenlesbaren Form bereitzustellen. maxonline empfiehlt Unternehmen, ihre Stammdaten konsequent mittels Schema.org im Quellcode der Website zu hinterlegen. Durch den Einsatz von Organization-Markup, Person-Markup und Service-Markup erhalten Chatbots die notwendigen Informationen direkt aus der Primärquelle und müssen keine plausibel klingenden Platzhalter mehr generieren.

Harald Fischl, Geschäftsführer von maxonline und Verantwortlicher der Studie, betont in diesem Zusammenhang die Handlungsfähigkeit der Betriebe: „KI-Halluzinationen sind kein Schicksal. Sie sind das Ergebnis fehlender Daten — und damit ein lösbares Problem.“ IT-Abteilungen sind somit gefordert, die klassische Suchmaschinenoptimierung um diese strukturellen Komponenten zu erweitern, um die Kontrolle über das digitale Abbild des Unternehmens zurückzugewinnen.