Wenn die KI falsch liegt: Warum Unternehmen ihre Informationsbasis prüfen müssen

IT-Verantwortliche müssen sicherstellen, dass Website, Wissensdatenbank und weitere Produktsysteme dieselbe, aktuelle Information zeigen. Das verändert auch die Rolle des Content Management Systems.

Von Sören Stamer, CEO und Mitgründer von CoreMedia

Ein Kunde fragt einen KI-Assistenten, ob ein bestimmtes Ersatzteil mit einer älteren Maschinengeneration kompatibel ist. Die aktuelle Produktseite bestätigt das. Eine ältere FAQ verneint es. Auf der englischen Website wird dieselbe Funktion unter einem anderen Namen beschrieben. Alle drei Informationen stammen vom Anbieter. Welche davon soll das KI-System verwenden?

Das Beispiel zeigt ein Problem, das in der Diskussion über falsche KI-Antworten leicht übersehen wird: Nicht jeder Fehler beginnt im Sprachmodell. Manchmal liefert das Unternehmen selbst eine widersprüchliche Informationsgrundlage. Für den Kunden bleibt am Ende eine falsche Auskunft – und möglicherweise der Eindruck, dass der Anbieter seine eigenen Leistungen nicht zuverlässig erklären kann. In anderen Fällen wird die Marke gar nicht erst genannt, und die KI empfiehlt stattdessen einen Wettbewerber, dessen Angaben eindeutiger auszuwerten waren.

Unternehmen können die Antworten externer KI-Systeme nur begrenzt beeinflussen. Umso wichtiger wird der Bereich, den sie selbst gestalten können: die Qualität und Organisation ihrer Inhalte. Content Governance entwickelt sich damit von einer redaktionellen Aufgabe zu einer gemeinsamen Verantwortung von IT, Fachbereichen und Unternehmensführung.

Die Website wird auch zur Informationsquelle für Maschinen

Wie relevant Unternehmensinhalte für KI-Antworten sind, illustriert eine Analyse des Softwareanbieters blinq. Dafür wurden im ersten Halbjahr 2026 rund 250.000 Antworten von ChatGPT, Google AI Overviews und Perplexity auf etwa 2.000 Prompts ausgewertet. 66,2 Prozent der zitierten Quellen ordnete blinq dem Bereich Corporate Content zu, darunter Unternehmenswebsites, Blogs und Landingpages.

Die Untersuchung umfasst vor allem kommerziell ausgerichtete Fragestellungen aus dem B2B- und B2C-Umfeld. Sie lässt sich nicht auf sämtliche KI-Anfragen übertragen. Auch sagt ein Quellenanteil allein nichts darüber aus, wie korrekt eine Antwort ist. Dennoch verdeutlicht die Analyse: Unternehmenswebsites bleiben eine wichtige Informationsgrundlage, auch wenn menschliche Nutzer sie seltener besuchen als noch vor einigen Jahren.

Damit verändern sich die Anforderungen an Content. Ein Text muss nicht nur verständlich sein. Seine Aussagen müssen auch dann eindeutig bleiben, wenn ein KI-System einzelne Passagen abruft, mit anderen Quellen verknüpft und in einen neuen Zusammenhang stellt. Gültigkeitsbedingungen, Produktversionen und regionale Einschränkungen dürfen dabei nicht verloren gehen.

Quellenfehler sind nicht dasselbe wie Halluzinationen

Für die Fehleranalyse ist eine Unterscheidung wichtig: Erfindet ein Modell eine nicht belegte Produkteigenschaft, liegt ein anderes Problem vor, als wenn es eine veraltete Herstellerangabe korrekt übernimmt.

Im ersten Fall müssen Modellverhalten, Kontext und Antwortprüfung untersucht werden, sowie die Frage, ob die Inhalte auf den eigenen Kanälen die Anfrage überhaupt beantworten können. Im zweiten Fall liegt die Ursache dagegen eindeutig in der eigenen Quelle: in veralteten, widersprüchlichen oder unzuverlässigen Informationen auf den eigenen Seiten, die das Modell korrekt, aber fehlerhaft übernimmt. Hinzu kommen Mischformen: Das System verbindet beispielsweise Angaben unterschiedlicher Produktgenerationen zu einer Antwort, die in dieser Kombination aber nie gültig war.

Diese Fehler pauschal als Halluzinationen zu behandeln, erschwert die Behebung. Denn ein Sprachmodell beseitigt keine widersprüchlichen Produktbeschreibungen. Umgekehrt verhindert eine bereinigte Website nicht, dass ein Modell Inhalte falsch interpretiert.

 IT-Verantwortliche sollten deshalb eine standardisierte Infrastruktur mit Workflows bereitstellen, die alle Kanäle aus derselben, stets aktuellen Quelle versorgt. Damit können die Fachbereiche fortlaufend die Qualität hochhalten: Inhalte aktualisieren, um lokale Besonderheiten ergänzen, fehlende Details anreichern oder klarer strukturieren, damit ein KI-System die Information zuverlässig auslesen und zitieren kann.

Eine Quelle mit eindeutiger fachlicher Zuständigkeit schaffen

In großen Organisationen liegen relevante Informationen selten vollständig im CMS. Technische Merkmale werden etwa im Produktinformationsmanagement gepflegt, Preise im ERP-System und Servicewissen in einer eigenen Wissensdatenbank. Länderorganisationen ergänzen das Ganze um lokale Bedingungen.

Diese Verteilung ist nicht grundsätzlich falsch. Problematisch wird sie aber dann, wenn mehrere Systeme dieselbe Information unabhängig voneinander pflegen und niemand festlegt, welche Fassung verbindlich ist.

Das Ziel sollte deshalb eine eindeutige fachliche Zuständigkeit sein: Welches System führt welche Information? Wer verantwortet ihre Richtigkeit? Wie gelangen Änderungen in die angeschlossenen Kanäle?

Das CMS kann innerhalb dieser Architektur eine kontrollierte Vermittlungsschicht bilden. Es verbindet freigegebene Inhalte mit Informationen aus Fachsystemen und stellt sie für Websites, Portale oder KI-Anwendungen bereit. Zur „Vertrauensinfrastruktur“ wird es dann im Zusammenspiel mit gepflegten Schnittstellen und verbindlichen Inhaltsmodellen. Ein Beispiel für eine solche Infrastruktur ist etwa das CMS von CoreMedia. 

Was inhaltlich zu tun ist

Produkt- oder Serviceeigenschaften sollten nicht nur ausdrücklich beschrieben, sondern auch eindeutig zugeordnet werden: zu einem Produkt, einer Version, einem Markt und einem Gültigkeitszeitraum. Einheiten und Bezeichnungen müssen konsistent sein. Ebenso wichtig ist, dass Einschränkungen bei der Weiterverarbeitung mit der jeweiligen Aussage verbunden bleiben.

Ebenso entscheidend ist die Tiefe der Inhalte: Zentrale Fragen zu Einsatzzweck, Zielgruppe und Kompatibilität mit bestehenden Systemen müssen beantwortet sein, weil Nutzer den KI-Systemen immer konkretere Fragen stellen. Eine Content-Infrastruktur, die genau diese Lücken erkennt, kann dafür hilfreich sein. KI kann dann beim Anreichern unterstützen, vorausgesetzt, sie greift dabei auf dieselbe Informationsbasis zurück.

Strukturierte Auszeichnungen wie Schema.org machen Inhalte besser maschinenlesbar, sie ändern aber nichts an der inhaltlichen Richtigkeit oder Vollständigkeit selbst. Wird eine veraltete Angabe sauber ausgezeichnet, ist sie immer noch veraltet.

Ein KI-taugliches Content Management beginnt deshalb bei der Entstehung einer Information. Bereits dort sollte feststehen, was eine Aussage bedeutet, wer sie verantwortet und unter welchen Bedingungen sie gilt. Diese Zusammenhänge nachträglich aus Tausenden Texten zu rekonstruieren, ist erheblich aufwendiger.

Governance endet nicht mit der Veröffentlichung

Ein Freigabeprozess beinhaltet zunächst nur, ob ein Inhalt zu einem bestimmten Zeitpunkt veröffentlicht werden darf. Er stellt nicht automatisch sicher, dass die Information auch Monate später noch stimmt.

Unternehmen benötigen deshalb einen geregelten Lebenszyklus für Inhalte. Dazu gehören Prüftermine, fachlich Verantwortliche und Regeln für Änderungen, Rücknahme und Archivierung. Historische Presseinformationen dürfen erhalten bleiben, sollten aber unbedingt als historische Aussagen erkennbar sein.

Für den Betrieb folgt daraus eine konkrete Anforderung: Wird ein Dokument geändert oder zurückgezogen, muss diese Änderung auch jeden abgeleiteten Kanal erreichen, etwa die App, das Serviceportal, Reseller- oder Partnerplattformen, alle Länderversionen sowie eigene Chatbots oder Serviceassistenten. Andernfalls kann die Website bereits korrekt sein, während der Serviceassistent weiterhin mit einer alten Fassung arbeitet. Die Aktualisierung solcher abgeleiteten Bestände gehört daher in die Betriebsprozesse und muss überprüfbar sein.

Mehr Kontrolle durch “Human in the Lead” 

Generative KI beschleunigt die Erstellung von Texten, Übersetzungen und Varianten. Dadurch wächst zugleich die Zahl der Inhalte, deren Richtigkeit und Gültigkeit überwacht werden müssen. 

Der Leitgedanke lautet deshalb „Human in the Lead“: Menschen bestimmen die Regeln, setzen Grenzen und verantworten die Veröffentlichung. Dafür benötigen sie Einblick in Änderungen, klare Entscheidungsrechte und die Möglichkeit, einzugreifen. Ein formaler Freigabeklick genügt nicht, wenn der Prüfer weder die fachliche Grundlage noch die Folgen einer Änderung überblicken kann. Nur im Loop zu sein, reicht daher nicht.

Die IT stellt dafür über das CMS Berechtigungen, Versionierung und Protokollierung bereit. Die Fachbereiche verantworten die Aussagen. Diese Rollen müssen zusammenpassen; denn technische Kontrolle kann fehlende fachliche Verantwortung nicht ersetzen.

Kontrolle über die Grundlage behalten

Kein CMS kann garantieren, dass ChatGPT, Gemini oder Claude ein Unternehmen korrekt darstellen. Externe Systeme wählen ihre Quellen selbst aus und können weiterhin auf ältere oder fehlerhafte Informationen Dritter zurückgreifen.

Unternehmen sollten daraus jedoch nicht schließen, dass ihnen nur die Beobachterrolle bleibt. Sie können ihre eigene Informationsgrundlage verbindlich organisieren: mit klaren Zuständigkeiten, nachvollziehbarer Herkunft, aktuellen Fassungen und kontrollierter Bereitstellung.

Darin liegt die neue Bedeutung des CMS als Teil einer Vertrauensinfrastruktur. Es ersetzt weder Fachwissen noch die Prüfung einer KI-Anwendung. Es hilft aber, eine grundlegende Voraussetzung zu schaffen: dass auf dieselbe Frage nicht schon das Unternehmen selbst widersprüchliche Antworten liefert.