Gartner: Hälfte der Firmen wird auf Zero Trust bei Daten setzen

Die rasante Zunahme ungeprüfter KI-generierter Daten zwingt Unternehmen zum Umdenken. Gartner erwartet einen fundamentalen Wandel in der Datenverwaltung.

Bis 2028 wird die Hälfte aller Organisationen eine Zero-Trust-Haltung für ihre Data Governance implementieren müssen. Grund dafür ist die zunehmende Verbreitung ungeprüfter, KI-generierter Daten, wie das Marktforschungsunternehmen Gartner prognostiziert.

„Organisationen können Daten nicht länger implizit vertrauen oder davon ausgehen, dass sie von Menschen erstellt wurden”, erklärt Wan Fui Chan, Managing Vice President bei Gartner. Angesichts der Tatsache, dass KI-generierte Daten allgegenwärtig und kaum noch von menschlich erstellten Inhalten zu unterscheiden sind, seien Authentifizierungs- und Verifikationsmaßnahmen unerlässlich geworden, um geschäftliche und finanzielle Ergebnisse abzusichern.

Modellkollaps und verschärfte Compliance-Anforderungen

Large Language Models (LLMs) werden typischerweise mit Daten trainiert, die aus dem Web extrahiert wurden, darunter Bücher, Code-Repositories und wissenschaftliche Publikationen. Einige dieser Quellen enthalten bereits KI-generierte Inhalte, und sollte sich der aktuelle Trend fortsetzen, werden nahezu alle Datenquellen künftig mit KI-generierten Informationen durchsetzt sein.

Laut der Gartner CIO and Technology Executive Survey 2026 erwarten 84 Prozent der Befragten, dass ihre Organisation die Investitionen in Generative AI im Jahr 2026 erhöhen wird. Mit der beschleunigten Einführung und steigenden Investitionen in KI-Initiativen wächst auch das Volumen KI-generierter Daten kontinuierlich. Die Folge: Künftige LLM-Generationen werden zunehmend mit Outputs vorheriger Modelle trainiert, was das Risiko eines „Modellkollapses” erhöht. Damit ist ein Phänomen gemeint, bei dem die Antworten der KI-Tools nicht mehr die Realität widerspiegeln.

„Mit der zunehmenden Verbreitung KI-generierter Inhalte ist in bestimmten Regionen mit verschärften regulatorischen Anforderungen zur Verifizierung ‘KI-freier’ Daten zu rechnen”, so Chan. Allerdings könnten sich diese Anforderungen geografisch erheblich unterscheiden: Während einige Jurisdiktionen strengere Kontrollen für KI-generierte Inhalte durchsetzen wollen, könnten andere einen flexibleren Ansatz verfolgen.

In diesem sich wandelnden regulatorischen Umfeld werden alle Organisationen die Fähigkeit benötigen, KI-generierte Daten zu identifizieren und zu kennzeichnen. Der Erfolg hängt dabei von geeigneten Tools und einer Belegschaft ab, die in Informations- und Wissensmanagement geschult ist. Metadaten-Management-Lösungen werden für die Datenkatalogisierung unverzichtbar.

Aktive Metadaten-Management-Praktiken werden zum entscheidenden Differenzierungsmerkmal und ermöglichen es Unternehmen, Analysen durchzuführen, Warnungen auszugeben und Entscheidungen über ihre Datenbestände hinweg zu automatisieren.

Strategien für den Umgang mit ungeprüften Daten

Gartner empfiehlt Unternehmen mehrere strategische Maßnahmen zur Bewältigung der Risiken ungeprüfter Daten:

Ernennung eines AI-Governance-Verantwortlichen: Unternehmen sollten eine spezielle Rolle schaffen, die für AI Governance verantwortlich ist, einschließlich Zero-Trust-Richtlinien, KI-Risikomanagement und Compliance-Operationen. Diese Führungskraft sollte eng mit Data-and-Analytics-Teams zusammenarbeiten, um sowohl KI-bereite Daten als auch Systeme sicherzustellen, die mit KI-generierten Inhalten umgehen können.

Förderung funktionsübergreifender Zusammenarbeit: Die Bildung cross-funktionaler Teams aus Cybersecurity, Data and Analytics und anderen relevanten Stakeholdern ermöglicht umfassende Datenrisikobewertungen. Dabei gilt es zu identifizieren, welche Geschäftsrisiken im Zusammenhang mit KI-generierten Daten durch bestehende Datensicherheitsrichtlinien abgedeckt sind und wo neue Strategien erforderlich werden.

Nutzung bestehender Governance-Richtlinien: Unternehmen sollten auf aktuellen Data-and-Analytics-Governance-Frameworks aufbauen und sich auf die Aktualisierung von Sicherheits-, Metadaten-Management- und Ethik-bezogenen Richtlinien konzentrieren, um neue Risiken durch KI-generierte Daten zu adressieren.