Paradoxe KI-Entwicklung: Strenge Richtlinien, aber sinkendes Vertrauen im Betrieb

Obwohl deutsche Unternehmen ihre KI-Governance massiv ausbauen, lehnen Beschäftigte ein Drittel aller KI-Empfehlungen ab. Die Hauptgründe sind mangelnde Erklärbarkeit und fehlerhafte Daten.

Der EU AI Act als Treiber der Modell-Governance

Deutsche Unternehmen haben ihre Kontrollstrukturen für Künstliche Intelligenz im vergangenen Jahr erheblich gestärkt. Laut dem aktuellen „Data and AI Impact Report“ von SAS und IDC kletterte der Index für vertrauenswürdige KI-Systeme in Deutschland um 8,1 Punkte auf 59,1 Punkte. Haupttreiber dieser Entwicklung ist das Inkrafttreten des EU AI Act, der Unternehmen zu verbindlichen Risikoklassifizierungen, Modelldokumentationen und Prozesskontrollen verpflichtet. Mit einer Quote von 66,3 Prozent bei der Einführung formeller Richtlinien für verantwortungsvolle KI nimmt Deutschland im europäischen Vergleich sogar eine Führungsposition ein. Dennoch sinkt das wahrgenommene Vertrauen der Anwender in die Systeme parallel ab, wodurch sich die Lücke zwischen Anspruch und verlässlicher Realität auf 10,4 Punkte verkleinert hat.

Skepsis am Arbeitsplatz durch mangelnde Erklärbarkeit

Die gestiegene regulatorische Disziplin schützt Unternehmen bislang nicht vor einer ausgeprägten Nutzer-Skepsis im Arbeitsalltag. In Deutschland verwerfen Beschäftigte knapp ein Drittel aller Vorschläge von KI-Systemen. Mangelnde Nachvollziehbarkeit und fehlende Erklärbarkeit der Ergebnisse bilden dabei mit 32,2 Prozent die Hauptursache, gefolgt von qualitativ fehlerhaftem Output und unfairen Verzerrungen. Das Problem verschärft sich durch den raschen Einzug von Agentic AI, die in fast jedem zweiten deutschen Unternehmen eigenständig Aufgaben abwickelt. Da global knapp 89 Prozent dieser KI-Agenten mit autonomen Entscheidungsbefugnissen arbeiten, fällt das Vertrauen in sie deutlich geringer aus als in klassische generative Textmodelle. Ursache für die mangelhafte Verlässlichkeit ist meist das Fundament: Nur bei 16,3 Prozent der deutschen Firmen sind strikte Prozesse zur Sicherung der Datenqualität für jedes Projekt verpflichtend vorgeschrieben.

Fokus auf ROI und saubere Datenfundamente

Trotz der Vorbehalte intensivieren die Betriebe ihre Budgets. Über 58 Prozent der deutschen Befragten planen, ihre Ausgaben für Künstliche Intelligenz in den kommenden zwölf Monaten anzuheben. Damit steigt jedoch auch der betriebswirtschaftliche Erfolgsdruck, weshalb messbare Kostensenkungen und der Nachweis eines konkreten Return on Investment (ROI) rasant an Bedeutung gewinnen. Unternehmen mit nachweislich ausgereifter KI-Governance erzielen dabei eine bis zu 15-mal höhere Wahrscheinlichkeit auf einen starken ROI.

„Deutsche Unternehmen haben in kurzer Zeit beachtliche Fortschritte bei KI-Governance und Compliance gemacht. Die eigentliche Aufgabe beginnt jetzt erst: Wer Governance nur auf dem Papier hat, wird weder das Vertrauen seiner Anwender gewinnen noch den ROI erzielen, den KI ermöglicht. Datenqualität muss in die Systeme eingebettet sein – nicht nachträglich geprüft werden. Jeder Fehler in den Daten multipliziert sich auf dem Weg zum KI-Ergebnis. Das ist keine technische Detailfrage, sondern eine strategische Entscheidung.“

Anzeige

— Ingo Macht, Country Leader Deutschland bei SAS

(red/SAS)