Deutsche CIOs kämpfen mit unklaren Zuständigkeiten

Der Einsatz von Künstlicher Intelligenz verteilt sich zunehmend über die gesamte Organisation, doch die Zuständigkeiten bleiben vielfach ungeklärt.

Eine Umfrage von Dataiku unter mehr als 600 CIOs in acht Ländern zeigt, dass 41 Prozent der deutschen IT-Chefs unklare Verantwortlichkeiten zwischen IT und Fachbereichen als größtes Hindernis für einen verantwortungsvollen KI-Einsatz sehen.

Damit liegt Deutschland im internationalen Vergleich an der Spitze der untersuchten Länder. Gleichzeitig wächst die Zahl der KI-Agenten, die außerhalb klassischer IT-Strukturen entwickelt und eingesetzt werden.

KI-Entwicklung verlässt die IT

Die Entwicklung von KI-Anwendungen und insbesondere autonomen Agenten wird zunehmend zu einer Aufgabe verschiedener Unternehmensbereiche. 81 Prozent der befragten deutschen CIOs geben an, dass Beschäftigte solche Anwendungen schneller entwickeln, als die IT sie steuern kann. International liegt dieser Anteil bei 84 Prozent.

Trotz dieser Entwicklung ist das Vertrauen in die Fachbereiche vergleichsweise hoch. 72 Prozent der deutschen CIOs gehen davon aus, dass auch nichttechnische Teams KI-Anwendungen mit den vom Unternehmen bereitgestellten Werkzeugen sicher entwickeln können.

Unklar bleibt jedoch, wer im Ernstfall die Verantwortung übernimmt. Wenn ein KI-Agent eine falsche Entscheidung trifft, sehen 27 Prozent der deutschen CIOs mehrere Teams gemeinsam in der Pflicht. 23 Prozent ordnen die Verantwortung der IT zu, 19 Prozent speziellen KI-Teams und 17 Prozent dem Bereich Compliance. Prozessverantwortliche werden lediglich von acht Prozent genannt. Bei sieben Prozent ist die Zuständigkeit überhaupt nicht eindeutig definiert.

Governance hält mit dem Tempo nicht Schritt

Die Ergebnisse deuten damit auf einen Konflikt zwischen schneller KI-Entwicklung und organisatorischer Kontrolle hin. 47 Prozent der deutschen CIOs bevorzugen eine zentrale Governance für KI, während 32 Prozent auf eine stärker fragmentierte, an einzelne Werkzeuge gebundene Steuerung setzen. Nur 16 Prozent verlassen sich vor allem auf manuelle Prozesse wie Tickets.

Ein weiteres Problem ist die sogenannte Schatten-KI. Zwar geben weltweit 91 Prozent der CIOs an, einen vollständigen Überblick über die eingesetzten Agenten zu besitzen. Gleichzeitig sagen 81 Prozent, dass sie Agenten außerhalb kontrollierter Systeme nicht vollständig identifizieren und verfolgen können.

Dataiku-Mitgründer und CEO Florian Douetteau beschreibt das Problem so: „Autonome Systeme müssen verwaltet und nicht nur überwacht werden.“ Monitoring könne zeigen, ob ein Agent aktiv sei. Entscheidend sei jedoch auch die Frage, ob er weiterhin eingesetzt werden sollte.

Nachweise und Reaktionszeiten bleiben Schwachstellen

Auch bei der Vorbereitung auf mögliche Prüfungen zeigen sich Lücken. Nur 28 Prozent der deutschen CIOs sind nach eigenen Angaben sicher, Behörden kurzfristig einen vollständigen Prüfpfad für ihre KI-Anwendungen vorlegen zu können. Weltweit liegt dieser Anteil bei 34 Prozent.

Hinzu kommt die Frage, wie schnell problematische Agenten abgeschaltet werden können. 45 Prozent der deutschen CIOs berichten, dass sie in diesem Jahr bereits mehr als 20 Agenten außer Betrieb genommen haben. Gleichzeitig rechnen 55 Prozent damit, für die zuverlässige Identifizierung und Eindämmung eines problematischen Agenten mindestens 24 Stunden zu benötigen.

Nur zwölf Prozent der Befragten in Deutschland halten eine Reaktionszeit von ein bis zwei Stunden für realistisch.

Messbarer KI-Nutzen erhöht den Druck

Für CIOs geht es dabei nicht nur um Sicherheits- und Governance-Fragen. Auch der wirtschaftliche Nachweis des KI-Einsatzes gewinnt an Bedeutung. 84 Prozent der deutschen Befragten geben an, dass sie für messbare Ergebnisse ihrer KI-Strategie persönlich einstehen würden. 69 Prozent sehen ihre Position gefährdet, wenn bis 2027 keine messbaren Erfolge nachgewiesen werden können.

Gleichzeitig fehlen vielen Unternehmen geeignete Methoden zur Erfolgsmessung. 72 Prozent der deutschen CIOs sagen, dass ihnen ausgereifte Verfahren fehlen, um den Return on Investment über verschiedene KI-Anwendungen hinweg zu bestimmen. Weltweit liegt der Anteil bei 76 Prozent.

Als besonders problematischen Bereich im Lebenszyklus von KI-Agenten nennen deutsche CIOs die Überwachung der Kosten. 19 Prozent sehen hier die größte Schwachstelle. Die menschliche Aufsicht wird dagegen nur von zwölf Prozent als kritischster Punkt genannt.

Die Ergebnisse zeichnen damit ein Bild einer KI-Nutzung, die sich schneller entwickelt als die organisatorischen Strukturen dahinter. Für Unternehmen stellt sich zunehmend nicht nur die Frage, welche KI-Anwendungen eingesetzt werden, sondern auch, wer für deren Entscheidungen, Betrieb, Kontrolle und messbare Ergebnisse verantwortlich ist.

(red/Dataiku)