Transparenz bei KI-Entscheidungen wichtig

Während die KI-Nutzung also rasant zunimmt, bleiben einige Fragen ungeklärt. Wer steuert den Einsatz von KI, welche Rolle nehmen CIOs dabei ein und wie sind Verantwortlichkeiten verteilt? 

Die internationale Technologieberatung Thoughtworks hat diese Fragen in den Mittelpunkt ihrer jüngsten Studie – „Global CIO Survey: Who governs enterprise AI?“ – gestellt. Dafür wurden 3.200 CIOs in zehn Ländern befragt, darunter auch 400 CIOs in Deutschland. Aus den Aussagen der Befragten hierzulande lassen sich besonders drei Schlussfolgerungen ziehen: 

• CIOs fürchten, dass durch KI-Nutzung der Belegschaft Probleme entstehen, für die sie verantwortlich gemacht werden: Diese Sorgen treiben 41,2 % der CIOs hierzulande um. Dies ist der höchste Wert aller befragten Länder. In Deutschland betrachten CIOs die Auswirkungen von KI innerhalb des Unternehmens somit kritischer als mögliche externe Bedrohungen.

• Deutsche CIOs berichten von einigen der größten Reibungspunkte bei den Zuständigkeiten weltweit: 31,0 % nennen fragmentierte Zuständigkeiten über Geschäftsbereiche hinweg und 29,8 % unklare IT-Aufgabenmandate als größte Herausforderungen bei Skalierungen – beides liegt deutlich über den globalen Durchschnittswerten (25,5 % beziehungsweise 23,9 %).

• Die Position des Chief AI Officers (CAIO) ist hierzulande vielfach eingeführt, mit hohen Autonomiebefugnissen: Viele deutsche Unternehmen haben bereits die Rolle des CAIO etabliert (76,0 %). Auffällig dabei ist: Unter den Befragten weisen sie den höchsten Anteil an CAIOs auf, die völlig unabhängig vom CIO oder CTO arbeiten (39,3 %). Reibungspunkte hängen hier eng mit diesem Ausmaß an Autonomie zusammen. Außerdem zählt in Deutschland die Einstellung eines CAIOs zu den wichtigsten geplanten Maßnahmen (41,0 % gegenüber einem Durchschnitt von 26,5 %.)

Die Ergebnisse zeigen: Es bedarf klareren Regelwerken, eindeutigeren Rollen und Verantwortlichkeiten sowie Transparenz für die KI-Steuerung und -Nutzung hierzulande. Was bedeutet dies in der Praxis?

Rollen und ihre Abgrenzung

Unternehmens-KI erstreckt sich über zu viele Bereiche, als dass die Steuerung ausschließlich in den Zuständigkeitsbereich einer einzigen Führungskraft fallen sollte. Die wesentliche Frage lautet somit nicht, bei wem die vollständige Verantwortung für die KI-Steuerung liegt. Vielmehr ist festzulegen, wie die Verantwortung aufgeteilt wird. Zentral ist daneben die Frage, wie Entscheidungen zwischen den Führungskräften für Technologie, KI, das Personal und die Geschäftsergebnisse ausgetauscht werden.

Eine mögliche Technologie-Rollenaufteilung kann zum Beispiel wie folgt aussehen: Die Verantwortung der CIO-Position bezieht sich auf die interne Technologieumgebung und wie diese den Betrieb und die Transformation eines Unternehmens ermöglicht. Der CTO gibt die allgemeine technologische und technische Ausrichtung vor, während die Rolle des Chief Data and AI Officer die Ausrichtung, Strategie, Plattformen und Fähigkeiten der Unternehmens-KI umfasst. Diese Aufteilung haben wir bei Thoughtworks etabliert. Die drei Positionen sind einerseits klar voneinander abgegrenzt, andererseits bewusst miteinander verknüpft. 

Funktionsübergreifende Aufgaben

Dasselbe Prinzip wenden wir über die Technologieleitung hinaus an. So betrachten wir die Ausgestaltung der Arbeit, die Kompetenzen der Belegschaft und die Messung von Ergebnissen als funktionsübergreifende Aufgaben und nicht als Zuständigkeiten einzelner Teams. Die KI-Ökonomie schafft zudem eine klare Schnittstelle zum Finanzbereich. Dies bedeutet, dass Finanzteams Einblick haben sollten, wie sich der KI-Einsatz auf Budgets und den Unternehmenswert auswirkt. Warum dies wichtig ist, zeigt das Beispiel eines aktuell viel diskutierten Themas: der Token-Verbrauch.

Sind Entscheidungen zur KI-Nutzung unternehmensweit verteilt – etwa, wenn in verschiedenen Geschäftsbereichen Agenten eingesetzt oder bestimmte Workflows etabliert werden – sammeln sich Kosten dezentral an. Die KI-Ökonomie wird damit zum Governance-Thema, das nicht allein einzelnen Teams – sei es aus der Entwicklung oder dem Procurement – überlassen werden kann. Zu beachten gilt auch, dass leistungsfähigere Modelle und agentenbasierte Workflows durch den Aufruf mehrerer Tools, der Wiederholung von Aufgaben etc. mehr Ressourcen verbrauchen. Wenn sich der KI-Einsatz innerhalb einer Organisation ausweitet – sowohl durch Mitarbeiter als auch durch KI-Agenten – steigt der Gesamtverbrauch, der Betrieb wird teurer.

Neue Leistungskennwerte

Für die Bewertung des KI-Einsatzes müssen Unternehmen künftig mehr als den bloßen Token-Verbrauch messen. Entscheidend ist, ob der geschaffene Wert den Ressourcenaufwand rechtfertigt, welche Kosten beim Abschluss eines Workflows entstehen und ob das Geschäftsergebnis in einem angemessenen Verhältnis dazu steht. Besonders bei dezentralen Entscheidungen mangelt es Mitarbeitern häufig an einem Überblick der Gesamtkosten. Deshalb müssen wirtschaftliche Transparenz und Entscheidungsbefugnisse eng verknüpft sein: Teams benötigen Informationen zu den Kosten ihrer Entscheidungen, während das Unternehmen den Gesamtüberblick behält.

Eine Folge davon ist, dass in puncto KI-Governance zunehmend sowohl der CFO als auch die Technologieführung eingebunden werden und eng zusammenarbeiten sollten. Nicht, weil die Finanzabteilung die KI-Entscheidungen zu treffen hat, sondern weil Unternehmen den dezentralen KI-Einsatz mit Budgetierung, Margen und geschäftlichem Nutzen verknüpfen müssen. Die Herausforderung besteht nicht darin, jede KI-Entscheidung zu zentralisieren. Vielmehr gilt es ein Governance-Modell zu schaffen, in dem die Entscheidungsträger die wirtschaftlichen Konsequenzen ihrer Entscheidungen verstehen, während das Unternehmen einen klaren Überblick darüber behält, ob KI-Investitionen einen Mehrwert schaffen.

(red/Thoughtworks)