Deutsche Führungskräfte uneinig über Verantwortung bei KI-Fehlern

Unternehmen investieren zunehmend in künstliche Intelligenz, doch bei der Frage nach Verantwortung und Kontrolle herrscht weiterhin Uneinigkeit.

Eine von ABBYY beauftragte Studie zeigt für Deutschland, dass vor allem Datenqualität, fehlende Governance-Strukturen und unklare Zuständigkeiten die weitere Verbreitung von KI bremsen.

Wer trägt die Verantwortung?

Für die Untersuchung „Who Answers for AI: The Governance Gap“ wurden 1.200 Führungskräfte aus Unternehmen mit mindestens 100 Beschäftigten in sechs Ländern befragt. Die deutsche Auswertung basiert auf 200 Teilnehmern.

Eine eindeutige Zuordnung der Verantwortung für fehlerhafte oder schädliche KI-Ergebnisse gibt es demnach nicht. 29 Prozent der deutschen Führungskräfte, deren Unternehmen KI einsetzen, wollen die Verantwortung zwischen Unternehmen und Anbieter aufteilen. 27 Prozent sehen das Unternehmen selbst in der Pflicht, während 28 Prozent hauptsächlich den KI-Anbieter verantwortlich machen. Weitere 12 Prozent nennen den Endnutzer, vier Prozent die Aufsichtsbehörden.

Die Verteilung zeigt, dass Unternehmen offenbar noch kein einheitliches Verständnis davon haben, wer bei Problemen mit KI-Systemen letztlich einstehen muss.

Einführung schneller als Kontrolle

Auch beim Vertrauen in KI-Systeme zeigen sich deutliche Vorbehalte. Nur 29 Prozent der befragten Führungskräfte vertrauen vollständig darauf, dass die Systeme korrekte Ergebnisse liefern. Lediglich ein Viertel ist uneingeschränkt davon überzeugt, dass KI wichtige Entscheidungen nachvollziehbar erklären kann.

Beim Schutz vertraulicher Informationen sind 31 Prozent vollständig überzeugt, während nur 28 Prozent sicher sind, dass KI keine unvertretbaren Risiken verursacht.

Gleichzeitig schreitet die Einführung vielfach schneller voran als der Aufbau entsprechender Kontrollmechanismen. 55 Prozent der Befragten sagen, dass ihr Unternehmen KI schneller einführt, als es die Technologie wirksam steuern kann. Bei 29 Prozent haben ethische Bedenken die Umsetzung von KI-Projekten bereits deutlich verzögert.

Damit entsteht eine Governance-Lücke zwischen dem Tempo der technologischen Einführung und den organisatorischen Voraussetzungen für einen kontrollierten Einsatz.

Datenqualität wird zum wirtschaftlichen Faktor

Eine zentrale Hürde liegt bei den Daten. 62 Prozent der deutschen Führungskräfte in KI-nutzenden Unternehmen geben an, dass Anforderungen an die Data Governance die Einführung von KI verlangsamen.

Auch beim wirtschaftlichen Nutzen spielt die Qualität der Datengrundlage eine wichtige Rolle. 24 Prozent nennen Bedenken hinsichtlich der Datenqualität als größte Herausforderung für einen höheren Return on Investment. Dahinter folgen der Fachkräftemangel mit 16 Prozent sowie Governance- und Aufsichtsanforderungen mit zwölf Prozent.

Die Studie deutet damit darauf hin, dass der wirtschaftliche Erfolg von KI nicht allein von den eingesetzten Modellen abhängt. Ebenso wichtig sind verlässliche Daten, klare Regeln für deren Nutzung und geeignete Kontrollprozesse.

Governance kann Projekte voranbringen

In Unternehmen mit einem formellen KI-Governance-Rahmen sehen die Befragten offenbar konkrete Vorteile. 77 Prozent geben an, dass ihre KI-Initiativen dadurch erfolgreicher geworden sind. Für 73 Prozent gelingt es mit dem jeweiligen Governance-Ansatz besser, Risikominimierung und eine schnelle Einführung miteinander zu verbinden.

Insgesamt verfügen 82 Prozent der befragten Unternehmen mit KI-Einsatz bereits über ein formelles Governance-Rahmenwerk. Allerdings unterscheiden sich die vorhandenen Strukturen deutlich in ihrer Ausgestaltung.

Nur 50 Prozent haben ein Verfahren zur Meldung von KI-Vorfällen. 52 Prozent verfügen über einen entsprechenden Reaktionsplan. Einen Mechanismus zum Abschalten von KI-Systemen gibt es bei 45 Prozent, eine Rollback-Funktion bei 38 Prozent.

Unternehmen ohne formelle Governance planen teilweise nachzuziehen. 13 Prozent der Befragten geben an, dass ihr Unternehmen derzeit noch über keinen entsprechenden Rahmen verfügt, innerhalb der nächsten zwölf Monate aber einen aufbauen will.

Verantwortung muss im Unternehmen bekannt sein

Eine weitere Schwachstelle betrifft die interne Kommunikation. Während 87 Prozent der Befragten davon ausgehen, dass die oberste Führungsebene weiß, wer für Entwicklung, Einführung und Steuerung von KI zuständig ist, liegt dieser Wert bei Beschäftigten auf niedrigeren Hierarchieebenen nur bei 69 Prozent.

Das mittlere Management schneidet mit 89 Prozent sogar etwas besser ab als die oberste Führungsebene.

Auch die menschliche Kontrolle bleibt ein wichtiger Bestandteil der Governance. 59 Prozent der deutschen Führungskräfte geben an, dass Menschen wichtige KI-Entscheidungen prüfen, bevor daraus konkrete Maßnahmen entstehen.

Governance beschränkt sich damit nicht auf technische Kontrollmechanismen. Zuständigkeiten, interne Prozesse und menschliche Aufsicht müssen ebenfalls geregelt sein.

KI-Ausgaben steigen weiter

Trotz der bestehenden Unsicherheiten setzen Unternehmen ihre Investitionen in KI fort. Deutsche Unternehmen haben laut der Studie in den vergangenen zwölf Monaten durchschnittlich rund 1,053 Millionen Euro für KI-Tools ausgegeben.

96 Prozent der Befragten erwarten zudem steigende Investitionen in den kommenden zwölf Monaten. Im Durchschnitt rechnen sie mit einem Plus von 19,6 Prozent.

Der Investitionswille steht damit einem weiterhin uneinheitlichen Umgang mit Verantwortung und Kontrolle gegenüber. Für Unternehmen wird es deshalb zunehmend darauf ankommen, den Ausbau von KI nicht isoliert als Technologieprojekt zu betrachten. Datenqualität, klare Zuständigkeiten, Risikomanagement und menschliche Kontrolle werden zu Voraussetzungen dafür, dass aus steigenden KI-Ausgaben auch ein nachhaltiger geschäftlicher Nutzen entsteht.

(red/ABBYY)