Vertrauen steigert Erfolg von KI-Projekten

Laut einer SAS/IDC-Studie steigt die Erfolgschance von KI-Projekten um das 15-Fache, wenn Unternehmen auf vertrauenswürdige KI setzen.

Der Softwareanbieter SAS hat gemeinsam mit dem Marktforschungsunternehmen IDC die zweite Ausgabe des „Data and AI Impact Report: The New Economics of Trust“ veröffentlicht. Für die Studie wurden weltweit rund 2.700 Entscheiderinnen und Entscheider in 28 Ländern befragt, die in ihren Unternehmen mit Daten- und KI-Initiativen befasst sind. Da SAS selbst Software für Datenmanagement und KI-Governance vertreibt, hat das Unternehmen ein kommerzielles Interesse an den Ergebnissen der von ihm beauftragten Studie.

Vertrauenswürdige KI als Erfolgsfaktor

IDC unterteilt die befragten Organisationen anhand eines sogenannten Trustworthiness-Index in „Vorreiter“ (mindestens 80 von 100 Punkten) und „Nachzügler“ (weniger als 40 Punkte). Der Studie zufolge steigt die Wahrscheinlichkeit eines profitablen KI-Projekts um das 15-Fache, wenn ein Unternehmen Maßnahmen zur Förderung vertrauenswürdiger KI umsetzt (62 Prozent gegenüber 4 Prozent). Unternehmen mit starker Governance, Datenqualität und Auditierbarkeit berichten demnach von einem mindestens doppelt so hohen ROI aus ihren KI-Projekten wie Nachzügler; unter Letzteren erreicht diesen Wert einer Auswertung von Computer Weekly zufolge weniger als jedes zwanzigste Unternehmen. 85 Prozent der Vorreiter erhöhen ihre Investitionen in vertrauenswürdige KI in diesem Jahr um mehr als zehn Prozent.

„Wenn KI funktioniert, ist sie unglaublich wirkungsvoll. Allerdings können selbst die besten Agenten bei komplexen Aufgaben Fehlerquoten von mehr als 25 Prozent haben – und das ist inakzeptabel bei Entscheidungen, bei denen viel auf dem Spiel steht.“

Bryan Harris, SAS-CTO

Anzeige

Organisationen müssten deshalb Fachwissen in agentische Workflows einbauen und Governance sowie Kontrolle in den Händen der Mitarbeitenden belassen, so Harris weiter.

Mitarbeitende trauen KI-Ergebnissen oft nicht

Laut Studie überschreiben rund 97 Prozent der Anwenderinnen und Anwender KI-generierte Empfehlungen zumindest gelegentlich. Häufigster Grund dafür ist demnach nicht ein als falsch erkanntes Ergebnis, sondern eine nicht nachvollziehbare Herleitung der KI-Entscheidung. Generative KI-Anwendungen wie ChatGPT, Gemini oder Claude genießen mit 76 Prozent mehr Vertrauen als KI-Agenten mit 66 Prozent – ein Hinweis darauf, dass die Bedenken mit wachsender Autonomie der Systeme zunehmen.

Schwache Datengrundlage als häufigster Fallstrick

Als einen der wichtigsten Gründe für ausbleibende Erfolge nennt die Studie unzureichende Dateninfrastrukturen: Nicht einmal jedes fünfte Unternehmen (17,5 Prozent) hat seine Datenbasis nach eigenen Angaben umfassend so optimiert, dass sie den Anforderungen von KI-Agenten entspricht. Unternehmen mit optimierter Datengrundlage haben laut Studie eine viermal höhere Chance auf einen starken ROI aus ihren KI-Projekten.

Unterschiede zwischen den Branchen

Die Studie konzentriert sich auf vier Branchen: Banken, Versicherungen, Life Sciences und öffentliche Verwaltung. Banken gelten demnach als Vorreiter bei KI-Governance: 85 Prozent der dortigen Vorreiter-Unternehmen haben bereits entsprechende Frameworks aufgebaut, unter den Nachzüglern der Branche sind es nur 29 Prozent. Im öffentlichen Sektor wollen 41 Prozent der Vorreiter-Organisationen ihre KI-Investitionen im kommenden Jahr um mehr als 20 Prozent erhöhen. In der Life-Science-Branche hat laut Studie bereits fast ein Viertel der Unternehmen KI über die gesamte Organisation hinweg skaliert – der höchste Anteil unter den untersuchten Branchen.

(red/SAS)