Deutsche Unternehmen investieren weiterhin hohe Summen in künstliche Intelligenz, stoßen bei der Skalierung aber zunehmend auf wirtschaftliche und regulatorische Grenzen.
KI-Ausbau in Deutschland
Tokenkosten bremsen KI: Kosten und Governance bremsen Unternehmen
Eine weltweite Studie von Cloudera unter 1.500 IT-Entscheidern und Führungskräften, darunter 360 aus Deutschland, zeigt, dass steigende Betriebskosten, Compliance-Vorgaben und Anforderungen an die Datensouveränität die Umsetzung von KI-Projekten prägen.
Hohe Ausgaben, begrenzter wirtschaftlicher Nutzen
Die steigenden Kosten für den Einsatz von KI-Modellen wirken sich bereits auf konkrete Projekte aus. 85 Prozent der befragten IT-Verantwortlichen in Deutschland haben ihre KI-Anwendungsfälle eingeschränkt oder angepasst. 45 Prozent verlagerten Workloads in andere Umgebungen, beispielsweise in eine Private Cloud oder auf lokale Plattformen. Weitere 42 Prozent reduzierten unter anderem die Verarbeitungsfrequenz, die Modellgröße oder den Umfang der Ausgaben und Kontextdaten.
Trotz dieser Anpassungen bleiben die Investitionen hoch. 41 Prozent der Befragten erhöhten ihre KI-Ausgaben im vergangenen Jahr. Mehr als zwei Drittel investieren jährlich mindestens 500.000 US-Dollar, bei 33 Prozent liegt das Budget bei mindestens einer Million US-Dollar.
Der wirtschaftliche Nutzen fällt allerdings unterschiedlich aus: 61 Prozent sehen Kosten und Aufwand durch den erzielten Nutzen ausgeglichen. Nur 21 Prozent berichten von einem Mehrwert, der die Kosten übersteigt. Damit bleibt der Nachweis des Return on Investment für viele Unternehmen eine offene Aufgabe.
Governance wird zur größten Hürde
Neben den Kosten erschweren interne Kontrollanforderungen den Ausbau von KI. 73 Prozent der deutschen Befragten nennen Governance und Compliance als größte Hindernisse für die Skalierung. Weltweit liegt dieser Anteil laut Cloudera bei 75 Prozent.
Weitere Schwierigkeiten betreffen die verfügbaren Kompetenzen und die technische Integration. 40 Prozent der Befragten in Deutschland sehen fehlendes Fachwissen als Herausforderung. Jeweils 39 Prozent nennen Datenintegration und Datensouveränität. Die Kosten für Tokenverbrauch und Inferenz werden von 45 Prozent als Hindernis eingestuft.
Zudem entwickelt sich der Einsatz von KI teilweise schneller als die internen Kontrollmechanismen. 29 Prozent der deutschen Befragten sind der Ansicht, dass KI die vorhandenen Kontrollen überholt. Nur 46 Prozent sehen ein ausgewogenes Verhältnis zwischen technischer Entwicklung und Kontrollmöglichkeiten.
Datenstandort beeinflusst die Wahl der Infrastruktur
Auch die Frage, wo KI-Anwendungen betrieben werden, gewinnt an Bedeutung. Für 41 Prozent der deutschen IT-Entscheider sind Datensouveränität und Datenstandort die wichtigsten Gründe für den Einsatz unterschiedlicher IT-Umgebungen. Insgesamt berücksichtigen 85 Prozent bei der Platzierung ihrer Workloads Vorgaben zur Datenresidenz und Souveränität.
Hybride Infrastrukturen können Unternehmen ermöglichen, Anwendungen abhängig von technischen und regulatorischen Anforderungen zu verteilen. Der Wechsel zwischen verschiedenen Umgebungen ist allerdings nicht immer einfach: 56 Prozent der Befragten geben an, dass ein solcher Wechsel einen mittleren oder größeren Anpassungsaufwand erfordert.
Christian Sohn, Regional Vice President für Deutschland und Österreich bei Cloudera, sieht darin eine zentrale Herausforderung für die weitere Entwicklung von Unternehmens-KI. „Kosten und regulatorische Vorgaben ändern sich, Modelle entwickeln sich weiter, und damit wandelt sich auch der optimale Ort für die Ausführung von Workloads.“
Wirtschaftlichkeit und Kontrolle müssen zusammenspielen
Die Ergebnisse der Studie „The State of Enterprise AI 2026: The New Rules of Scale“ verdeutlichen, dass der Ausbau von KI nicht allein von leistungsfähigen Modellen abhängt. Unternehmen müssen zugleich nachvollziehen können, welche Kosten im Betrieb entstehen, welche Ergebnisse die Anwendungen liefern und ob ihre Kontrollmechanismen mit der Entwicklung Schritt halten.
Dafür sind transparente Kostenmodelle, klar definierte Grenzwerte und kontinuierliche Governance wichtig. Ebenso entscheidend ist eine Infrastruktur, die es ermöglicht, KI-Anwendungen unter Berücksichtigung von Datenstandort, Sicherheitsanforderungen und regulatorischen Vorgaben zu betreiben. Der geeignete Ausführungsort wird damit zunehmend zu einer strategischen Frage für Unternehmen.
(red/Cloudera)
