KI-Kosten außer Kontrolle? Unternehmen müssen ihren Verbrauch messen

Künstliche Intelligenz ist fester Bestandteil des Arbeitsalltags. Das treibt den Tokenverbrauch und damit die Kosten massiv nach oben.

Gleichzeitig sind die Kosten für die neuesten KI-Modelle gestiegen. So kostet „Claude Fable 5“ von Anthropic mit etwa 9 Euro pro Million Eingabetoken und rund 45 Euro pro Million Ausgabetoken doppelt so viel wie das bisher teuerste Modell des Unternehmens, „Claude Opus 4.8“. Token sind eine Möglichkeit den KI-Verbrauch abzurechnen, sind aber nicht für jede KI-Anwendung üblich, da auch teils eine Pauschale pro Person festgelegt ist. Ein Unternehmen, das beispielsweise ChatGPT, Microsoft Copilot über Nutzerlizenzen einkauft, sieht möglicherweise gar keine Tokenrechnung.

Jenseits der verschiedenen Kostenblöcke, fehlt Unternehmen jedoch der Überblick. Sie können nicht direkt nachvollziehen, für welche Anwendungen welche Kosten entstehen.

KI wird zum Thema bei Finanzverantwortlichen

Unternehmen bauen aktuell ihre Investitionen in KI aus. Das wird laut einer Auswertung über Ausgaben in Europa deutlich. So ist OpenAI nicht nur nach wie vor der wichtigste Tech-Anbieter in Deutschland, sondern wächst weiter. Konkurrenten wie Anthropic holen jedoch auf. Das Unternehmen hinter Claude verzeichnet einen deutlichen Anstieg mit einem Wachstum an Durchschnittsausgaben pro Kunde oder Kundin um 33,1 Prozent gegenüber dem Vorjahresquartal. 

Durch diesen Einsatz in der Breite stellt sich weniger die Frage nach dem ob, sondern wie KI wirtschaftlich verwendet wird. Doch neben dem Vertrauen in die Technologie wachsen auch die Kosten. Denn die neuen Modelle und ihre Leistungsfähigkeit haben ihren Preis. Somit entsteht in der Finanzabteilung der Druck, KI-Ausgaben zu regulieren.

Führungskräfte wenden sich daher oft an die Finanzabteilung, da jedes KI-Projekt über ihren Schreibtisch geht. Diese hat die Möglichkeit, abteilungsübergreifend Fachbereiche zusammenzubringen und so auszuloten, wie künstliche Intelligenz wirkungsvoll, aber nachhaltig genutzt werden kann.

KI-Erfolg sollte gemessen werden

KI kann unsere Produktivität steigern, allerdings können KI-Projekte auch mit hohen Kosten, mangelnder Nutzung und Fehlerquellen verbunden werden. Die Gründe hierfür sind verschieden. Token können unverhältnismäßig verbraucht werden, weil die Prompts mangelhaft sind. Teils beklagen Nutzerinnen und Nutzer die fehlende Kompatibilität der Anwendungen untereinander, aber es können auch vermeidbare Kosten entstehen, etwa durch Tool-Dopplung. Tiefgreifendere Herausforderungen können durch fehlenden Datenaustausch der Anwendungen untereinander entstehen. Ganz problematisch wird es bei der Nutzung von Schatten-KI, wenn Mitarbeitende eigene Software verwenden, statt auf die freigegebenen, unternehmenseigenen Modelle zurückzugreifen. 

Es ist daher wichtig, nicht nur KI-Kompetenz, sondern auch KI-Verständnis einzufordern. Denn laut dem Branchenverband Bitcom nutzen 61 Prozent der Unternehmen, die KI einsetzen, die Technologie zur Verbesserung ihres eigenen Geschäftsbetriebs. Allerdings muss die technische Infrastruktur auch den Anforderungen gerecht werden. Aus Sicht der Finanz-Teams geht eine Erfolgsmessung dabei weit über die Wahrnehmung hinaus, wie häufig KI verwendet wird. Beispielsweise können zwei Teams eine ähnliche Nutzungsdauer haben, aber sie für völlig unterschiedliche Zwecke einsetzen. Einerseits kann sie für das Kerngeschäft genutzt werden, andererseits auch für nebensächliche Projekte. Beides führt zu einer ganz anderen Bewertung des KI-Nutzens.

Innovation ermöglichen trotz Kostenkontrolle

Grundsätzlich ordnet die Finanzabteilung Ausgaben einzelnen Bereichen und Nutzenden zu und gleicht sie mit dem erwarteten Nutzen ab. Die Bewertung sollte an den Einsatz im Unternehmen angepasst sein, etwa die Zeit zum ersten Kampagnenentwurf. Erst dadurch wird sichtbar, wie viel produktiver einzelne Abteilungen werden im Verlauf der KI-Implementierung. Dadurch werden schnell überproportionale und ungewöhnlich hohe KI-Nutzungen sichtbar. Auch der Tokenverbrauch sollte in dem Zusammenhang kontrolliert werden. Hierbei kommt es auch ganz darauf an, welche KI-Anbieter verwendet werden, da die Preise variieren. Allerdings ist ein Anbieterwechsel auch schwierig. Laut Bitkom sagen 59 Prozent der befragten Unternehmen, dass sie wegen eines Lock-in-Effekt nicht wechseln wollen. Sie befürchten Probleme beim Datenexport und der Migration.

Wie effektiv die KI-Implementierung in den jeweiligen Abteilungen wirklich ist, kann anhand der Integration von KI als Kennzahl in Berichten und Budgets festgestellt werden. Dort wird auch deutlich, welche Auswirkungen KI auf den Return-on-Invest hat. Auch im Abgleich zu den Mitarbeiterzahlen wird deutlich, ob sich die Investitionen auszahlen.

Andererseits sollte bei der effektiven KI-Nutzung nicht nur an Kosten gedacht werden. Vielmehr sollte im Fokus stehen, welchen Nutzen KI für das Unternehmen schafft und welche Ergebnisse den Investitionen gegenüberstehen. Entscheidend ist letztlich immer der individuelle Anwendungsfall, der bei den Ausgaben im Blick behalten werden muss. So können bei einer komplett neuen KI-Anwendung am Anfang mehr Kosten entstehen, dadurch dass Mitarbeitende erst herausfinden müssen, wie sie die Technologie in ihren Arbeitsalltag integrieren.

Kosten-Optimierung der KI ist möglich

Letztlich ist für die Berechnung der Kennzahlen rund um KI keine komplexe Technologie notwendig. Generell genügt es, bestehende Messinstrumente um die Ausgaben für KI und deren Nutzen zu ergänzen. Einerseits müssen im Ausgabenmanagement die Kosten für die Anwendung von KI transparent erfasst werden. Andererseits sollte der Mehrwert, den KI für die Arbeit hat, sichtbar gemacht werden. Dazu ist es elementar, dass die Finanzabteilung sich eng mit den Fachabteilungen abstimmt.

Hier fällt den Finanzentscheidern mehr die Koordination zu. Sie schränken weder bei der Umsetzung noch der Implementierung von KI ein, sodass diese von den Teams unkompliziert genutzt werden kann. Auch stellt die Finanzabteilung sicher, dass sie im Beschaffungsprozess nicht ausbremst werden. Ihre Ausgabenrichtlinien und Genehmigungskontrollen sollten auf die Wünsche nach KI-Anwendungen innerhalb der Fachabteilungen abgestimmt sein.