Fünf Fragen vor der Investition in KI-Souveränität

Der Technologieberater HTEC nennt fünf Fragen, die Unternehmen vor einer Investition in souveräne KI-Infrastruktur klären sollten.

In vielen Unternehmen wird derzeit über digitale Souveränität diskutiert, insbesondere bei künstlicher Intelligenz, da die Technologie geschäftskritisch ist und häufig mit Abhängigkeiten einhergeht. Nach Einschätzung des Technologieunternehmens HTEC ist souveräne KI jedoch nicht in jedem Fall notwendig oder sinnvoll umsetzbar. Unternehmen müssten daher nur selten den kompletten KI-Stack selbst hosten und betreiben, sondern sollten zunächst Anforderungen der eigenen Workloads sowie die Kosten von Infrastrukturen, Betriebsmodellen und Abhängigkeiten gegeneinander abwägen.

Welche Workloads brauchen überhaupt Souveränität

Ob ein souveräner KI-Stack benötigt wird, hängt laut HTEC vom jeweiligen Anwendungsfall, den zu verarbeitenden Daten sowie geltenden regulatorischen und risikobezogenen Anforderungen ab. Sensible Informationen, die das Unternehmen oder das Land nicht verlassen dürfen, können demnach eine souveräne Infrastruktur rechtfertigen. Vorschriften wie die DSGVO und DORA verlangten zwar nicht automatisch eine Datenlokalisierung oder eine souveräne Infrastruktur, ihre Anforderungen an Datenübertragungen, Sicherheit, Ausfallsicherheit und Drittanbieterrisiken könnten aber eine stärkere Kontrolle über Daten und Infrastruktur nahelegen. Ähnliches gelte für KI-Systeme, die in kritischen Infrastrukturen zum Einsatz kommen.

Was Abhängigkeiten im Vergleich zum Eigenbetrieb kosten

Verlangen weder Regulatorik noch staatliche Interessen nach souveräner KI, ist die Entscheidung nach Einschätzung von HTEC vor allem eine wirtschaftliche Frage, da sowohl Abhängigkeiten als auch Souveränität ihren Preis haben. Entscheidend sei dabei ein langfristiger Blick: Abhängigkeiten könnten sich mit der Zeit zu einem strategischen Risiko entwickeln, dessen Eintreten deutlich höhere Kosten verursache als ein frühzeitiger Wechsel zu souveränen Infrastrukturen. Zudem dürften bei der Kostenbetrachtung nicht nur die Preise für Hardware-Ressourcen oder Modelle berücksichtigt werden, sondern die gesamten Betriebskosten (TCO) einschließlich Plattformentwicklung, Datenaufbereitung, Sicherheit, Compliance, Integrationen und laufendem Betrieb.

Kaufen oder mieten

Auch wenn viele Unternehmen zunächst über eine eigene Hardware-Anschaffung nachdenken, führen teure GPU-Server, auf denen Modelle ausländischer Anbieter laufen, laut HTEC nicht automatisch zu mehr Souveränität, sondern vor allem zu hohen Stromkosten. In der Regel sei es sinnvoller, zunächst GPU-Kapazitäten zu mieten, um mit eigenen Workloads zu experimentieren und Latenz, Performance, Kosten sowie Qualität der Ergebnisse in Ruhe zu evaluieren.

HTEC unterscheidet dabei vier Optionen: öffentliche KI-Services, die schnell und einfach nutzbar sind, ein Unternehmen jedoch an Preise und Regeln des jeweiligen Anbieters binden; gemietete GPU-Kapazitäten, die mehr Unabhängigkeit bieten, aber eine gute Auslastung erfordern, um wirtschaftlich zu bleiben; eine dedizierte Private Cloud, in der regulierte Unternehmen ihre KI-Workloads betreiben können, ohne sich um ein eigenes Rechenzentrum kümmern zu müssen; sowie eigene Infrastrukturen, die vor allem für große Behörden und Betreiber kritischer Infrastrukturen sinnvoll seien. Aus Kostensicht sei öffentliche KI bei überschaubarem Nutzungsvolumen meist die günstigste Variante, bei umfangreicher und gut vorhersehbarer Nutzung dagegen oft eine Private Cloud oder eigene Infrastruktur.

Mehrere Modelle statt einer Lösung

Ebenso wie kein einzelner Mitarbeiter alle Aufgaben im Unternehmen bewältigen könne, könne auch kein einzelnes KI-Modell alle Anwendungsfälle abdecken, so HTEC. Unternehmen benötigten daher mehrere Modelle, die zu den jeweiligen Aufgaben und dem erforderlichen Souveränitätsniveau passen, etwa ein lokal laufendes Modell für Personaldokumente, ein Modell in einer kontrollierten Unternehmensumgebung für Finanzdokumente und ein leistungsfähiges Cloud-Modell für allgemeine Anfragen. Da sich der Markt schnell verändere, sollten Unternehmen in ihrer KI-Architektur zusätzlich eine Routing-Ebene implementieren, die Anfragen unter Berücksichtigung von Souveränitätsanforderungen, Eignung und Kosten an verschiedene Modelle weiterleitet.

Geschäftlicher Nutzen von KI-Souveränität

Unabhängigkeit von einzelnen Anbietern, Diensten, Modellen und Lösungen sei kein Selbstzweck, sondern diene dazu, flexibel zu bleiben sowie Kosten und Risiken besser kontrollieren zu können, so HTEC. Diese Kontrolle erleichtere die Verarbeitung sensibler Daten, die durchgängige Automatisierung von Prozessen sowie die Produktentwicklung. Richtig umgesetzt sei souveräne KI damit nicht nur ein Schutz gegen Abhängigkeiten, sondern könne auch Effizienz und Qualität steigern. Bojan Sukalo, Industry Managing Partner Telecom bei HTEC, fasst zusammen:

„Die Grenzen zwischen souverän und nicht souverän verlaufen nicht immer eindeutig und nicht immer lassen sich Abhängigkeiten vollständig auflösen. Deshalb sollten Unternehmen bei ihren Überlegungen zu souveräner KI nicht nur auf regulatorische Anforderungen schauen, sondern auch betriebliche Risiken und die Wirtschaftlichkeit im Blick behalten.“

Bojan Sukalo, Industry Managing Partner Telecom bei HTEC

(red/HTEC)