Thought Leadership
Die Nutzung von KI benötigt performante und hochskalierbare IT-Ressourcen. Da rücken Cloud-Services fast automatisch in den Vordergrund. Doch ihre Nutzung ist nicht ohne Tücken.
Die Cloud muss eingebettet sein in ein Gesamtkonzept, das den reibungslosen Betrieb sicherstellt, regulatorische Vorgaben beachtet und nicht zuletzt die Kosten im Blick behält.
Analytische, prädiktive und generative KI – und jetzt auch noch Agentic AI: In vielen Unternehmen türmen sich die KI-Projekte. Und sie alle benötigen massive Rechenleistung und riesige Speicherkapazitäten. Mit Bordmitteln, also den internen IT-Ressourcen allein, ist das kaum zu bewältigen. Nicht umsonst gelten die vorhandenen On-Premises-Infrastrukturen in den Unternehmen als eine der größten Hürden bei der produktiven KI-Nutzung. Damit rückt die Cloud mit ihren schier unendlichen Skalierungsmöglichkeiten quasi automatisch in den Blickpunkt. Hier laufen die mit riesigen Datenmengen trainierten Large-Language-Models (LLMs) – und werden dort auch bereitgestellt.
Small-Language-Models (SLM) dagegen können bereits lokal betrieben werden, und theoretisch ist das auch für LLMs möglich. Doch die dafür benötigten enormen Rechenressourcen stehen lokal meist nicht zur Verfügung. Die IT mittelständischer Unternehmen ist dafür nicht ausgelegt, und selbst große Unternehmen können mit ihren nicht auf KI-Nutzung konzipierten Legacy-Systemen die benötigten Ressourcen nicht mit vertretbarem Aufwand bereitstellen. Damit bleibt die Cloud praktisch der einzig verfügbare Ort für das unternehmensspezifische Training und Customizing großer Sprachmodelle.
Ohne gutes Gesamtkonzept keine sinnvolle KI-Nutzung
Cloud-Services dürfen jedoch nicht als Parallelsystem zur eigenen IT-Infrastruktur betrachtet und angelegt werden. Daher gehört zum Einstieg in die KI-Welt ein hybrides Gesamtkonzept, bei dem die Integration der Cloud-Services für die KI-Nutzung in die jeweilige Unternehmensumgebung und Anwendungslandschaft im Vordergrund steht. Daraus können dann die konkreten Schritte für die Entwicklung, Training und Tuning sowie letztlich die Bereitstellung von KI-Anwendungen abgeleitet werden.
Zentraler Aspekt ist dabei der Umgang mit den Daten. Sie verschlingen den Löwenanteil der benötigen Rechen- und Speicherkapazitäten sowohl bei der Entwicklung als auch der später Nutzung von KI-Anwendungen. Dabei geht es nicht nur um die verfügbaren technischen Ressourcen allein, sondern auch um regulatorische Fragen der Datenhaltung und Datenklassifizierung. Nur rechtlich unkritische Daten dürfen in die Cloud verschoben werden. Vertrauliche, personenbezogene oder unternehmenskritische Daten dagegen haben dort nichts zu suchen.
Auch wenn die Cloud scheinbar allgegenwärtig ist, so müssen doch auch die Fragen nach der durchgängigen Verfügbarkeit geklärt werden. Daher ist ein Hochverfügbarkeits- und Disaster-Recovery-Konzept unverzichtbar um sicherzustellen, dass für kritische Unternehmenbereiche, wie beispielsweise Produktionsanlagen oder kritische Infrastrukturen, jederzeit redundante IT-Ressourcen bereitstehen.
Die Governance-Aspekte einer Cloud-Strategie
Neben der technischen Ebene gehört zur Cloud-Strategie auch ein umfassendes Compliance- und Governance-Konzept. Es beinhaltet unter anderem die Definition, Etablierung und Überwachung von Regeln, die die Umsetzung der Unternehmensstrategie unterstützen und Fragen der Sicherheit klären. Dazu gehört beispielsweise der Themenkomplex Berechtigungsmanagement und Authentifizierung, die den Datenzugang regeln, aber auch das Monitoring, um die nötige Transparenz zu gewährleisten.
Im Berechtigungsmanagement werden die Rollen unternehmensweit festgelegt und die Anwenderzugriffe reguliert. So sollen unberechtigte Zugriffe auf Daten und Anwendungen verhindert werden. Das Monitoring dient dazu, die Cloud-Nutzung unter Sicherheits- und Regulierungsaspekten zu überprüfen und eine missbräuchliche Verwendung gegebenenfalls schnell zu unterbinden.
Kostenkontrolle als zentrales Thema
Das Monitoring ist auch notwendig, um den jederzeit Überblick über die für die Cloud-Nutzung anfallenden Kosten von KI-Anwendungen zu haben. Auch wenn die Cloud landläufig als kostengünstige IT-Ressource gilt, so kann ihre Nutzung doch teure Tücken haben. Das gilt vor allem bei verbrauchsabhängigen Abrechnungen. Ein paar Cent für die Nutzung eines Token mögen auf den ersten Blick vernachlässigbar sein. Doch die können schnell skalieren, etwa wenn die Nutzung einer App die erwartete Beliebtheit und Nutzungshäufigkeit erfreulicherweise übersteigt, dafür dann aber höhere Kosten anfallen.
Noch befinden sich viele Unternehmen in einer frühen Phase der KI-Einführung, mit einem Mix aus strategischen Überlegungen und praktischen Projekten im Proof-of-Concept-Stadium. Doch schon jetzt scheint klar, dass die Cloud als elementarer Teil jeder KI-Strategie unverzichtbar ist. Um so mehr Aufmerksamkeit muss darauf gelegt werden sie genau dort einzuplanen und einzusetzen, wo sie den größten Mehrwert und maximale Compliance-Konformität bei vertretbaren Kosten liefert.
Autor: Thorsten Jakoby, Vice President Consulting Expert und Cloud Security Architect bei CGI
