Governance sollte am Anfang jedes KI Agenten stehen

KI Agenten werden zum Game Changer für deutsche Unternehmen.

Im Gegensatz zu statischen Modellen haben diese Systeme das Potenzial, fast wie virtuelle Mitarbeiter zu agieren – sie führen Maßnahmen durch, verarbeiten sensible Daten und interagieren autonom mit Kunden.

Das Potenzial ist enorm und reicht von Produktivitätssteigerungen und schnelleren Erkenntnissen bis hin zu neuen digitalen Dienstleistungen. Nach einer Umfrage des IFO Instituts wollen 41 Prozent der befragten deutschen Unternehmen KI in ihre Geschäftsprozesse implementieren. Im Vergleich zum Vorjahr bedeutet dies einen deutlichen Anstieg (27 % in 2024). Weitere 19 Prozent wollen noch in diesem Jahr aktiv werden.

Viele deutsche Unternehmen entwickeln entweder selbst ein AI Agent system oder wollen es einführen. Die Herausforderung besteht darin, dass es auf spezifische Geschäftsdaten trainiert sein muss und alle notwendigen Kontrollen und Abgleichungen umfasst. KI Agenten ohne angemessene Governance in die Produktivphase zu bringen, könnte jedoch für Reputationsschäden sorgen und nicht wenige Unternehmen befürchten dann Kunden zu verlieren.

Der EU AI Act und angepasste branchenspezifische Vorschriften verlangen, dass KI Agenten vom ersten Tag an immer strengere Anforderungen an Sicherheit, Transparenz und Rechenschaftspflicht erfüllen müssen. Dennoch arbeiten zu viele Unternehmen noch immer ohne einen klaren Fahrplan wie sie diese Kontrolle ihrer KI Agenten gewährleisten wollen. Die Qualität des Verhaltens von Agenten wird oft ad hoc gemessen, basierend auf Bauchgefühl statt auf konsistenten Benchmarks, was das Vertrauen untergräbt und es schwierig macht, den Wert nachzuweisen.

Die erforderliche Datenqualität zu erreichen, ist ein weiteres Hindernis. KI-Agenten sind auf proprietäre, gut verwaltete Datensätze angewiesen, doch vielen Unternehmen fehlt es an der Menge, Zugänglichkeit oder schlicht an der Qualität, um sie effektiv zu trainieren. Hinzu tritt die Geschwindigkeit, mit der sich KI-Modelle und -Tools selbst verändern. Der Wettbewerbsdruck sorgt für schnellere Innovationszyklen, so dass es nicht verwunderlich ist, dass einige Projekte ins Stocken geraten, bevor sie überhaupt sinnvolle Ergebnisse liefern können. Wer ständig auf die nächsthöhere Version migriert oder aber Innovationen in eigene Modell einbaut, muss mehr testen und braucht dadurch eine längere Laborphase.

Governance als Produktiv-Beschleuniger

Für KI Agenten ist Governance weit mehr als nur eine Compliance Maßnahme. Es ist der Mechanismus, der sicherstellt, dass jede Aktion und jeder Output über die Datenherkunft zurückverfolgt werden kann – von den für das Training verwendeten Rohdaten bis hin zur in Echtzeit angewendeten Logik. Eine einheitliche Governance behandelt Agenten mit den gleichen Kriterien wie menschliche Mitarbeiter und wendet robuste Zugriffskontrollen und Sicherheitsmaßnahmen an.

Außerdem schafft es eine einheitliche, konsistente Sicht auf Daten und KI-Assets, beseitigt Silos und ermöglicht eine sichere Ermittlung und Wiederverwendung. Ebenso wichtig ist die Steuerung der Geschäftssemantik, die den Entscheidungen zugrunde liegt. Menschen und Agenten müssen mit denselben Definitionen von Metriken und KPIs arbeiten. Schlussendlich ist die Kontrolle der Agenten nach der Bereitstellung unerlässlich. Abweichungen, Verzerrungen oder schädliches Verhalten müssen schnell erkannt werden, bevor sie tatsächlichen Schaden anrichten können.

Im Zeitalter der KI Agenten ist fragmentierte Governance einfach nicht mehr skalierbar. Diese Systeme agieren autonom, um Aufgaben zu erledigen und ergreifen Maßnahmen, die sich auf Kunden, Finanzen und die Reputation auswirken können. Sie müssen nach denselben Prinzipien geregelt werden, die auch für Menschen gelten: Sicherheit, Transparenz, Verantwortlichkeit, Qualität und Compliance. Und mit der Weiterentwicklung der Technologie muss die Governance sowohl über alle Daten und KI-Assets hinweg vereinheitlicht als auch für alle Tools und Plattformen offen sein. Andernfalls wird die Innovation durch Integrationsbarrieren gebremst.

Vom Experiment zur Produktion

Wenn die Themen Governance und Herkunft der Daten gut umgesetzt sind, ermöglichen sie schnelle Fortschritte, ohnedass etwas kaputt geht und verwandeln vielversprechende Experimente in produktionsreife Systeme. Fortschrittliche Unternehmen schließen bereits die Lücke zwischen Konzept und Umsetzung. Wichtig für die richtige Balance zwischen Kosten und Qualität der KI Agenten sind die Automatisierung der Bewertung und Optimierung, die Generierung synthetischer Daten zur Schließung von Lücken in proprietären Quellen und die Erstellung domänenspezifischer Benchmarks.

Besonders hervorzuheben ist die automatisierte Bewertung. Unternehmen, denen dies fehlt, sind oft gezwungen, sich auf ihr „Bauchgefühl” zu verlassen, um festzustellen, ob ein Agent gut funktioniert. Diese Herangehensweise führt zu inkonsistenter Qualität und kostspieligen Versuchen und schlimmstenfalls Irrtümern. Im Gegensatz dazu können Unternehmen, die aufgabenspezifische Bewertungen erstellen, synthetische Daten zur Verbesserung des Trainings nutzen und die neuesten Modelle und Techniken optimieren, ihre Agenten mit Zuversicht skalieren, da sie wissen, dass sie die Qualitätsanforderungen erfüllen und gleichzeitig die Kosten kontrollieren.

Die Fähigkeit, die Genauigkeit kontinuierlich zu bewerten und zu verbessern, ist für viele Unternehmen von entscheidender Bedeutung, insbesondere in einer stark regulierten Branche. Durch die vollständige Integration von Agent Bricks, dem neuen Databricks-Produkt, mit dem Unternehmen personen‑ und domänenspezifische KI‑Agenten effizient und automatisiert entwickeln können, in Unity Catalog, einer zentralen Governance-Lösung von Databricks für Daten- und KI-Assets, die über Workspaces hinweg zentrale Zugriffskontrolle, Auditing, Lineage und Daten-Discovery ermöglicht, erhalten die Nutzer die Sicherheits- und Governance-Funktionen, die sie benötigen. Reibungsverluste bis zur Produktionsreife werden somit reduziert. 

Fazit

Deutsche Unternehmen sollten sich darauf konzentrieren, nicht die meisten Agenten am schnellsten einzusetzen, sondern die richtigen Agenten zu entwickeln und in die Produktivphase zu bringen. Sie sollten sich hierbei auf die Kriterien Sicherheit und Kontrolle unter Verwendung hochwertiger Daten konzentrieren.

Um dies zu erreichen, müssen Unternehmen Governance als einen zentralen Pfeiler ihrer Daten- und KI-Strategie betrachten, Bewertung und Optimierung in den Lebenszyklus der Agenten integrieren und sicherstellen, dass jedes System auf einem konsistenten Geschäftskontext aufbaut.

Innovation ohne Leitplanken ist ein Risiko, das kein Unternehmen eingehen sollte. Mit Governance und einem Herkunftsnachweis als Grundlage können deutsche Unternehmen messbare Ergebnisse erzielen, indem sie KI Agenten entwickeln, die Vertrauen schaffen.

Autor: Matthias Ingerfeld, Area VP & TechGM leading Field Engineering in Central EMEA bei Databricks