Agentic AI: Guardian Agents erobern bis 2030 bis zu 15 % Marktanteil

Laut Einschätzung von Gartner werden Guardian-Agent-Technologien bis zum Jahr 2030 mindestens 10 bis 15 % des Marktes für agentenbasierte Künstliche Intelligenz ausmachen.

Guardian Agents sind KI-basierte Technologien, die speziell für vertrauenswürdige und sichere Interaktionen mit KI-Systemen entwickelt wurden. Sie übernehmen dabei eine doppelte Rolle: Einerseits agieren sie als Assistenten, die Nutzer bei Aufgaben wie der Überprüfung, Überwachung und Analyse von Inhalten unterstützen. Andererseits entwickeln sie sich zunehmend zu halbautonomen oder sogar vollständig autonomen Agenten, die eigenständig Aktionspläne erstellen und umsetzen können – einschließlich der Fähigkeit, Handlungen umzulenken oder zu blockieren, um sie auf vorher definierte Ziele auszurichten.

Warum Richtlinien für Agentic AI unerlässlich sind

Eine aktuelle Webinar-Umfrage von Gartner unter 147 CIOs und IT-Führungskräften, die im Mai 2025 durchgeführt wurde, zeigt: 24 % der Befragten setzen bereits erste KI-Agenten ein, weitere 4 % nutzen eine größere Anzahl solcher Systeme.

Die Umfrage ergab außerdem, dass sich 50 % der Teilnehmer derzeit in der Evaluations- oder Testphase befinden. Weitere 17 % gaben an, noch keine entsprechenden Maßnahmen ergriffen zu haben, planen jedoch, bis spätestens Ende 2026 mit der Implementierung zu beginnen. Um diese Systeme wirksam zu koordinieren und abzusichern, sind automatisierte Kontrollen in den Bereichen Vertrauen, Risiko und Sicherheit erforderlich – was die Nachfrage nach Guardian Agents weiter antreibt.

„Agentenbasierte KI ohne Richtlinien kann zu unerwünschten Ergebnissen führen“, sagte Avivah Litan, VP und Distinguished Analyst bei Gartner: „Wenn agentenbasierte KI-Systeme nicht mit klaren Leitplanken ausgestattet sind, können sie Fehlentscheidungen treffen oder Sicherheitsrisiken verursachen. Guardian Agents setzen auf ein breites Spektrum agentischer Fähigkeiten und deterministischer, KI-gestützter Bewertungen. Dadurch sind sie in der Lage, sämtliche Aktivitäten der Agenten zu überwachen, gezielt zu steuern und dabei eine Balance zwischen dynamischer Entscheidungsfindung und konsequentem Risikomanagement herzustellen.“

(Gartner)