Windows 11 wird agentic, aber Microsoft warnt deutlich

Microsoft hat vor möglichen Sicherheitsrisiken seiner geplanten KI-Agenten-Funktionen für Windows 11 gewarnt. In einem Support-Dokument empfiehlt das Unternehmen, das Feature nur dann zu aktivieren, wenn Anwender die Sicherheitsimplikationen vollständig verstehen. Wegen der potenziellen Gefahren bleibt die Funktion standardmäßig deaktiviert.

Autonome KI-Systeme als Angriffsziel

Der Software-Konzern arbeitet seit Monaten daran, Windows 11 schrittweise zu einem sogenannten “agentic OS” weiterzuentwickeln, ein Betriebssystem, in dem KI-Agenten eigenständig Aufgaben erledigen können. Nun steht die Einführung der ersten wirklich autonomen Funktionen bevor.

Die Aktivierung ist ausschließlich Administrator-Konten vorbehalten und gilt anschließend für alle Nutzer des Geräts, einschließlich weiterer Administratoren und Standard-Benutzer. Das System legt für verschiedene KI-Agenten lokale Benutzerkonten an, die auf das persönliche Nutzerverzeichnis zugreifen können.

Konkret erhalten Agenten im aktivierten Zustand eingeschränkten Zugriff auf das Benutzerverzeichnis unter C:\Users\username. Bei Bedarf gewährt Windows Lese- und Schreibrechte für die Standard-Ordner Dokumente, Downloads, Desktop, Videos, Bilder und Musik.

XPIA: Neue Bedrohung durch Prompt-Injection

“KI-Modelle weisen nach wie vor funktionale Einschränkungen hinsichtlich ihres Verhaltens auf und können gelegentlich Halluzinationen zeigen und unerwartete Ergebnisse liefern”, heißt es in dem Support-Dokument. Das Unternehmen warnt zudem insbesondere vor Cross-Prompt Injection-Angriffen (XPIA), einer neuartigen Angriffsmethode. Dabei kann schadhafter Code, der in UI-Elementen oder Dokumenten eingebettet ist, die Anweisungen eines Agenten überschreiben. Die Folge könnten ungewollte Aktionen wie Datendiebstahl oder die Installation von Schadsoftware sein.

Microsoft hat als Reaktion mehrere Designprinzipien für agentic Experiences definiert. Die KI soll stets nachvollziehbar arbeiten und jede Entscheidung muss von einem Menschen genehmigt werden. Agenten müssen Protokolle über ihre Aktivitäten erstellen, die Windows mit einem manipulationssicheren Audit-Log überprüfen kann.

Preview-Builds verfügbar, Apps fehlen noch

Seit wenigen Tagen verteilt Microsoft erste Preview-Builds von Windows 11 mit Agenten-Funktionalität an Insider-Tester. Allerdings existieren derzeit noch keine KI-Anwendungen, die diese Möglichkeiten nutzen. Microsoft hat angekündigt, dass Copilot künftig auf die agentic Workspaces zugreifen wird. Weitere KI-Apps sollen folgen.