In einem Leitfaden überträgt Kaspersky den Ansatz Cyber Immunity auf KI-Agenten. Sprachmodelle sollen grundsätzlich als nicht vertrauenswürdig gelten.
Isolation und Default Deny
Kaspersky: Vier Prinzipien zur Absicherung von KI-Agenten
Bildquelle: Tatiana Belova / Shutterstock.com
Der Sicherheitsanbieter Kaspersky hat einen Leitfaden zur Absicherung autonomer KI-Agenten in Unternehmen veröffentlicht. Er trägt den Titel „AI agent security through the lens of Cyber Immunity“ und wurde auf der Messe AI Everything Global in Abu Dhabi vorgestellt. Cyber Immunity ist ein Secure-by-Design-Ansatz, bei dem Systeme so aufgebaut werden, dass kritische Funktionen auch bei Fehlern oder kompromittierten Komponenten geschützt bleiben und Schäden begrenzt werden.
Der Leitfaden analysiert typische Einsatzszenarien, verschiedene Grade der Autonomie von Agenten sowie reale Vorfälle, bei denen KI-Agenten Schäden verursacht haben, etwa durch zu weitreichende Berechtigungen, gezielte Ausnutzung oder das Löschen von Daten. Daraus leitet Kaspersky vier Prinzipien ab.
Sicherheitsannahmen und kleine Vertrauensbasis
Bereits in der Designphase sollen Entwickler Sprachmodelle und alle Daten aus externen Quellen standardmäßig als nicht vertrauenswürdig behandeln. Jede nicht umkehrbare Aktion soll eine ausdrückliche Bestätigung durch einen Menschen erfordern. Zudem soll die sogenannte Trusted Computing Base möglichst klein bleiben, also die Zahl der Komponenten, denen für die Sicherheit zwingend vertraut werden muss.
Isolation und Default Deny
Ausführungsumgebungen sollen über Sandboxes und virtuelle Maschinen getrennt werden. Vertrauenswürdige und nicht vertrauenswürdige Kontexte sind voneinander abzugrenzen, in Multi-Agenten-Systemen auch die einzelnen Agenten. Interaktionen mit externen Schnittstellen und Ressourcen sollen nach dem Prinzip Default Deny kontrolliert werden: Für Werkzeugaufrufe und deren Parameter gelten feste Richtlinien, der Netzwerkverkehr wird überwacht, und Agenten dürfen ihre eigene Lieferkette nicht selbst verändern.
„Cyber Immunity wurde ursprünglich zwar außerhalb des KI-Kontexts entwickelt, ihre Kernprinzipien lassen sich jedoch direkt auf fortgeschrittene LLM-basierte Systeme übertragen.“
Vladislav Tushkanov, Head of Kaspersky AI Technology Research Center
Für CISOs, CIOs und CTOs empfiehlt der Leitfaden unter anderem, alle eingesetzten KI-Agenten zu erfassen, flexible Richtlinien für Isolation und Containerisierung zu entwickeln und die Lieferkette der Agenten zu steuern.
(red/Kaspersky)
