Herausforderung agentenbasierter Cybersicherheit

Durch die Verfügbarkeit avancierter KI-Modelle muss diese Arbeit schneller erfolgen denn je. Wenn ein leistungsfähiges Modell mit einer Agentenplattform, nützlichen Kontextinformationen, Werkzeugen und Handlungsbefugnissen kombiniert wird, kann es Erkundungsaufgaben, Schwachstellenanalysen und mehrstufige Aufgaben weitaus schneller bewältigen als ein Mensch, der von Bildschirm zu Bildschirm wechselt. Das kann die Verteidigung stärken, aber es kann auch einem Angreifer helfen, die bekannten Phasen eines Angriffs in kürzerer Zeit und mit weniger Arbeitsaufwand abzuwickeln.

Der Druck auf traditionelle Abwehrmaßnahmen

Traditionelle Abwehrmaßnahmen in Unternehmen wurden auf der Grundlage menschenzentrierter Zeitpläne und reaktiver Erkennungsmodelle entwickelt. Das macht sie nicht überflüssig. Es bedeutet jedoch, dass Teams einen besseren Weg benötigen, um die bereits erfassten Signale miteinander zu verknüpfen. Eine verdächtige Anmeldung, ein ungewöhnlicher Abfragebefehl und unerwartete Datenbewegungen können jeweils eine harmlose Erklärung haben. Zusammen können sie jedoch ein ganz anderes Bild ergeben. Die Herausforderung besteht darin, die Abfolge früh genug zu erkennen, um sinnvoll darauf reagieren zu können.

KI-Sicherheit hat mehr als nur eine Front

Das Schlachtfeld der KI-Sicherheit ist umfassender als die bloße Erkennung KI-gestützter Angriffe. Es umfasst drei miteinander verbundene Aspekte. Erstens müssen sich Unternehmen gegen Angreifer verteidigen, die KI und Automatisierung einsetzen. Zweitens müssen sie die von ihnen eingesetzten KI-Systeme schützen, einschließlich ihrer Modelle, Prompts, Daten, Agenten, Konnektoren, nichtmenschlichen Identitäten und Tools. Drittens können sie KI einsetzen, um Sicherheitsverantwortlichen dabei zu helfen, Beweismaterial zu untersuchen, Risiken zu priorisieren und sorgfältig abgegrenzte Kontrollen durchzusetzen. Wenn nur einer dieser Aspekte als KI-Sicherheit betrachtet wird, entstehen Lücken.

Erst Kontext macht defensive KI nützlich

Die Bekämpfung von Angreifern, die mit Maschinengeschwindigkeit agieren, erfordert defensive Architekturen, die in der Lage sind, mit gleicher Geschwindigkeit, im gleichen Kontext und mit derselben Komplexität zu arbeiten. Für einen defensiven Agenten umfasst der Kontext die Frage, welche Ressourcen am wichtigsten sind, wer oder was Zugriff hat, welche Systeme gefährdet sind, welche Daten sensibel sind und ob die Aktivität zur Umgebung passt. Mit diesen Informationen kann ein Agent Teams dabei helfen, ihre Aufmerksamkeit den wichtigsten Prozessen zu widmen. Er sollte keinen Freibrief zum Handeln erhalten. Maßnahmen mit weitreichenden Auswirkungen erfordern klare Richtlinien, Protokollierung, Reversibilität und menschliche Aufsicht.

Drei Fronten der agentenbasierten Cyberabwehr

Die Umsetzung einer agentenbasierten Abwehr erfordert koordiniertes Vorgehen an drei miteinander verbundenen Fronten. Die erste ist die Zeit bis zum Schutz. Teams sollten schnell feststellen, ob eine neu bekannt gewordene Schwachstelle tatsächlich ausnutzbar ist, und dann den wirksamsten Schutz mit den geringsten Beeinträchtigungen einsetzen, während ein Patch oder eine längerfristige Abhilfe vorbereitet wird. Die zweite ist die kontinuierliche Prävention. Teams sollten Signale über Identitäten, Endpunkte, Netzwerke, Anwendungen und Daten hinweg verknüpfen und risikobehaftetes Verhalten einschränken, sobald die Anhaltspunkte dies rechtfertigen. Die dritte ist die Agenten-Governance, die festlegt, wie in der Umgebung agierende Agenten autorisiert, überwacht und eingeschränkt werden.

„Rogue Agents“ sind ein Governance-Problem

Was oft als „Rogue Agents“ bezeichnet wird, ist keine Science-Fiction-Kategorie. Es handelt sich um Agenten, die Handlungen außerhalb ihres autorisierten Rahmens ausführen. Aktuelle Berichte des britischen AI Security Institute und der Vorfall bei Hugging Face zeigen, warum dies von Bedeutung ist. In beiden Fällen führten Agenten, die in Cyber-Evaluierungsumgebungen operierten, nicht genehmigte Handlungen in der realen Welt aus oder umgingen die vorgesehene Isolierung. Die wichtige Erkenntnis besteht nicht darin, einem Modell menschliche Absichten zuzuschreiben. Vielmehr muss man erkennen, dass riskantes Verhalten aus der Kombination eines Modells, seiner Anweisungen, Werkzeuge, Zugangsdaten, Konnektivität und Ausführungsumgebung entstehen kann.

Diese Vorfälle weisen zudem auf die Notwendigkeit praktischer Gegenmaßnahmen hin. Sicherheitsteams sollten wissen, wo sie feindliche Befehle, Payloads und Protokolle sicher untersuchen können, und über einen genehmigten Notfallplan verfügen, falls ein Standard-KI-Tool eine legitime defensive Untersuchung nicht unterstützen kann.

Auch Schutzagenten benötigen Leitplanken

Ein Schutzagent kann andere Agenten überwachen, Verstöße gegen Richtlinien melden, Beweise sammeln und einen Eindämmungs-Workflow auslösen. Das kann nützlich sein, ist aber nicht automatisch vertrauenswürdig. Er kann durch nicht vertrauenswürdige Eingaben manipuliert oder mit zu vielen Befugnissen ausgestattet werden. Ein sichereres Design trennt Beobachtung von Durchsetzung, schränkt Berechtigungen ein, nutzt unabhängige Richtlinienprüfungen für sensible Aktionen und beschränkt den Anwendungsbereich von Tools und Anmeldedaten streng. Kein einzelner Agent sollte in der Lage sein, eine irreversible Maßnahme mit weitreichenden Auswirkungen zu beschließen und auszuführen, ohne dass eine weitere Kontrollinstanz in den Prozess eingebunden ist.

Das Modell ist nur ein Teil des Systems

Das Umfeld eines Modells ist oft genauso wichtig wie das Modell selbst. Es versorgt den Agenten mit Kontext, Anweisungen, Speicher, Workflow-Logik, Schnittstellen, Identitäten, Berechtigungen, Netzwerkzugang und Laufzeitüberwachung. Kleine Änderungen an diesen Komponenten können die Leistungsfähigkeit eines Agenten erheblich beeinflussen. Deshalb sollten Unternehmen den gesamten Agenten-Stack einschließlich der Konnektoren und Ausführungswege bewerten, anstatt ein Modell oder einen Prompt isoliert zu betrachten.

Eine praxisnähere Definition von Resilienz

Das Ziel ist nicht die autonome Sicherheit um ihrer selbst willen. Es geht um ein Sicherheitsmodell, das den Menschen fundiertere Erkenntnisse und schnellere Handlungsoptionen bietet und die Befugnisse der Akteure in einem angemessenen Verhältnis zu den Folgen ihrer Aktionen hält. Im Zeitalter avancierter KI bedeutet Resilienz, Risiken kontinuierlich zu minimieren, kontextbezogen zu reagieren und sicherzustellen, dass jeder menschliche oder nichtmenschliche Akteur klare Grenzen hat.

Autor: Guy Waizel, Tech Evangelist bei Cato Networks