Thought Leadership
Sebastian Knittler und Prof. Dr. Dennis-Kenji Kipker vom cyberintelligence.institute erklären, warum agentische KI Cyberangriffe nicht neu erfindet, aber gefährlich beschleunigt – und was Unternehmen jetzt tun müssen, um Schritt zu halten.
Die jüngsten Entwicklungen bei agentischer KI zeigen, wie sich Cyberangriffe verändern können. Bei einem Vorfall rund um Hugging Face agierte ein KI-Agent weitgehend autonom, führte zahlreiche Aktionen aus, reagierte auf Zwischenergebnisse und bewegte sich über mehrere Systeme. Bemerkenswert sind dabei weniger die einzelnen Angriffstechniken als die schiere Geschwindigkeit, der Grad der Automatisierung und die Zahl der aufeinanderfolgenden Aktionen.
Und Hugging Face ist kein Einzelfall. Wie das britische AI Security Institute beobachtet, führen moderne KI-Modelle zunehmend komplexe Cyberaufgaben über mehrere Schritte hinweg autonom aus. In kontrollierten Tests konnten aktuelle Modelle bereits mehrstufige Angriffssimulationen in Unternehmensnetzwerken bewältigen. Das ist nicht mit einem erfolgreichen Angriff auf ein gut geschütztes reales Unternehmen gleichzusetzen, zeigt aber die Richtung der Entwicklung: KI kann bekannte Angriffsmethoden zunehmend selbstständig kombinieren und in hoher Geschwindigkeit ausführen.
„Wir sehen bei agentischer KI weniger eine völlig neue Art von Cyberangriff als eine massive Beschleunigung bekannter Angriffsmuster. Wenn ein Agent in kurzer Zeit sehr viele Aktionen durchführen und auf deren Ergebnisse unmittelbar reagieren kann, müssen auch unsere Sicherheitsprozesse Schritt halten.“
Sebastian Knittler, CII
Muss Cybersecurity deshalb neu gedacht werden? Die kurze Antwort lautet: Nein, aber Unternehmen müssen schneller werden und sich den neuen Gegebenheiten stellen. Die grundlegenden Prinzipien bleiben hier allerdings bestehen: Risiken identifizieren, Schwachstellen schließen, Zugriffe kontrollieren, Systeme überwachen und im Ernstfall schnell reagieren. Gerade diese Grundlagen werden durch agentische KI noch wichtiger.
Geschwindigkeit und Autonomie sind neue Herausforderung
Das Spezifikum agentischer KI liegt vor allem in deren Geschwindigkeit und Autonomie. Ein Mensch benötigt für die Recherche, Bewertung und Ausführung zahlreicher Einzelschritte Zeit. Ein KI-Agent kann diese Schritte automatisiert aneinanderreihen, oder parallelisieren und auf Ergebnisse reagieren, um so viele Operationen in kurzer Zeit durchzuführen. Dadurch verkürzt sich das Zeitfenster für die Verteidigung. Prozesse, die auf manuelle Prüfung und menschliche Reaktionsgeschwindigkeit ausgelegt sind, können dadurch zu langsam werden.
Ein zentraler Aspekt ist deshalb das Identity Management. Agentische Systeme greifen auf Anwendungen, Daten und Infrastruktur über Tokens, API-Schlüssel, Service Accounts, Cloud-Rollen oder andere nicht-menschliche Identitäten zu. Unternehmen müssen wissen, welche Agenten und maschinellen Identitäten existieren, wofür sie eingesetzt werden, welche Rechte sie besitzen und wer dafür verantwortlich ist.
Für KI-Agenten gilt dabei das Prinzip der geringsten Berechtigung besonders konsequent. Sie sollten nur die Rechte erhalten, die sie für eine konkrete Aufgabe benötigen. Wo möglich, sollten Berechtigungen zeitlich begrenzt und nach Abschluss automatisch entzogen werden. Kurzlebige Credentials und automatisierte Rotation reduzieren zusätzlich das Risiko, dass ein kompromittierter Zugang dauerhaft missbraucht werden kann.
Ebenso wichtig ist die Überwachung des Verhaltens. Bei agentischen Systemen reicht es nicht, einzelne verdächtige Aktionen zu betrachten. Relevant sind auch Geschwindigkeit, Volumen und die Kombination von Aktionen. Ungewöhnliche API-Aufrufmuster, neue Ressourcen, plötzliche Berechtigungswechsel oder eine ungewöhnlich hohe Zahl paralleler Aktionen können Hinweise auf ein Sicherheitsproblem liefern.
Was Unternehmen jetzt tun müssen
Auch das Schwachstellen- und Patchmanagement muss schneller werden. Wenn KI-Agenten Schwachstellen schneller identifizieren und Angriffsschritte automatisiert ausführen können, wird das Zeitfenster zwischen Bekanntwerden einer Schwachstelle und ihrer Ausnutzung kleiner. Unternehmen müssen deshalb schneller von der Erkenntnis zur Umsetzung kommen. Schwachstellen sollten nach tatsächlicher Ausnutzbarkeit priorisiert und kritische Lücken möglichst kurzfristig geschlossen werden.
Das alles jedoch bedeutet nicht, dass klassische Cybersecurity überholt ist. Im Gegenteil: Funktionierendes Risikomanagement, Zugriffskontrolle, Schwachstellenmanagement und Monitoring bleiben die entscheidenden Grundlagen. Die Herausforderung besteht darin, diese Prozesse auf eine höhere Geschwindigkeit und einen höheren Automatisierungsgrad auszurichten. Für die Geschäftsführung steckt in dieser Erkenntnis eine wichtige Managementfrage. Ein guter Informationssicherheitsbeauftragter fragt nicht nur: „Sind wir sicher?“ Er fragt auch: „Wie schnell erkennen wir ein Problem, wie schnell können wir reagieren und wer trägt die Verantwortung?“ Cybersicherheit ist kein Zustand, den ein Unternehmen einmal erreicht und anschließend abhakt. Sie ist ein kontinuierlicher Prozess.
„Wer Risiken kennt, Identitäten kontrolliert, Schwachstellen schnell schließt und Abweichungen früh erkennt, hat auch in einer Welt autonom handelnder Systeme die richtigen Grundlagen geschaffen.“
Prof. Dr. Dennis-Kenji Kipker, CII
Die Geschäftsführung muss deshalb dafür sorgen, dass Verantwortlichkeiten geklärt, notwendige Ressourcen vorhanden und Sicherheitsprozesse schnell umsetzbar sind. Agentische KI erfindet die Cybersicherheit nicht neu. Sie erhöht vielmehr den Druck auf bestehende Sicherheitsprozesse.
