Schatten-KI und autonome Agenten: Die unterschätzten Sicherheitsrisiken

KI beschleunigt Innovationen, vergrößert aber auch die Angriffsfläche. Sicherheitsexperten warnen vor den Gefahren durch Schatten-KI und autonome Agenten.

Die rapide Verbreitung von KI-Systemen verändert die IT-Sicherheitslandschaft von Grund auf. Momentan rücken insbesondere autonome KI-Agenten und die unkontrollierte Nutzung externer KI-Dienste in den Fokus. In vielen Unternehmen setzen Mitarbeitende eigenmächtig zusätzliche KI-Werkzeuge ein, während autonom agierende KI-Agenten weitreichende Zugriffsrechte erhalten.

Dadurch entwickeln sich KI-Agenten faktisch zu neuen, privilegierten digitalen Identitäten, die jedoch häufig ohne angemessene Überwachung agieren. Dr. Beverly McCann, VP of Product beim Cybersicherheitsunternehmen Darktrace, ordnet diese Entwicklung wie folgt ein:

„Ein Agent kann sich bei Systemen anmelden, Informationen abrufen und Aktionen ausführen. Damit wird er faktisch zu einer neuen digitalen Identität und muss ebenso konsequent überwacht werden wie ein privilegierter Nutzer. Risiken entstehen vor allem in der Lücke zwischen dem, was ein KI-System tun darf, und dem, was es tatsächlich tut.“

Dr. Beverly McCann, VP of Product beim Cybersicherheitsunternehmen Darktrace

Anzeige

Vertrauenswürdige Identitäten im Visier von Angreifern

Aktuelle Auswertungen aus dem Darktrace Mid-Year Threat Update 2026 unterstreichen die Dringlichkeit neuer Schutzkonzepte. Klassische statische Sicherheitsregeln greifen immer seltener, da Angreifer gezielt legitimierte Zugänge, SaaS-Plattformen und KI-Dienste unterwandern, anstatt sich nur auf Software-Schwachstellen zu verlassen:

• Phishing umgeht Schutzfilter: Im ersten Halbjahr 2026 bestanden 67 Prozent aller registrierten Phishing-E-Mails die DMARC-Authentifizierung. Zudem richteten sich knapp 26 Prozent der Attacken gezielt gegen VIP-Nutzer.
• Explosion der KI-Verbindungen: Ein durchschnittliches Unternehmen interagiert inzwischen mit sieben verschiedenen KI-Anbietern. Die Gesamtzahl der Verbindungen zu KI-Diensten stieg in der ersten Jahreshälfte um 13 Prozent.
• Datenabfluss über Prompts: Bei einer Untersuchung von knapp 280.000 Benutzereingaben enthielt etwa 1 Prozent sensible Daten – in über 70 Prozent dieser Fälle handelte es sich um Zugangsdaten wie Passwörter und API-Schlüssel.
• Wachsende Sorge in der Führungsetage: Laut der Studie State of AI Cybersecurity 2026 sorgen sich 76 Prozent der Sicherheitsverantwortlichen um die Risiken durch KI-Agenten sowie Drittanbieter-Tools.

Schatten-KI: Verhaltensanalyse statt statischer Regelwerke

Sicherheitsteams stehen vor der Aufgabe, unübliche Datenübertragungen an generative KI-Dienste – im beobachteten Schnitt rund 75 Megabyte pro Konto über einen Zeitraum von fünf Monaten – rechtzeitig zu unterbinden. Um ungewollte Aktionen oder den Missbrauch von Berechtigungen zu verhindern, reicht der Blick auf vordefinierte Kompromittierungsindikatoren nicht mehr aus. Erforderlich ist eine Sicherheitsarchitektur, die das normale Verhalten von Menschen, Identitäten und KI-Systemen im jeweiligen Geschäftskontext analysiert und Abweichungen in Echtzeit erkennt.

(Darktrace/red)