Thought Leadership
Proofpoint stellt ein neues Sicherheitskonzept vor, das KI-Agenten und die von ihnen genutzten Unternehmensdaten gemeinsam absichern soll.
„Agentic Data and AI Security“ soll dabei nicht nur bekannte Richtlinien durchsetzen, sondern auch Risiken erkennen, die aus dem Verhalten autonomer KI-Systeme entstehen.
KI-Agenten verändern die Sicherheitslage
KI-Agenten können heute Unternehmensdaten selbstständig suchen, verarbeiten und auf Basis dieser Informationen Aktionen ausführen. Damit wächst die Zahl der Vorgänge, die klassische Sicherheitskontrollen überwachen müssen. Nach Ansicht von Proofpoint reicht es deshalb nicht aus, KI-Anwendungen und Daten jeweils isoliert zu schützen.
Der von Proofpoint veröffentlichte Report „AI and Human Risk Landscape 2026“ zeigt den Handlungsbedarf: 87 Prozent der befragten Unternehmen haben den Einsatz von KI-Assistenten über die Pilotphase hinaus ausgeweitet. Gleichzeitig bezweifeln 52 Prozent, dass ihre bestehenden Kontrollmechanismen eine Kompromittierung zuverlässig erkennen könnten.
Mit zunehmender Autonomie können KI-Systeme zudem über reine Datenverarbeitung hinausgehen. Sie können mit Unternehmensanwendungen interagieren, Entscheidungen vorbereiten oder Transaktionen auslösen. Daraus entstehen neben Datenschutzrisiken auch mögliche finanzielle, operative und Compliance-bezogene Folgen.
Absicht und Datenzugriff gemeinsam bewerten
Proofpoint will deshalb zwei bislang häufig getrennt betrachtete Informationen zusammenführen: Was ein KI-Agent erreichen soll und auf welche Daten er dafür zugreift.
Das neue System greift dafür auf den Proofpoint Knowledge Graph und sogenannte Nexus-Modelle zurück. Diese verknüpfen unter anderem Identität, Zugriffsrechte, Datensensibilität, Verhalten und die Absicht einer KI-Aktivität. Nach Angaben des Unternehmens soll dadurch eine Bewertung auf Agentenebene möglich werden.
Drei spezialisierte Agenten übernehmen dabei unterschiedliche Aufgaben. Ein Erkennungsagent soll verdächtige Kombinationen aus Absicht und Datenzugriff identifizieren. Ein Untersuchungsagent rekonstruiert bei einem Vorfall die beteiligten Daten, Identitäten und Verhaltensmuster. Ein Remediation-Agent kann daraus Maßnahmen ableiten, etwa Änderungen an Zugriffsrechten oder Anpassungen von DLP-Regeln. Die Umsetzung bleibt dabei unter menschlicher Kontrolle.
Geschäftsregeln werden zu Laufzeitkontrollen
Ein weiterer Bestandteil sind die sogenannten Semantic Business Policies. Dabei sollen bestehende Unternehmensregeln in Vorgaben übersetzt werden, die während der Nutzung von KI durchgesetzt werden können.
Unternehmen könnten beispielsweise festlegen, dass bestimmte Arten von Inhalten nicht mit KI-Systemen verarbeitet werden dürfen. Proofpoint interpretiert die Vorgabe und leitet daraus entsprechende Laufzeitkontrollen ab. Zusammen mit der Intent-Based Access Control soll dabei nicht nur berücksichtigt werden, auf welche Daten ein Agent zugreift, sondern auch, welchem Zweck die jeweilige Aktion dient.
Damit soll sich das Konzept sowohl auf KI-Assistenten anwenden lassen, die von Mitarbeitern genutzt werden, als auch auf autonom arbeitende Agenten.
Neue Risiken sollen automatisch sichtbar werden
Neben der Durchsetzung bereits definierter Regeln richtet Proofpoint den Blick auf Risiken, die Unternehmen noch nicht in ihren Sicherheitsrichtlinien berücksichtigt haben.
Die Funktion „Agentic Insights“ analysiert dazu nach Angaben des Anbieters KI-Interaktionen, Tool-Nutzung, Richtlinienentscheidungen und Verhaltensmuster. Werden wiederkehrende riskante Verhaltensweisen erkannt, kann daraus eine neue Sicherheitsregel abgeleitet werden.
Der Ansatz soll damit einen Kreislauf schaffen: Aktivitäten werden analysiert, Risiken erkannt, Zusammenhänge untersucht und anschließend Schutzmaßnahmen angepasst. Dazu zählen unter anderem die Korrektur von Zugriffsrechten, Änderungen an DLP-Richtlinien und die Durchsetzung von Kontrollen während der Laufzeit.
„Man kann KI nicht sichern, ohne die Daten zu sichern, die sie bearbeitet, und man kann Daten nicht sichern, ohne zu verstehen, wie KI sie nutzt“, erklärt Mayank Choudhary, Executive Vice President und General Manager der Data Security and Governance Group bei Proofpoint. „Absicht und Zugriff sind zwei Seiten derselben Medaille.“
Sicherheitsregeln müssen mit KI-Verhalten Schritt halten
Für Proofpoint verschiebt sich damit die Aufgabe der KI-Governance. Unternehmen müssen nicht nur festlegen, was KI-Systeme tun dürfen. Sie benötigen auch Mechanismen, die diese Vorgaben während des tatsächlichen Betriebs kontrollieren und auf neue Verhaltensmuster reagieren können.
Ryan Kalember, Chief Strategy Officer bei Proofpoint, beschreibt die Herausforderung so: „Die geschäftlichen Absichten müssen Teil der Sicherheitskontrolle selbst werden, mit der Fähigkeit, neue Risiken zu erkennen und sich an das wandelbare Verhalten der KI anzupassen.“
Die neuen Funktionen sollen voraussichtlich bis Ende 2026 verfügbar werden. Dazu gehören das Agentic Data and AI Security System, Semantic Business Policies und Agentic Insights.
(red/Proofpoint)
