Thought Leadership
Die Cybersecurity-Community schlägt Alarm gegen KI-gestützte Browser. Das Marktforschungsunternehmen Gartner stuft sie nun als potenzielle Sicherheitsrisiken ein und empfiehlt eine sofortige Blockierung.
Mehrere Risikoszenarien identifiziert
„Die Cybersicherheit muss KI-Browser blockieren”, schreibt Gartner in einem vergangene Woche veröffentlichten Bericht mit dem Titel „Cybersecurity Must Block AI Browsers for Now”. „KI-Browser sind neuartig und innovativ, aber für die meisten Organisationen zu risikoreich für eine allgemeine Einführung.”
Gartner warnt zu einem Zeitpunkt, an dem immer mehr Tech-Unternehmen KI-Browser anbieten, die das Surferlebnis optimieren sollen. Die betroffenen Programme versprechen eine Revolution des Web-Surfens: Nutzer können Routineaufgaben wie Recherchen oder das Schreiben von E-Mails an KI-Agenten delegieren. Doch genau diese Automatisierung öffnet Angreifern Tür und Tor. Über präparierte Websites oder E-Mails lassen sich die KI-Systeme manipulieren und gegen ihre eigenen Nutzer einsetzen.
Zwei Problemfelder identifiziert
Gartner definiert KI-Browser anhand zweier charakteristischer Merkmale: Eine „KI-Seitenleiste” ermöglicht das Zusammenfassen, Durchsuchen und Übersetzen von Web-Inhalten mithilfe cloudbasierter KI-Dienste. Hinzu kommt eine agentische Transaktionsfähigkeit, die dem Browser erlaubt, autonom Websites zu navigieren und Aufgaben auszuführen.
Die Analysten warnen besonders vor den KI-Seitenleisten: „Sensible Nutzerdaten – wie aktive Web-Inhalte, Browserverlauf und geöffnete Tabs – werden oft an das cloudbasierte KI-Backend gesendet, was das Risiko von Datenexposition erhöht, sofern Sicherheits- und Datenschutzeinstellungen nicht bewusst gehärtet und zentral verwaltet werden.”
Prompt Injection und fehlerhafte Entscheidungen
Das zugrundeliegende Problem ist als Prompt Injection bekannt: KI-Chatbots können oft nicht zuverlässig zwischen legitimen Anweisungen und eingeschleusten Schadcode-Befehlen unterscheiden. Besonders kritisch sieht Gartner Browser wie Perplexitys Comet und OpenAIs Atlas, die weitreichende Automatisierungsfunktionen bieten.
Die Marktforscher befürchten durch die agentischen Fähigkeiten „indirekte Prompt-Injection-induzierte Schurkenagentenaktionen, durch ungenaues Reasoning verursachte fehlerhafte Agentenaktionen sowie weiteren Verlust und Missbrauch von Zugangsdaten, falls der KI-Browser dazu verleitet wird, autonom zu einer Phishing-Website zu navigieren”.
Weitere Risiken im Firmenalltag
Gartner zeichnet weitere konkrete Bedrohungsszenarien: Mitarbeiter könnten versucht sein, KI-Browser für repetitive Pflichtaufgaben einzusetzen, etwa um obligatorische Cybersicherheitsschulungen automatisch absolvieren zu lassen. Besonders brisant wird es bei internen Beschaffungssystemen: „Ein Formular könnte mit falschen Informationen ausgefüllt werden, ein falscher Büroartikel bestellt oder ein falscher Flug gebucht werden”, so die Analysten.
Ratschläge für Unternehmen
Die Empfehlung des Analystenhauses ist eindeutig: CISOs sollten „alle KI-Browser auf absehbare Zeit blockieren, um die Risikoexposition zu minimieren”. Für Organisationen, die dennoch KI-Browser einsetzen wollen, empfiehlt Gartner zunächst eine gründliche Risikobewertung der Backend-KI-Dienste.
Als Schutzmaßnahmen schlagen die Analysten vor, KI-Agenten den Zugriff auf E-Mail zu verweigern und sicherzustellen, dass Browser keine Daten speichern können. Zudem müssten Nutzer aufgeklärt werden, dass potenziell alle angezeigten Inhalte an das KI-Backend übermittelt werden könnten.
