Thought Leadership
Cyberkriminelle entwickeln mit „Man in the Prompt“ eine neue Methode, um über Browsererweiterungen in KI-Tools einzudringen und sensible Daten zu stehlen. Besonders Unternehmen sind gefährdet, da ihre vertraulichen Informationen so unbemerkt entwendet werden können.
Wie Hacker sich in KI-Eingaben einschleichen
Bei sogenannten „Man in the Prompt“-Angriffen nutzen Angreifer die Funktionsweise von Browsererweiterungen aus, um Manipulationen in KI-Tools wie ChatGPT oder Google Gemini vorzunehmen. Die Eingabefelder dieser Anwendungen sind Teil der Webseite und können von Erweiterungen mit Zugriff auf die Seitenstruktur (DOM) gelesen oder verändert werden – oft ohne dass dafür spezielle Berechtigungen notwendig sind.
Versteckte Manipulationen und Datenklau
Durch manipulierte Erweiterungen können Cyberkriminelle die Benutzereingaben verändern, versteckte Anweisungen einschleusen oder sensible Informationen aus den KI-Antworten extrahieren. So verwandelt sich der Browser zum „Man in the Middle“ und die KI-Interaktion wird unbemerkt kompromittiert. Besonders kritisch ist dies, wenn interne KI-Systeme auf firmeneigenen Daten basieren, die so direkt abgegriffen werden können.
Warum herkömmliche Sicherheit nicht ausreicht
Normale Schutzmechanismen wie Data Loss Prevention oder Secure Web Gateways bieten keinen Schutz auf der Ebene, auf der diese Angriffe stattfinden – nämlich direkt im Browser und innerhalb der KI-Tools. Auch das Blockieren von KI-Webseiten schützt nicht vor internen Anwendungen. Unternehmen müssen daher neue Sicherheitsstrategien entwickeln, die das Verhalten von Browsererweiterungen genauer überwachen und Manipulationen in Echtzeit verhindern.
So schützen sich Unternehmen vor „Man in the Prompt“
Sicherheitsforscher empfehlen vor allem eine genaue Kontrolle der Interaktionen auf DOM-Ebene. Riskante Erweiterungen sollten anhand ihres Verhaltens und nicht nur durch ihre Berechtigungen bewertet und blockiert werden. Zusätzlich sind Mechanismen zur Echtzeit-Erkennung und Abwehr von Manipulationen direkt im Browser unerlässlich, um die immer raffinierteren Angriffe frühzeitig zu stoppen.
Die neue Angriffsmethode „Man in the Prompt“ zeigt eindrucksvoll, wie komplex und vielschichtig moderne Cybergefahren inzwischen geworden sind. Ein bewusster Umgang mit Erweiterungen und innovative Sicherheitslösungen sind entscheidend, um den Schutz sensibler Daten in der KI-Ära zu gewährleisten.
(vp/8com GmbH & Co. KG)
