Thought Leadership
Eine KI-Werbekampagne von Snickers zeigt ungewollt, wie leicht sich Chatbots per Prompt Injection manipulieren lassen.
Der Süßwarenhersteller Snickers hat mit der Kampagne HUNGR.AI eine Werbeaktion gestartet, die nach Einschätzung mehrerer KI-Fachleute unbeabsichtigt eine reale Sicherheitslücke von KI-Systemen vorführt. Die am 31. August gestartete Kampagne wirbt mit dem Slogan „Deine KI ist nicht kaputt, sie ist nur hungrig“ und richtet sich an Nutzer, deren Chatbot unpassende oder ungenaue Antworten liefert. Über eine eigene Website lässt sich ein „digitaler Snickers-Riegel“ in ein Chatgespräch einfügen, der die KI angeblich zu klareren, „wahrheitsgemäßeren“ Antworten bringen soll.
Werbetrick entpuppt sich als Prompt Injection
Der digitale Werbeanalyst Matthew Straw testete die Kampagne mit ChatGPT und stellte fest, dass der Mechanismus dahinter einer sogenannten indirekten Prompt Injection entspricht: einer Angriffsmethode, bei der versteckte Anweisungen ein KI-System dazu bringen, sich anders zu verhalten, als es der eigentliche Nutzerauftrag vorsieht. Straw schrieb dazu auf LinkedIn:
„Snickers hat nichts Bösartiges getan. Aber ein Angreifer könnte denselben Mechanismus in einer Webseite, E-Mail, einem PDF, einer Tabelle oder einem Bild nutzen, um eine KI von der eigentlichen Anfrage des Nutzers abzulenken.“
Matthew Straw, Werbeanalyst
In einem gewöhnlichen Chat führe das bestenfalls zu einer merkwürdigen Antwort; erhalte die KI jedoch Zugriff auf E-Mails, Dateien, verknüpfte Apps oder Browseraktionen, steige das Risiko deutlich, so Straw weiter.
Erste massenwirksame Kampagne dieser Art
Der australische KI-Trainer und Vortragsredner Julian Ridden bezeichnete die Aktion als „brillante“ Werbekampagne, die zugleich Millionen Verbraucherinnen und Verbrauchern beibringe, wie ein Prompt-Injection-Angriff funktioniert. Er erklärte: „Es handelt sich technisch gesehen um die erste mir bekannte massenwirksame Prompt-Injection-Kampagne, die von einer globalen Marke an ein allgemeines Publikum ausgespielt wird, mit dem ausdrücklichen Ziel, zu verändern, wie der persönliche KI-Assistent einer Person antwortet.“ Laut Ridden weisen die in der Kampagne eingebetteten Anweisungen den Chatbot unter anderem an, frühere Gesprächsinhalte einzubeziehen, eine bestimmte Persönlichkeit anzunehmen, Snickers-Markenelemente einzubauen und zu verschleiern, dass die Webseite dieses Verhalten ausgelöst hat.
Prompt Injection als anerkanntes Sicherheitsrisiko
Ridden verweist darauf, dass die Open Worldwide Application Security Project (OWASP) im August ihre Top-10-Liste der Risiken für Anwendungen mit großen Sprachmodellen für 2026 veröffentlicht hat, in der Prompt Injection bereits das zweite Jahr in Folge auf Platz eins steht. Er äußerte zudem die Sorge, dass gezielt auf KI-Systeme zugeschnittene Werbeinhalte künftig zum festen Bestandteil von Marketingkampagnen werden könnten, sollten Unternehmen den Effekt in Form von Reichweite und geteilten Screenshots als Erfolg werten. Die Snickers-Kampagne HUNGR.AI, die zusätzlich eine Kooperation mit dem Lieferdienst DoorDash sowie 3.000 kostenlose Snickers-Riegel umfasst, läuft nach Angaben von Cybernews noch bis zum 20. September.
(red)
