Thought Leadership
Wissenschaftler der New York University sowie der niederländischen Radboud-Universität haben mithilfe von Googles KI-Modellen täuschende Werbeanzeigen auf Google identifiziert.
Für die Untersuchung entwickelte das Team, bestehend aus den Forschern Ritik Roongta, Marwan Darwish, Masoud Aghdam, Rachel Greenstadt und Gunes Acar, ein mehrstufiges Erkennungssystem namens AdLens. Die Forscher werteten dabei Daten direkt aus Googles eigenem Ads Transparency Center im Europäischen Wirtschaftsraum aus, wo Google Impressionszahlen, Themenkennzeichnungen sowie grobe Zielgruppeninformationen bereitstellt. Insgesamt prüfte das System 90.000 gleichmäßig über die Kategorien Software, mobile Dienstprogramme sowie Computer- und Unterhaltungselektronik verteilte Werbetreibenden-Kennungen mit insgesamt 188.000 Werbevarianten, nach Bereinigung doppelter Texte reduziert auf 112.000 Anzeigen. Roongta erklärte dazu:
AdLens identifizierte insgesamt rund 4.000 auffällige Werbetreibenden-Kennungen, aufgeteilt in 238 Scareware-Anzeigen mit erfundenen Bedrohungswarnungen wie angeblich kompromittierten Geräten oder gesperrten Konten, 3.346 täuschende Anzeigen mit plausibel wirkenden, aber falschen Behauptungen wie vermeintlicher Foto-Wiederherstellung oder Standortverfolgung fremder Personen, sowie 258 irreführend gestaltete Anzeigen, die echte Systemdialoge nachahmten oder die eigentliche Identität des Werbetreibenden hinter nichtssagenden Schaltflächen wie „Weiter“ oder „Jetzt zugreifen“ verbargen. Insgesamt erreichten die als täuschend eingestuften Anzeigen mit irreführenden Behauptungen dabei 89,9 Millionen weiterhin aktive Impressionen.
Wir haben und dabei Hunderte sogenannter Scareware-Anzeigen mit mehr als 16 Millionen Impressionen im Europäischen Wirtschaftsraum gefunden.
Ritik Roongta, Forscher
Nur sechs von 24 gemeldeten Anzeigen als Verstoß bestätigt
Einzelne identifizierte Anzeigen führten laut den Forschern direkt zu bekannten Schadsoftware-Kampagnen wie TamperedChef, das manipulierte PDF-Editoren verbreitet, sowie zum weltweit größten illegalen Residential-Proxy-Netzwerk IPIDEA, das den Internetverkehr über gewöhnliche Verbrauchergeräte ohne Wissen der jeweiligen Besitzer umleitet.
Als die Forscher eine Stichprobe von 24 identifizierten Anzeigen zur Prüfung an Google meldeten, bestätigte das Unternehmen lediglich sechs davon tatsächlich als Verstoß, drei weitere wurden als nicht prüfbar eingestuft, die übrigen 15 als regelkonform bewertet, obwohl eine dieser als unauffällig eingestuften Anzeigen laut der Analysewebsite VirusTotal zu einer nachweislich Schadsoftware verbreitenden Domain führte. In einem konkreten Fall entfernte Google nach einer Meldung lediglich eine von insgesamt 42 Anzeigen, die allesamt auf dieselbe, mit TamperedChef verbundene Domain verwiesen, während die übrigen 41 Anzeigen aktiv blieben.
Fehlende Möglichkeit zur Meldung in großem Umfang
Die Forscher kritisierten zudem, dass sich täuschende Anzeigen bei Google grundsätzlich nur einzeln statt in größerem Umfang melden lassen, und selbst ein bestätigter Verstoß nicht automatisch mit anderen, inhaltlich identischen Anzeigen verknüpft wird. Für die eigentliche Klassifizierung setzten die Forscher auf eine mehrstufige Pipeline aus Texterkennung, automatischer Übersetzung sowie einem Ensemble aus den Modellen Gemma3-12B und Qwen3.5-9B, wobei bei uneindeutigen Fällen zusätzlich das größere Modell Gemma4-26B als abschließende Instanz herangezogen wurde.
Die Forscher stellten ihr Werkzeug in einem anonymisierten Code-Repository öffentlich zur Verfügung und sehen Potenzial, den Ansatz künftig auch auf Werbeanzeigen bei anderen Plattformen wie Meta oder TikTok auszuweiten, verweisen jedoch zugleich darauf, dass Angreifer versuchen könnten, eine derartige automatisierte Analyse künftig gezielt durch Prompt-Injection oder Jailbreaking zu umgehen.
(red)
