Anzeige

Gesichtserkennung

Informatiker der University of Maryland und der US Naval Academy haben mit "LowKey" eine Web-App entwickelt, die helfen soll, die eigenen Fotos vor "unerlaubter Überwachung" zu schützen.

Dazu verändert ein Algorithmus die Bilder so, dass sie für Menschen zwar klar erkennbar bleiben, für gängige Gesichtserkennungs-Software aber kaum mehr zu identifizieren sind. Die Algorithmen von Amazon und Microsoft erreichen den Forschern zufolge weniger als ein Prozent Genauigkeit.

Smarte Erkennungs-Störung

Gesichtserkennung findet immer größere Verbreitung, ist aber auch sehr umstritten, als meist rassistisch oder speziell in den Händen von Konzernen womöglich unzulässige Überwachung. Dem Team hinter LowKey zufolge haben gängige Systeme gemein, dass sie große Datenbanken aus dem Internet gezogener Bilder, etwa von sozialen Medien, nutzen. Als Schutz vor Gesichtserkennung setzen sie nun darauf, per Algorithmus gezielt gewisse Störungen in Fotos einzubauen, die mathematisch zwar relativ stark, aber fürs Auge kaum wahrnehmbar sind.

"Dies bedeutet, dass Maschinen die Gesichtszüge in den ursprünglichen und gestörten Bildern sehr unterschiedlich interpretieren, während Menschen sie fast gleich interpretieren", so die projektbeteiligten Informatiker Valeriia Cherepanova und Micah Goldblum gegenüber "The Register". Gerade jene Erkennungsmerkmale, die Algorithmen nutzen, weichen beim veränderten Bild stark vom Original ab. Diese Idee ist eigentlich nicht neu. "LowKey ist das erste Umgehungs-Tool, das gegen kommerzielle Gesichtserkennungs-APIs wirksam ist", schreibt das Team jedoch in einem auf dem Preprint-Server arXiv veröffentlichten Paper.

Amazon und Microsoft ausgetrickst

In Tests war LowKey laut Forschern effektiv genug, dass Amazons "Rekognition", das unveränderte Bilder zu 93,7 korrekt einer bestimmten Person zuordnen kann, es auf eine Genauigkeit von nur 0,6 Prozent brachte. Selbst, wenn das System die 50 wahrscheinlichsten Treffer ausgibt, erreicht es nur 2,4 Prozent Trefferquote. Microsofts Azure Facial Recognition API schnitt noch schlechter ab, es konnte nur in 0,1 Prozent der Fälle eine exakte Zuordnung vornehmen.

Die Informatiker betonen allerdings, dass geeignet gestaltete, robustere Geschichtserkennungs-Systeme wohl in der Lage wären, auch mit LowKey veränderte Fotos wieder richtig zu erkennen. Das Projekt und die Web-App sollen Nutzer also vor allem wachrütteln, was die Verbreitung von Gesichtserkennung und das allzu freizügige Teilen von Inhalten auf sozialen Medien betrifft.

Zum Preprint "LowKey: Leveraging Adversarial Attacks to Protect Social Media Users from Facial Recognition"

www.pressetext.com


Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!

 

Weitere Artikel

Glasfaser

Der Glasfaserausbau kommt in Deutschland immer noch kaum voran

Jan Böhmermann hat gerade erst darauf aufmerksam gemacht: Datenautobahnen sind im Land der Autobahnen weitgehend unbekannt. 4,7 Prozent aller stationären Breitbandanschlüsse in Deutschland waren laut Daten der OECD im Juni 2020 mit einem Glasfaserkabel…
Online Shopping

Bayern häufiger auf Shoppingtour im Internet

Die Bayern gehen laut einer aktuellen Studie im Auftrag der Staatsregierung überdurchschnittlich häufig in Internet auf Einkaufstour.
Datenschutz

Neue Version HiScout Datenschutz

HiScout hat die Version 3.1.2 mit vielen Neuerungen im Modul Datenschutz herausgebracht. Alle Anforderungen des Datenschutzes können in einer einzigen Softwareanwendung DSGVO-konform verwaltet werden.
Internetnutzung

Mehr Internetnutzer sehen sich bei Datensicherheit in der Pflicht

Ohne persönliche Daten sind viele Internetdienste nicht nutzbar, in den meisten Fällen muss zumindest eine E-Mail-Adresse angegeben werden. Für die Sicherheit solcher Daten sehen sich Internetnutzer immer stärker verantwortlich.
Intel

Intel-Urteil: Zahlung von rund 2,2 Milliarden Dollar in US-Patentstreit

Der Chipkonzern Intel ist von Geschworenen in Texas zur Zahlung von knapp 2,2 Milliarden Dollar in einem Patentstreit verurteilt worden. In dem Verfahren ging es um zwei Patente für Technologien aus der Halbleiterproduktion, die laut dem Urteil von Dienstag…
Cyber Security

KI-System fälscht Dokumente gegen IP-Klau

Falsche Dokumente, die Feinde in die Irre führen, sind ein klassisches Mittel in der Spionage und Spionageabwehr. Eben darauf setzen Forscher des Dartmouth College mit dem KI-System "WE-FORGE", um im Informationszeitalter den Diebstahl geistigen Eigentums zu…

Anzeige

Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!