Anzeige

Gesichtserkennung

Informatiker der University of Maryland und der US Naval Academy haben mit "LowKey" eine Web-App entwickelt, die helfen soll, die eigenen Fotos vor "unerlaubter Überwachung" zu schützen.

Dazu verändert ein Algorithmus die Bilder so, dass sie für Menschen zwar klar erkennbar bleiben, für gängige Gesichtserkennungs-Software aber kaum mehr zu identifizieren sind. Die Algorithmen von Amazon und Microsoft erreichen den Forschern zufolge weniger als ein Prozent Genauigkeit.

Smarte Erkennungs-Störung

Gesichtserkennung findet immer größere Verbreitung, ist aber auch sehr umstritten, als meist rassistisch oder speziell in den Händen von Konzernen womöglich unzulässige Überwachung. Dem Team hinter LowKey zufolge haben gängige Systeme gemein, dass sie große Datenbanken aus dem Internet gezogener Bilder, etwa von sozialen Medien, nutzen. Als Schutz vor Gesichtserkennung setzen sie nun darauf, per Algorithmus gezielt gewisse Störungen in Fotos einzubauen, die mathematisch zwar relativ stark, aber fürs Auge kaum wahrnehmbar sind.

"Dies bedeutet, dass Maschinen die Gesichtszüge in den ursprünglichen und gestörten Bildern sehr unterschiedlich interpretieren, während Menschen sie fast gleich interpretieren", so die projektbeteiligten Informatiker Valeriia Cherepanova und Micah Goldblum gegenüber "The Register". Gerade jene Erkennungsmerkmale, die Algorithmen nutzen, weichen beim veränderten Bild stark vom Original ab. Diese Idee ist eigentlich nicht neu. "LowKey ist das erste Umgehungs-Tool, das gegen kommerzielle Gesichtserkennungs-APIs wirksam ist", schreibt das Team jedoch in einem auf dem Preprint-Server arXiv veröffentlichten Paper.

Amazon und Microsoft ausgetrickst

In Tests war LowKey laut Forschern effektiv genug, dass Amazons "Rekognition", das unveränderte Bilder zu 93,7 korrekt einer bestimmten Person zuordnen kann, es auf eine Genauigkeit von nur 0,6 Prozent brachte. Selbst, wenn das System die 50 wahrscheinlichsten Treffer ausgibt, erreicht es nur 2,4 Prozent Trefferquote. Microsofts Azure Facial Recognition API schnitt noch schlechter ab, es konnte nur in 0,1 Prozent der Fälle eine exakte Zuordnung vornehmen.

Die Informatiker betonen allerdings, dass geeignet gestaltete, robustere Geschichtserkennungs-Systeme wohl in der Lage wären, auch mit LowKey veränderte Fotos wieder richtig zu erkennen. Das Projekt und die Web-App sollen Nutzer also vor allem wachrütteln, was die Verbreitung von Gesichtserkennung und das allzu freizügige Teilen von Inhalten auf sozialen Medien betrifft.

Zum Preprint "LowKey: Leveraging Adversarial Attacks to Protect Social Media Users from Facial Recognition"

www.pressetext.com


Weitere Artikel

Zugangsschlüssel

NFT-Kunst für Jedermann – Zugangsschlüssel in Bildern versteckt

Rocco Indovina möchte, dass hochwertige NFT-Kunst für jedermann erreichbar ist. Wer die letzten Buchstaben bzw. Zahlen des Zugangsschlüssels (Private Key) für einen sogenannten Non-Fungible Token in zwei seiner Bildern zuerst findet, bekommt diese Kunst…
Verkaufen

Verkaufen mithilfe von Smartphone-Apps fasziniert

Jeder dritte Brite zwischen 18 bis 24 Jahren überlegt, seinen Job zu kündigen oder seine Ausbildung abzubrechen, um ausschließlich Waren mithilfe von Smartphone-Apps zu verkaufen.
Ranking

Bundesländer-Ranking: Hamburg ist die Hauptstadt der IT-Profis

Hamburg ist das Bundesland mit der größten Dichte an IT-Spezialistinnen und Spezialisten. Im hanseatischen Stadtstaat arbeiten 4,4 Prozent aller sozialversicherungspflichtig Beschäftigten als Informatiker oder in anderen IT-Berufen.
Partnerschaft

valantic und SYSTEMA schließen strategische Partnerschaft

valantic, IT-Beratungs- und Softwarehaus in Europa, partnert mit SYSTEMA, einem eigentümergeführten Systemintegrator, der sich auf Softwarelösungen und Dienstleistungen zur MES-Integration, Fertigungsautomatisierung und Produktionsoptimierung spezialisiert…
Firmenerweiterung

Okta schließt Übernahme von Auth0 ab

Okta, ein unabhängiger Anbieter von Identitätslösungen, gab die erfolgreiche Übernahme von Auth0, einer Identitätsplattform für Anwendungsteams, bekannt.
Dell

Sicherheitslücke in der Treibersoftware von Dell: Was jetzt zu tun ist

Wie kürzlich bekannt wurde, existiert eine eklatante Sicherheitslücke in einem Treiber für Firmware-Updates, der auf Millionen von Endgeräten der Marke Dell installiert ist. Der Hersteller empfiehlt, diesen Treiber komplett zu entfernen.

Anzeige

Jetzt die smarten News aus der IT-Welt abonnieren! 💌

Mit Klick auf den Button "Zum Newsletter anmelden" stimme ich der Datenschutzerklärung zu.