Anzeige

Facebook Bilder

Quelle: JuliusKielaitis / Shutterstock.com

Forscher der Abteilung für Künstliche Intelligenz von Facebook haben eine Methode namens "Radioaktive Daten" entwickelt, um Bilder aus Datensets, die für Machine Learning verwendet werden, wie bei einem Wasserzeichen zu markieren.

Dadurch soll es möglich sein, in neuralen Netzwerken bestimmte Lernmethoden immer wieder zu erkennen. Diese Methode hilft laut den Forschern dabei, Fehler und Missbrauch bei der Datenanalyse schnell aufzudecken.

"Radioaktive Daten"

Facebook bezeichnet die markierten Bilder als "radioaktive Daten", weil die Entwickler damit an Medikamente mit ungefährlichen Mengen von Radioaktivität anspielen, die unter anderem Röntgen-Untersuchungen genauer machen. "Wir haben einzigartige Markierungen entwickelt, die harmlos sind und keinen Einfluss auf die Effektivität von Lernmodellen haben. Sie sind jedoch immer präsent und in einem neuralen Netzwerk leicht zu entdecken", schreiben die Forscher.

In "radioaktiven" Datensets befindet sich ein Bild, das mit einem für das menschliche Auge unsichtbaren Filter bearbeitet wurde. Die Markierung zeigt sich als eine Art leichtes Flimmern, das über das Bild gelegt wird und nur von neuralen Netzwerken erkannt wird. Das auf diese Art gezeichnete Bild wird als Original getarnt im Datenset eingeschleust.

Oft Fehler in Bildanalyse

Benutzt eine KI unerlaubterweise ein bestehendes Datenset für sein Lernmodell, erkennt das Facebook-Netzwerk dies anhand der Markierung sofort. "Radioaktive" Daten helfen laut den Forschern dabei, die Lernmethoden von anderen KI-Entwicklern sowie deren Fehler und möglichen Missbrauch zu erkennen. Kritiker von KI-Anwendungen haben festgestellt, dass Bild- und Gesichtserkennung oft auf teils mit Vorurteilen behafteteten und sogar rassistisch geprägten Datensets basieren.

www.pressetext.com
 


Weitere Artikel

ebay

Mit eBay fing alles an

Seit 1995 gibt es eBay. Das Unternehmen ist gewissermaßen die Mutter aller Online-Marktplätze.
e-commerce

E-Commerce in DACH übertrifft erstmals 100 Mrd. Euro

In Deutschland, Österreich und der Schweiz (DACH) hat der Gesamtumsatz des E-Commerce 2020 laut Daten des Bundesverband E-Commerce und Versandhandel Deutschland (bevh), des Handelsverband - Verband österreichischer Handelsunternehmen sowie des…
Google Chrome

Chrome dominiert den Browsermarkt

Der Internet Explorer war mal die unangefochtene Nummer 1 unter den Browsern. Das ist mittlerweile aber eine ganze Weile her.
Handschlag

Hyland übernimmt Nuxeo

Hyland, ein Anbieter von Content Services, hat die Übernahme von Nuxeo, einem Anbieter von Content-Services-Plattformen und Digital Asset Management (DAM), abgeschlossen.
Phishing

Phishing-Attacke in NRW auch gegen ehemalige Politiker

Bei einem Angriff mit sogenannten «Phishing-E-Mails» sind in NRW Ende März auch zwei ehemalige Politiker von unbekannten Hackern ins Visier genommen worden.
Google I/O

Entwicklerkonferenz I/O ist zurück

Die Entwicklerkonferenz I/O ist nach einem Jahr Pause wieder zurück und findet 2021 komplett digital statt.

Anzeige

Jetzt die smarten News aus der IT-Welt abonnieren! 💌

Mit Klick auf den Button "Zum Newsletter anmelden" stimme ich der Datenschutzerklärung zu.