Anzeige

Facebook Bilder

Quelle: JuliusKielaitis / Shutterstock.com

Forscher der Abteilung für Künstliche Intelligenz von Facebook haben eine Methode namens "Radioaktive Daten" entwickelt, um Bilder aus Datensets, die für Machine Learning verwendet werden, wie bei einem Wasserzeichen zu markieren.

Dadurch soll es möglich sein, in neuralen Netzwerken bestimmte Lernmethoden immer wieder zu erkennen. Diese Methode hilft laut den Forschern dabei, Fehler und Missbrauch bei der Datenanalyse schnell aufzudecken.

"Radioaktive Daten"

Facebook bezeichnet die markierten Bilder als "radioaktive Daten", weil die Entwickler damit an Medikamente mit ungefährlichen Mengen von Radioaktivität anspielen, die unter anderem Röntgen-Untersuchungen genauer machen. "Wir haben einzigartige Markierungen entwickelt, die harmlos sind und keinen Einfluss auf die Effektivität von Lernmodellen haben. Sie sind jedoch immer präsent und in einem neuralen Netzwerk leicht zu entdecken", schreiben die Forscher.

In "radioaktiven" Datensets befindet sich ein Bild, das mit einem für das menschliche Auge unsichtbaren Filter bearbeitet wurde. Die Markierung zeigt sich als eine Art leichtes Flimmern, das über das Bild gelegt wird und nur von neuralen Netzwerken erkannt wird. Das auf diese Art gezeichnete Bild wird als Original getarnt im Datenset eingeschleust.

Oft Fehler in Bildanalyse

Benutzt eine KI unerlaubterweise ein bestehendes Datenset für sein Lernmodell, erkennt das Facebook-Netzwerk dies anhand der Markierung sofort. "Radioaktive" Daten helfen laut den Forschern dabei, die Lernmethoden von anderen KI-Entwicklern sowie deren Fehler und möglichen Missbrauch zu erkennen. Kritiker von KI-Anwendungen haben festgestellt, dass Bild- und Gesichtserkennung oft auf teils mit Vorurteilen behafteteten und sogar rassistisch geprägten Datensets basieren.

www.pressetext.com
 


Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!

 

Weitere Artikel

Plattform statt Silo

agorum als Alternative zu Slack, Google Drive & Co

Plattform- statt Silodenken: Um Unternehmen während der Coronakrise bei der Arbeit im Homeoffice zu unterstützen, bietet die agorum Software GmbH ihre komplette Digitalisierungsplattform zwei Monate zur kostenfreien Nutzung an. Die Plattform agorum core…
Cybersecurity im Homeoffice

Deutschland-Umfrage "IT-Sicherheit im Home Office"

Der Bundesverband IT-Sicherheit e.V. (TeleTrusT) hat in einer deutschlandweiten Umfrage ermittelt, welche IT-Sicherheitsvorkehrungen die Nutzer umsetzen. Gleichzeitig bietet die Branche kostenfrei Unterstützung.

BMW macht Lieferketten mit Blockchain transparent

BMW will die weltweiten Lieferketten von Rohstoffen und Bauteilen künftig mit Blockchain-Technik zurückverfolgen. Der Autokonzern lade «interessierte Unternehmen ein, sich der Initiative anzuschließen», sagte Einkaufsvorstand Andreas Wendt am Dienstag in…
Covid 19-Ergebnisse in Echtzeit

Kostenlose Corona-App: Schnelles Testergebnis für Patienten

Testergebniss in Echtzeit verspricht eine neue App. Denn, bei Corona ist Zeit der kritische Faktor. Den Anstieg von Neuinfektionen verlangsamen ist das oberste Gebot. Was passiert, wenn Patienten aufgrund von Symptomen auf COVID-19 getestet werden?
Digitale Kugel

Supply Chain Management in Zeiten von Corona

Ein Virus bedroht unser Leben und unsere Wirtschaft. #WirvsVirus hat gezeigt, wieviel Kreativität Deutschlands Digital-Gemeinde in kürzester Zeit entwickelt hat.
Kamera

Voraussetzungen für Online-Events: Ton, Bild, Streaming-Kanal

Erst reihenweise Absagen, dann Veranstaltungsverbot: Die Messe- und Eventbranche befindet sich seit Beginn der Covid-19-Epidemie im freien Fall und noch ist kein Ende in Sicht. Weil auf absehbare Zeit keine Veranstaltungen mehr stattfinden können, verlegen…

Anzeige

Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!