Facebook Bilder

Quelle: JuliusKielaitis / Shutterstock.com

Forscher der Abteilung für Künstliche Intelligenz von Facebook haben eine Methode namens "Radioaktive Daten" entwickelt, um Bilder aus Datensets, die für Machine Learning verwendet werden, wie bei einem Wasserzeichen zu markieren.

Dadurch soll es möglich sein, in neuralen Netzwerken bestimmte Lernmethoden immer wieder zu erkennen. Diese Methode hilft laut den Forschern dabei, Fehler und Missbrauch bei der Datenanalyse schnell aufzudecken.

"Radioaktive Daten"

Facebook bezeichnet die markierten Bilder als "radioaktive Daten", weil die Entwickler damit an Medikamente mit ungefährlichen Mengen von Radioaktivität anspielen, die unter anderem Röntgen-Untersuchungen genauer machen. "Wir haben einzigartige Markierungen entwickelt, die harmlos sind und keinen Einfluss auf die Effektivität von Lernmodellen haben. Sie sind jedoch immer präsent und in einem neuralen Netzwerk leicht zu entdecken", schreiben die Forscher.

In "radioaktiven" Datensets befindet sich ein Bild, das mit einem für das menschliche Auge unsichtbaren Filter bearbeitet wurde. Die Markierung zeigt sich als eine Art leichtes Flimmern, das über das Bild gelegt wird und nur von neuralen Netzwerken erkannt wird. Das auf diese Art gezeichnete Bild wird als Original getarnt im Datenset eingeschleust.

Oft Fehler in Bildanalyse

Benutzt eine KI unerlaubterweise ein bestehendes Datenset für sein Lernmodell, erkennt das Facebook-Netzwerk dies anhand der Markierung sofort. "Radioaktive" Daten helfen laut den Forschern dabei, die Lernmethoden von anderen KI-Entwicklern sowie deren Fehler und möglichen Missbrauch zu erkennen. Kritiker von KI-Anwendungen haben festgestellt, dass Bild- und Gesichtserkennung oft auf teils mit Vorurteilen behafteteten und sogar rassistisch geprägten Datensets basieren.

www.pressetext.com
 


Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!

 

Weitere Artikel

Facebook Sicherheit

Facebook gibt Milliarden für Sicherheit aus

Der Kampf gegen Propaganda-Kampagnen und andere Manipulationsversuche kostet Facebook jedes Jahr Milliarden. Das Budget dafür in diesem Jahr sei höher als der Umsatz des gesamten Unternehmens beim Börsengang im Mai 2012, sagte Gründer und Chef Mark Zuckerberg…
Taha Ma

Cubeware beruft Taha Malik zum neuen Geschäftsführer

Mit Taha Malik übernimmt ein Mitglied der Eigentümerfamilie die Leitung des BI-Spezialisten und bekräftigt damit langfristiges Engagement.
Trojaner Smartphone

Banking-Trojaner stiehlt jetzt Kreditkartendaten mit gefälschten SMS

Heute zwischen 17 und 18 Uhr wird Kaspersky eine Analyse über eine neue Version des Ginp-Banking-Trojaners veröffentlichen. Der Banking-Trojaner stiehlt sensible Finanzinformationen seiner Opfer über gefälschte SMS.
Tb W250 H150 Crop Int Ec8dfc5d05f7bda7f428abfe41737b6c

Forcepoint ernennt Paul Garvey zum Vice President EMEA Sales

Paul Garvey ist neuer Vice President EMEA Sales bei Forcepoint. In dieser Position unterstützt er auch das deutsche Sales-Team des Unternehmens in München.
Zahnrad Konfiguration

Zyxel bietet Remote-Online-Gerätekonfiguration an

Um Systemhäusern und deren Administratoren zukünftig noch mehr Freiheit in der selbstständigen Anpassung von Zyxel-Produkten zu bieten, haben Fachhändler ab sofort die Möglichkeit, ihre angebotenen Produkte selbstständig virtuell zu konfigurieren.
Tb W250 H150 Crop Int E42a3bc5df376e1504783e49b74af6f5

Crisp Research und Catalysts werden zu Cloudflight

Das IT-Beratungsunternehmen und Analystenhaus Crisp Research (Kassel) und der österreichische Software- und AI-Spezialist Catalysts (Linz) agieren ab dem 14. Februar 2020 unter dem Namen "Cloudflight".

Anzeige

Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!