Anzeige

Facebook Bilder

Quelle: JuliusKielaitis / Shutterstock.com

Forscher der Abteilung für Künstliche Intelligenz von Facebook haben eine Methode namens "Radioaktive Daten" entwickelt, um Bilder aus Datensets, die für Machine Learning verwendet werden, wie bei einem Wasserzeichen zu markieren.

Dadurch soll es möglich sein, in neuralen Netzwerken bestimmte Lernmethoden immer wieder zu erkennen. Diese Methode hilft laut den Forschern dabei, Fehler und Missbrauch bei der Datenanalyse schnell aufzudecken.

"Radioaktive Daten"

Facebook bezeichnet die markierten Bilder als "radioaktive Daten", weil die Entwickler damit an Medikamente mit ungefährlichen Mengen von Radioaktivität anspielen, die unter anderem Röntgen-Untersuchungen genauer machen. "Wir haben einzigartige Markierungen entwickelt, die harmlos sind und keinen Einfluss auf die Effektivität von Lernmodellen haben. Sie sind jedoch immer präsent und in einem neuralen Netzwerk leicht zu entdecken", schreiben die Forscher.

In "radioaktiven" Datensets befindet sich ein Bild, das mit einem für das menschliche Auge unsichtbaren Filter bearbeitet wurde. Die Markierung zeigt sich als eine Art leichtes Flimmern, das über das Bild gelegt wird und nur von neuralen Netzwerken erkannt wird. Das auf diese Art gezeichnete Bild wird als Original getarnt im Datenset eingeschleust.

Oft Fehler in Bildanalyse

Benutzt eine KI unerlaubterweise ein bestehendes Datenset für sein Lernmodell, erkennt das Facebook-Netzwerk dies anhand der Markierung sofort. "Radioaktive" Daten helfen laut den Forschern dabei, die Lernmethoden von anderen KI-Entwicklern sowie deren Fehler und möglichen Missbrauch zu erkennen. Kritiker von KI-Anwendungen haben festgestellt, dass Bild- und Gesichtserkennung oft auf teils mit Vorurteilen behafteteten und sogar rassistisch geprägten Datensets basieren.

www.pressetext.com
 


Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!

 

Weitere Artikel

Google Smartphone

Google startet mit seinen Pixel-Smartphones in die 5G-Ära

Für die Pixel-Smartphones von Google hat das 5G-Zeitalter begonnen. Der Internetkonzern kündigte am Mittwoch (Ortszeit) in einem Online-Event aus Mountain View den Sprung in die fünfte Mobilfunkgeneration für das neue Pixel 5 sowie eine Neuauflage des Pixel…
Google

Google bezahlt 20 deutsche Verlage für Inhalte

Google startet zusammen mit 20 Medienhäusern aus Deutschland ein Nachrichtenangebot mit Inhalten, für die der US-Konzern erstmals in seiner Geschichte Lizenzgebühren bezahlt. Für Angebote in dem «Google News Showcase» werde man in den ersten drei Jahren…
KI - Social-Media

KI-Warnung macht Social-Web-User höflicher

Künstliche Intelligenz (KI) kann Social-Media-User davon abhalten, verletzende Kommentare zu schreiben. Etwa ein Drittel der Anwender hört auf das System, wenn es sie vor der Schärfe ihrer Nachrichten warnt. Das ergibt eine Studie der Online-Plattform…
Digitale Welt

Deutschland verliert Boden bei digitaler Wettbewerbsfähigkeit

Deutschland verliert bei der digitalen Wettbewerbsfähigkeit laut einer neuen Studie an Boden. Die Bundesrepublik fiel in einer renommierten Rangliste auf den 18. Platz unter 63 Ländern zurück. 2016 lag sie noch auf Platz 15, wie die private…
Handschlag

Zusammenschluss von valantic und ADSCAPE

Das Digitalisierungsunternehmen valantic stärkt durch den Zusammenschluss mit der Siegener ADSCAPE GmbH seine Expertise beim Thema Product Information Management (PIM). PIM gewinnt vor dem Hintergrund der von valantic besetzten Felder wie Digital Commerce,…
Cybercrime

Cyberkriminelle haben sich der Corona-Krise schnell angepasst

Ob Daten-Klau, betrügerische Fake-Webseiten oder Schadsoftware: Cyberkriminelle haben während der Corona-Pandemie schnell Wege gefunden, die Krise für ihre Zwecke zu nutzen.

Anzeige

Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!