Anzeige

Anzeige

VERANSTALTUNGEN

Software Quality Days 2019
15.01.19 - 18.01.19
In Wien

CloudFest 2019
23.03.19 - 29.03.19
In Europa-Park, Rust

SMX München
02.04.19 - 03.04.19
In ICM – Internationales Congress Center München

Anzeige

Anzeige

Anzeige

KI

Forscher des Massachusetts Institute of Technology (MIT) haben ein psychopathisches KI-System erschaffen, das durch sein Training, das ausschließlich an negativem Bildmateriel durchgeführt wurde, aufzeigt, wie gefährlich schlecht ausgebildete KI werden kann. Benannt nach dem Psycho-Protagonisten Norman Bates sei das System ein gutes Beispiel für "verfehlte KI".

Keine positiven Daten übrig

Norman Bates wurde grundlegend ausgebildet, um Bilder zu analysieren und ihnen einen passenden Untertitel anzufügen. Statt eines normalen KI-Trainings, musste Bates Tausende von Beiträgen in Reddit-Webforen studieren, in denen Bilder von grausamen Todesfällen ins Internet gestellt werden. Analyse-Ergebnisse von Norman Bates unterscheiden sich deshalb drastisch von denen anderer KI-Systeme. Wo ein normales KI-System etwa in abstrakten Gemälden verdeckte Tiere oder Menschen ausmachen kann, erkennt der Prototyp nur Schlechtes. So zum Beispiel eine schwangere Frau, die von einem Gebäude stürzt.

Die MIT-Entwicklung ist durch das ausschließliche Analysieren negativer Bildinhalten so gepolt, dass aufgrund der Datensätze auch nur Schlechtes erkannt werden kann. Das KI-System ist den Forschenden zufolge zu einer Art Psychopathen mutiert, weil es nur Datenmaterial von entstellten und verunglückten Menschen kennt. In ihrem Experiment verglichen die Researcher ihre Psycho-KI zudem mit einer normalen Bildanalyse-KI, die mit Durchschnittsdaten trainiert wurde.

"Verfehlte Künstliche Intelligenz"

Während die normale KI eher fröhliche und positive Motive erkennt, kann die Psycho-KI in jedem Fall nur Tod, Verzweiflung und Gräuel ausmachen. Den Wissenschaftlern zufolge zeigt das KI-System sehr drastisch, wie wichtig die Datenauswahl für das Algorithmus-Training ist. Norman Bates sei das beste Beispiel für eine "verfehlte Künstliche Intelligenz", die entstehen kann, wenn voreingenommene Daten für maschinelles Lernen genutzt würden.

www.pressetext.com
 

GRID LIST
KI

Künstliche Intelligenz, Chance oder Riskio?

62 Prozent der TeilnehmerInnen einer aktuellem Bitkom Research-Umfrage sehen Künstliche…
Kooperation

Symantec und Fortinet kooperieren

Symantec und Fortinet kooperieren, um Unternehmen umfassende und robuste…
PayPal

Bankraub 3.0: Android-Trojaner räumt PayPal-Konten leer

Experten des IT-Security Herstellers ESET haben einen neuen Android-Trojaner enttarnt,…
Tb W190 H80 Crop Int 0b3806b7ef9581da26ebc92f1f792409

Bitkom hält EU-Urheberrichtlinie für nicht entscheidungsreif

Die Verhandlungen über eine neue EU-Urheberrechtsrichtlinie stehen vor dem Abschluss. Zum…
Apple Pay

Hier kann mit Apple Pay bezahlt werden

Apple Pay ist in Deutschland gestartet - eine Landingpage mit Informationen rund um den…
Domain

Domain-Datenbank kommt Grundsatz der Datensparsamkeit nicht nach

Die Domain-Registrierungsdatenbank WHOIS kommt den Grundsätzen der Datensparsamkeit der…
Smarte News aus der IT-Welt