Anzeige

Anzeige

VERANSTALTUNGEN

IT-SOURCING 2019 – Einkauf meets IT
09.09.19 - 10.09.19
In Düsseldorf

ACMP Competence Days Berlin
11.09.19 - 11.09.19
In Stiftung Deutsches Technikmuseum Berlin, Berlin

MCC CyberRisks - for Critical Infrastructures
12.09.19 - 13.09.19
In Hotel Maritim, Bonn

Rethink! IT 2019
16.09.19 - 17.09.19
In Berlin

DSAG-Jahreskongress
17.09.19 - 19.09.19
In Nürnberg, Messezentrum

Anzeige

Anzeige

KI

Forscher des Massachusetts Institute of Technology (MIT) haben ein psychopathisches KI-System erschaffen, das durch sein Training, das ausschließlich an negativem Bildmateriel durchgeführt wurde, aufzeigt, wie gefährlich schlecht ausgebildete KI werden kann. Benannt nach dem Psycho-Protagonisten Norman Bates sei das System ein gutes Beispiel für "verfehlte KI".

Keine positiven Daten übrig

Norman Bates wurde grundlegend ausgebildet, um Bilder zu analysieren und ihnen einen passenden Untertitel anzufügen. Statt eines normalen KI-Trainings, musste Bates Tausende von Beiträgen in Reddit-Webforen studieren, in denen Bilder von grausamen Todesfällen ins Internet gestellt werden. Analyse-Ergebnisse von Norman Bates unterscheiden sich deshalb drastisch von denen anderer KI-Systeme. Wo ein normales KI-System etwa in abstrakten Gemälden verdeckte Tiere oder Menschen ausmachen kann, erkennt der Prototyp nur Schlechtes. So zum Beispiel eine schwangere Frau, die von einem Gebäude stürzt.

Die MIT-Entwicklung ist durch das ausschließliche Analysieren negativer Bildinhalten so gepolt, dass aufgrund der Datensätze auch nur Schlechtes erkannt werden kann. Das KI-System ist den Forschenden zufolge zu einer Art Psychopathen mutiert, weil es nur Datenmaterial von entstellten und verunglückten Menschen kennt. In ihrem Experiment verglichen die Researcher ihre Psycho-KI zudem mit einer normalen Bildanalyse-KI, die mit Durchschnittsdaten trainiert wurde.

"Verfehlte Künstliche Intelligenz"

Während die normale KI eher fröhliche und positive Motive erkennt, kann die Psycho-KI in jedem Fall nur Tod, Verzweiflung und Gräuel ausmachen. Den Wissenschaftlern zufolge zeigt das KI-System sehr drastisch, wie wichtig die Datenauswahl für das Algorithmus-Training ist. Norman Bates sei das beste Beispiel für eine "verfehlte Künstliche Intelligenz", die entstehen kann, wenn voreingenommene Daten für maschinelles Lernen genutzt würden.

www.pressetext.com
 

GRID LIST
Tb W190 H80 Crop Int 8182f0ffa262b1251b932105c96254ec

Allgeier CORE ist Mitglied der Security Lab Community der GFFT

Etwa 90 % der aktuellen Cyberangriffe auf Unternehmen basieren auf Phishing-Attacken. So…
Samsung Smartphone

Software-Update macht Samsungs 5G-Telefon in schnellen Netzen nutzbar

Samsungs Flaggschiff-Smartphone Galaxy S10 5G kann nach einem Software-Update nun…
Businesspeople digital

Hamburg bleibt Hauptstadt der IT-Experten, doch Berlin holt auf!

Hamburg ist das Bundesland mit der größten Dichte an IT-Spezialisten. Im hanseatischen…
quelloffenen Browser-Erweiterung Mailvelope

BSI entwickelt sichere Mail-Verschlüsselung weiter

Mit der quelloffenen Browser-Erweiterung Mailvelope können Anwender unter Verwendung des…
Tb W190 H80 Crop Int 146fe2b17fbeb487e59c69f8c041048e

Bosch und NetApp entwickeln Sicherheitslösung

NetApp und Bosch Building Technologies stellen eine gemeinsam entwickelte…
Sichere Cloud-Kommunikation

OPTIGA Trust M verbessert Sicherheit von Cloud Geräten

Chip-basierte Sicherheitsanker sind das A und O für vernetzte Anwendungen und…