Anzeige

KI

Forscher des Massachusetts Institute of Technology (MIT) haben ein psychopathisches KI-System erschaffen, das durch sein Training, das ausschließlich an negativem Bildmateriel durchgeführt wurde, aufzeigt, wie gefährlich schlecht ausgebildete KI werden kann. Benannt nach dem Psycho-Protagonisten Norman Bates sei das System ein gutes Beispiel für "verfehlte KI".

Keine positiven Daten übrig

Norman Bates wurde grundlegend ausgebildet, um Bilder zu analysieren und ihnen einen passenden Untertitel anzufügen. Statt eines normalen KI-Trainings, musste Bates Tausende von Beiträgen in Reddit-Webforen studieren, in denen Bilder von grausamen Todesfällen ins Internet gestellt werden. Analyse-Ergebnisse von Norman Bates unterscheiden sich deshalb drastisch von denen anderer KI-Systeme. Wo ein normales KI-System etwa in abstrakten Gemälden verdeckte Tiere oder Menschen ausmachen kann, erkennt der Prototyp nur Schlechtes. So zum Beispiel eine schwangere Frau, die von einem Gebäude stürzt.

Die MIT-Entwicklung ist durch das ausschließliche Analysieren negativer Bildinhalten so gepolt, dass aufgrund der Datensätze auch nur Schlechtes erkannt werden kann. Das KI-System ist den Forschenden zufolge zu einer Art Psychopathen mutiert, weil es nur Datenmaterial von entstellten und verunglückten Menschen kennt. In ihrem Experiment verglichen die Researcher ihre Psycho-KI zudem mit einer normalen Bildanalyse-KI, die mit Durchschnittsdaten trainiert wurde.

"Verfehlte Künstliche Intelligenz"

Während die normale KI eher fröhliche und positive Motive erkennt, kann die Psycho-KI in jedem Fall nur Tod, Verzweiflung und Gräuel ausmachen. Den Wissenschaftlern zufolge zeigt das KI-System sehr drastisch, wie wichtig die Datenauswahl für das Algorithmus-Training ist. Norman Bates sei das beste Beispiel für eine "verfehlte Künstliche Intelligenz", die entstehen kann, wenn voreingenommene Daten für maschinelles Lernen genutzt würden.

www.pressetext.com
 


Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!

 

Weitere Artikel

FIN7

Die Festnahme des FIN7-Hackers Denys Iarmak

Die amerikanischen Behörden haben kürzlich ein weiteres Mitglied der Hackergruppe FIN7 festgenommen, die Schäden im Wert von insgesamt über einer Milliarde US-Dollar verursacht haben soll.
Handschlag

WatchGuard schließt Übernahme von Panda Security ab

WatchGuard Technologies mit Sitz in Seattle, USA, hat die im März bekanntgegebene Übernahme von Panda Security abgeschlossen. Panda gehört nun als hundertprozentige Tochtergesellschaft zu WatchGuard.
Cookies

Droht durch das Cookie-Urteil des BGH ein „Digitaler Lockdown“?

Der Bundesgerichtshof (BGH) hat sein Urteil im Fall Bundesverband der Verbraucherzentralen gegen die Planet49 GmbH gesprochen. Demnach reicht eine bereits vorangekreuzte Checkbox nicht aus, um den Anforderungen an eine Einwilligung beim Setzen von Cookies zu…
Corona App

Bundesregierung sieht keine Notwendigkeit für Gesetz zur Corona-App

Die Bundesregierung will die Einführung der geplanten Corona-Warn-App des Bundes nicht durch ein spezielles Gesetz begleiten. Das geht aus einer Antwort auf eine parlamentarische Anfrage der Grünen hervor, über die der Spiegel am Freitag berichtete.
Coronavirus

Spioniert die kommende Corona-Warn-App heimlich Bürger aus?

Besitzer eines Smartphones von Apple oder mit dem Betriebssystem Android bekommen beim Aktualisieren der System-Software Hinweise darauf, dass Apple und Google die Funktion von offiziellen Corona-Warn-Apps möglich machen wollen.
Twitter

Trumps Feldzug gegen Twitter und Co.

Donald Trump sagt Twitter und Co. den Kampf an: Der US-Präsident unterzeichnete am Donnerstag (Ortszeit) eine Verfügung, mit der er soziale Netzwerke stärker reglementieren will.

Anzeige

Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!