Anzeige

Anzeige

VERANSTALTUNGEN

Software Quality Days 2019
15.01.19 - 18.01.19
In Wien

CloudFest 2019
23.03.19 - 29.03.19
In Europa-Park, Rust

SMX München
02.04.19 - 03.04.19
In ICM – Internationales Congress Center München

Anzeige

Anzeige

Anzeige

Google testet in Zusammenarbeit mit Forschern der Universitäten Chicago, Sheffield und der University of the West of England derzeit, ob Künstliche Intelligenz (KI) durch den Lernprozess plötzlich zu einseitigen und diskriminierenden Entscheidungen tendieren kann. Erst im Frühjahr sorgten die Entgleisungen des Chatbots "Tay" von Microsoft für Negativschlagzeilen und könnten das friedliche Miteinander gefährden.

Komplexe Algorithmen

"Entscheidungen, die auf maschinellem Lernen basieren, können sowohl nützlich sein als auch einen sehr großen Einfluss auf unser Leben haben", so Google-Forscher Moritz Hardt. Aus diesem Grund sei es immer wichtiger zu wissen, ob manche Maschinen womöglich diskriminierende Entscheidungen treffen und ob KI überhaupt feinfühlige Eigenschaften gegeben sind. Der Test soll mit KIs durchgeführt werden, die lernen, Vorhersagen über die Zukunft zu machen, indem sie eine breite Masse von existierenden Daten analysieren.

"Auch wenn wir Zugang zu den Details von Algorithmen haben, sind diese so kompliziert, dass es fast aussichtslos ist, diese zu durchforsten", erklärt Nathan Sebro von der University of Chicago. Im März hatte Microsoft Probleme mit Tay, der aus der Vielzahl seiner erhaltenen Nachrichten gelernt hatte, ein Rassist zu sein. Zahlreiche rassistische Nachrichten führten dazu, dass er einer Überarbeitung unterzogen werden musste.

Sorgen sind begründet

"Maschinelles Lernen ist großartig, wenn wir es nutzen, um die beste Route für eine neue Öl-Pipeline zusammenzustellen. Bis wir jedoch genau wissen, wie einseitige Neigungen in der KI wirken, wäre ich sehr besorgt darüber, sie Entscheidungen treffen zu lassen, die direkte Auswirkungen auf das Leben von Menschen haben", betont Noel Sharkey von der University of Sheffield abschließend die Wichtigkeit nötiger Tests.

pte

GRID LIST
Mobile Payment

Bezahlen mit dem Smartphone in Deutschland

Die Mehrheit der Bundesbürger erwartet einen Durchbruch für das elektronische Bezahlen in…
KI

Künstliche Intelligenz, Chance oder Riskio?

62 Prozent der TeilnehmerInnen einer aktuellem Bitkom Research-Umfrage sehen Künstliche…
Kooperation

Symantec und Fortinet kooperieren

Symantec und Fortinet kooperieren, um Unternehmen umfassende und robuste…
PayPal

Bankraub 3.0: Android-Trojaner räumt PayPal-Konten leer

Experten des IT-Security Herstellers ESET haben einen neuen Android-Trojaner enttarnt,…
Tb W190 H80 Crop Int 0b3806b7ef9581da26ebc92f1f792409

Bitkom hält EU-Urheberrichtlinie für nicht entscheidungsreif

Die Verhandlungen über eine neue EU-Urheberrechtsrichtlinie stehen vor dem Abschluss. Zum…
Apple Pay

Hier kann mit Apple Pay bezahlt werden

Apple Pay ist in Deutschland gestartet - eine Landingpage mit Informationen rund um den…
Smarte News aus der IT-Welt