Anzeige

Google testet in Zusammenarbeit mit Forschern der Universitäten Chicago, Sheffield und der University of the West of England derzeit, ob Künstliche Intelligenz (KI) durch den Lernprozess plötzlich zu einseitigen und diskriminierenden Entscheidungen tendieren kann. Erst im Frühjahr sorgten die Entgleisungen des Chatbots "Tay" von Microsoft für Negativschlagzeilen und könnten das friedliche Miteinander gefährden.

Komplexe Algorithmen

"Entscheidungen, die auf maschinellem Lernen basieren, können sowohl nützlich sein als auch einen sehr großen Einfluss auf unser Leben haben", so Google-Forscher Moritz Hardt. Aus diesem Grund sei es immer wichtiger zu wissen, ob manche Maschinen womöglich diskriminierende Entscheidungen treffen und ob KI überhaupt feinfühlige Eigenschaften gegeben sind. Der Test soll mit KIs durchgeführt werden, die lernen, Vorhersagen über die Zukunft zu machen, indem sie eine breite Masse von existierenden Daten analysieren.

"Auch wenn wir Zugang zu den Details von Algorithmen haben, sind diese so kompliziert, dass es fast aussichtslos ist, diese zu durchforsten", erklärt Nathan Sebro von der University of Chicago. Im März hatte Microsoft Probleme mit Tay, der aus der Vielzahl seiner erhaltenen Nachrichten gelernt hatte, ein Rassist zu sein. Zahlreiche rassistische Nachrichten führten dazu, dass er einer Überarbeitung unterzogen werden musste.

Sorgen sind begründet

"Maschinelles Lernen ist großartig, wenn wir es nutzen, um die beste Route für eine neue Öl-Pipeline zusammenzustellen. Bis wir jedoch genau wissen, wie einseitige Neigungen in der KI wirken, wäre ich sehr besorgt darüber, sie Entscheidungen treffen zu lassen, die direkte Auswirkungen auf das Leben von Menschen haben", betont Noel Sharkey von der University of Sheffield abschließend die Wichtigkeit nötiger Tests.

pte


Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!

 

Weitere Artikel

Netzerk Globus

IBM und AT&T erweitern Zusammenarbeit in den Bereichen Hybrid Cloud und 5G

Die Pandemie hat den Übergang zu einer mobilen Gesellschaft auf völlig neuen Ebenen beschleunigt. Eine direkte Folge davon ist ein massiver Anstieg der Kapazitätsnachfrage in der Telekommunikationsindustrie mit einer sprunghaft ansteigenden Netzwerkauslastung…
Rezept Digital

Sieben von zehn Briten kochen nach Social Media

Sieben von zehn Briten verwenden beim Kochen Rezepte von Social-Media-Plattformen wie Facebook oder Instagram. Ein Zehntel geht sogar auf die Video-App TikTok, um Inspiration für neue Gerichte zu finden.
Uberwachung

Datenschutzbeauftragter kritisiert Überwachungspläne

Der Bundesdatenschutzbeauftragte, Ulrich Kelber, hat die Pläne der großen Koalition zur Ausweitung der Überwachungsbefugnisse der deutschen Geheimdienste scharf kritisiert. «Das Ausmaß der staatlichen Überwachung übersteigt mittlerweile das für eine…
Ransomware

US-Behörden: Akute Ransomware-Gefahr für Spitäler

Das US-Gesundheitswesen muss sich akut auf eine erhöhte Cybercrime-Bedrohung einstellen. Davor warnen die zum Ministerium für Innere Sicherheit gehörige Cybersecurity and Infrastructure Security Agency (CISA), das FBI und das Ministerium für Gesundheitspflege…
Energieversorgung

Rittal stellt sich für den Zukunftsmarkt Energie neu auf

Rittal ist am 1. August mit einem eigenen Unternehmensbereich für den Energiemarkt gestartet. Mit der neuen Geschäftseinheit „Energy & Power Solutions“ legt das Unternehmen den Grundstein für den weiteren technischen und vertrieblichen Ausbau seiner…
Software

Gebrauchte Software - lohnt sich die Ersparnis?

Die Bedeutsamkeit von Software wächst mehrheitlich in den Unternehmen: Geschäftsprozesse und Arbeitsqualität hängen zunehmend stärker von der Frage ab, ob auch eine professionelle Software eingesetzt wird.

Anzeige

Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!