Anzeige

KI

Viele Menschen stehen Künstlicher Intelligenz skeptisch gegenüber, weil sie Algorithmen für ungerecht oder voreingenommen halten. Dass diese tatsächlich diskriminierende Entscheidungen treffen können, haben einige Beispiele in den vergangenen Jahren gezeigt. Pegasystems erklärt, wie Unternehmen Vorurteile und Diskriminierung in ihren KI-Anwendungen verhindern.

Ende Oktober will die Enquete-Kommission des Bundestages nach zwei Jahren Diskussionen endlich einen Gesamtbericht über Künstliche Intelligenz (KI) vorlegen. Darin wird sie auch auf die Bedeutung von diskriminierungsfreier KI hinweisen, denn obwohl in KI-Anwendungen scheinbar objektive Algorithmen zum Einsatz kommen, treffen sie nicht immer neutrale und gerechte Entscheidungen. Manchmal ist die Datenbasis das Problem, die nicht ausgeglichen gewählt wurde oder bereits gesellschaftliche Ungleichheiten abbildet, manchmal steckt der Fehler in den Algorithmen selbst, die bestimmte Merkmale zu stark gewichten oder aus Korrelationen eine Kausalität ableiten, die nicht existiert. Beispiele für KI-Anwendungen, die Menschen aufgrund bestimmter Eigenschaften diskriminieren, sind in den vergangenen Jahren immer wieder bekannt geworden, etwa Gesichtserkennungsalgorithmen, die Probleme haben, Frauen und dunkelhäutige Menschen zu erkennen. Auch gezielte Manipulationen gab es, beispielsweise als der Chatbot eines großen Software-Konzerns aus echten Konversationen in sozialen Netzwerken lernen sollte und Anwender ihn mit rassistischen Äußerungen binnen wenigen Stunden zum Rassisten machten.

Kein Wunder also, dass viele Verbraucher Künstlicher Intelligenz skeptisch gegenüberstehen und gerade bei wichtigen Entscheidungen eher Menschen als einer KI vertrauen. Setzen Unternehmen KI-basierte Anwendungen ein, etwa bei der Auswahl von Bewerbern, der Vergabe von Krediten oder bei der Bearbeitung von Versicherungsfällen, müssen sie die Lösungen und Ergebnisse während der Entwicklung, der Trainingsphase und im laufenden Betrieb genau kontrollieren, um unfaire und diskriminierende Entscheidungen zu erkennen. Die beiden wichtigsten Bausteine dafür sind transparente Algorithmen und Simulationen. 

Transparente Algorithmen sind notwendig, damit Entwickler und Nutzer der KI-Anwendungen verstehen, wie Entscheidungen gefällt werden und wie sich bestimmte Eigenschaften auf die Entscheidungen auswirken. Sehr komplexe Algorithmen, die eine Art „Black Box“ sind, liefern möglicherweise bessere Ergebnisse, sind aber intransparent und bergen ein Risiko, weil umstrittene Entscheidungen nur unzureichend erklärt werden können. Unternehmen müssen daher abwägen, wie viel Transparenz und damit Erklärbarkeit für das konkrete Einsatzgebiet notwendig ist. Bei transparenten Algorithmen können sie bereits im Vorfeld mit Simulationen, die spezielle Testdaten oder echte Daten verwenden, schnell erkennen, welche als diskriminierend eingestuften Eigenschaften – etwa Alter, Geschlecht oder Herkunft – zu verzerrten Entscheidungen führen. Sei es, dass ältere Menschen eher einen Kredit gewährt bekommen als jüngere, dass Männer eher zu Vorstellungsgesprächen eingeladen werden als Frauen oder dass bei der Regulierung von Unfallschäden häufiger ein Gutachter zu Versicherten mit ausländischem Namen geschickt wird als zu Versicherten mit deutschem Namen.

Allerdings sind nicht alle Diskriminierungen so offensichtlich – die Stärke von KI-Anwendungen ist es schließlich, Zusammenhänge besser und schneller zu erkennen als Menschen. Zum Beispiel könnte eine KI auch vom Vornamen auf das Alter schließen oder von der Buchstabenhäufigkeit im Nachnamen auf die Herkunft. Darum müssen alle Eigenschaften, die in die Entscheidungsfindung einfließen, mit Simulationen auf eine mögliche Diskriminierung abgeklopft werden. Gute KI-Systeme erkennen die zu starke Gewichtung bestimmter Eigenschaften nicht nur in Simulationen, sondern auch im Live-Betrieb, sodass kontinuierlich nachjustiert werden kann.

„Eine Bevorzugung oder Benachteiligung bestimmter Personengruppen sieht man einem KI-Algorithmus nicht an – man erkennt sie erst in der Simulation oder im Live-Betrieb, wenn einzelne Eigenschaften die Entscheidungen in die eine oder andere Richtung beeinflussen“, erklärt Dr. Kay Knoche, Principal Solution Consultant bei Pegasystems. „Die Abwägung, welche Eigenschaften bei der Entscheidungsfindung nicht berücksichtigt werden sollen und wie viel Transparenz ein Algorithmus bieten soll, muss für jeden Anwendungsfall die Fachabteilung vornehmen. Die Entwickler der KI können nicht darüber entscheiden, wann eine hohe Vorhersagequalität und hohe Erfolgsquoten wichtig sind und wann diskriminierungsfreie Ergebnisse und Auditierbarkeit.“

Weitere Informationen:

Die neue globale Pegasystems-Studie „Was Verbraucher wirklich über KI denken“ zeigt, dass Verbraucher zwar einerseits optimistisch auf die Vorzüge von künstlicher Intelligenz (KI) blicken, andererseits aber auch unsicher und besorgt sind, wie Unternehmen heute KI für die Kundenbindung einsetzen.

www.pega.com/de
 


Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!

 

Artikel zu diesem Thema

Künstliche Intelligenz
Okt 06, 2020

Künstliche Intelligenz: Erwartungshaltung vs. Realität

Künstliche Intelligenz (KI) wird gerne mal als Retter, mal als Vernichter der Menschheit…
KI - Mensch
Jun 04, 2020

Künstliche Intelligenz für den Menschen

Künstliche Intelligenz (KI) ist längst allgegenwärtig in unserem täglichen Leben, ob in…
KI
Jan 26, 2020

KI und Ethik - Von Wunsch und Wirklichkeit

Künstliche Intelligenz (KI) verändert die Unternehmenswelt. Dem stimmen die meisten der…

Weitere Artikel

digitale Schule

Was man für eine funktionierende virtuelle Schule wirklich braucht

In den kommenden Monaten kehren überall auf der Welt Kinder wieder in die Schule zurück. Auch wenn sich die Szenarien seit den ersten Lock Downs oder Shut Downs verändert haben, es kommen Erinnerungen hoch. Viele Schulbezirke waren nicht in der Lage, mit…
RIP

Corona – Sargnagel der Digitalisierung in Deutschland?

Die Corona-Krise hat die Digitalisierung zwar vorangetrieben, allerdings beschränken sich diese Fortschritte vorrangig auf Technologien für die Umstellung auf Home-Office und Videokonferenzen. Eine umfassende digitale Transformation findet in vielen…
Digitalisierung

Digitalisierung auch beim Brexit entscheidend

Die langwierigen Brexit-Verhandlungen ließen den Unternehmen kaum Zeit, auf die Realitäten zu reagieren, wie die Handelsbeziehung nach dem 1. Januar 2021 aussehen würde. Die Unternehmen wussten, dass etwas passieren würde, was genau, blieb bis Ende Dezember…
Corona

Bundesbürger fordern digitale Mittel im Kampf gegen Corona

Ob bei der Terminvergabe für eine Schutzimpfung, der Unterbrechung von Infektionsketten oder der Übermittlung von Testergebnissen: Drei Viertel der Menschen in Deutschland (75 Prozent) wünschen sich einen stärkeren Einsatz digitaler Technologien, um die…
Gesichtserkennungs Software

Gesichtserkennungssoftware: Neues Berufsfeld könnte KI-Ethik gewährleisten

Gesichtserkennungssoftware wird in vielen Ländern immer häufiger eingesetzt, und in der gesamten EU nimmt die Nutzung biometrischer Daten im Allgemeinen zu.

Anzeige

Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!