KI-Bias vorbeugen

Fünf Schritte für eine ethische KI

Ethische KI gegen KI-Bias

Es besteht kein Zweifel, dass künstliche Intelligenz (KI) die IT-Welt verändern wird. Jedoch erwecken die komplexen und intransparenten Algorithmen oftmals den Verdacht der Diskriminierung. Wie können also Unternehmen KI-Bias vorbeugen und transparenter werden? Mit fünf Maßnahmen können Sie ihre KI-Lösungen nachvollziehbarer und fairer machen, um ihre KI ethisch aufzustellen.

Beim maschinellen Lernen (ML) analysiert eine KI Datenbestände, um Muster zu lernen, die sie auf neue Datensätze anwenden kann. Diese Muster können beispielsweise die Entscheidungsgrundlage bilden, um aus einer Vielzahl von Optionen die Beste herauszusuchen – egal, ob im Banken-, Gesundheits- oder Versicherungssektor. Allerdings kann KI nur so intelligent und unvoreingenommen sein, wie es ihre Datengrundlage zulässt.

Anzeige

In der IT-Industrie sind beispielsweise mehr als 77 Prozent aller Angestellten Männer und 59 Prozent weiß. Sollte ein IT-Unternehmen seine KI mit diesen Daten trainieren, damit sie die optimale Besetzung für eine neue Stelle sucht, kann dies durchaus zu einem verzerrten Auswahlverfahren führen. Doch das Thema KI-Bias betrifft nicht nur den privaten Sektor. Auch im Einsatz in der Strafverfolgung können voreingenommene Algorithmen zu diskriminierenden Ergebnissen führen. Das MIT und die Stanford University führten auf der Grundlage von Hauttyp und Geschlecht Studien durch. Diese ergaben, dass Anwendungen zur Gesichtserkennung bei dunkelhäutigen Frauen eine Fehlerquote von mehr als 34 Prozent aufweisen.

Überall dort, wo KI-basierte Entscheidungen getroffen werden, die sich auf Menschenleben auswirken, gibt es ethische Herausforderungen. Oftmals befinden sich Algorithmen und Daten in einer Blackbox, während die Arbeitsweise einer konkreten KI für die Allgemeinheit nicht nachvollziehbar ist. In der Folge steigt das Risiko für einen Reputationsverlust und wirtschaftliche Einbußen. Mit den fünf folgenden Maßnahmen machen Unternehmen ihre KI-Lösungen nachvollziehbarer und fairer, um ihre KI ethisch einwandfrei aufzustellen.

1. Eine Definition schaffen

Als Erstes sollten Unternehmen definieren, was eine ethische KI für sie genau bedeutet. Dieses Verständnis muss den Stakeholdern klar und transparent kommuniziert werden und sollte die Kernwerte des Unternehmens wie Kundenzufriedenheit und Mitarbeiterorientierung widerspiegeln.

2. Vorschriften überprüfen und durchsetzen

Unternehmen sollten einen Chief AI Ethics Officer oder KI-Ethikbeauftragten (CAIEO) ernennen, um sicherzustellen, dass die in der Definition festgelegten Werte auch durchgesetzt werden. Sie überprüfen und bewerten die Ergebnisse einer KI unter ethischen Gesichtspunkten. Außerdem sollte der CAIEO den Spielraum haben, verzerrte und ungeprüfte Ergebnisse – wie die Gesichtserkennung – ganz auszuschließen.

NL Icon 1
Jetzt die smarten News aus der IT-Welt abonnieren! 💌

Mit Klick auf den Button “Zum Newsletter anmelden” stimme ich der Datenschutzerklärung zu.

3. Prüfung der KI-Ethik- und Qualitätssicherung verbessern

KI sollte ständig hinsichtlich der Ethik und Qualität überprüft werden. Nur mit festen Kontrollen im Produktzyklus optimieren Unternehmen den Algorithmus beständig und verhindern gleichzeitig einen KI-Bias. Dabei ist es notwendig, unterschiedliche Anwendungsszenarien und Ergebnisse in die Tests einzubeziehen, um sicherzustellen, dass die verwendeten Datensätze angemessen repräsentativ und vorurteilsfrei sind. So fällt es leichter, festzustellen, ob die KI-gestützte Anwendung inhärente Verzerrungen aufweist.

4. Kundenfeedback sammeln

Um ethische Richtlinien in Zukunft besser einzuhalten, ist es ratsam, den Kunden selbst in den KI-Entwicklungsprozess miteinzubeziehen. Zu diesem Zweck sollte vom Unternehmen ein fachkundiges Aufsichtsgremium eingesetzt werden, das an der Erprobung neuer KI-gestützter Produkte teilnimmt. Deren Rückmeldung fließt dann in den Produktzyklus ein, damit die Lösung fairer, sicherer und ethischer wird.

5. Mehr Transparenz schaffen

Komplexe Algorithmen laufen oftmals wie in einer Blackbox ab. Das heißt, die Prozesse und Ergebnisse sind für die Kunden oft nicht nachvollziehbar. Auch wenn der Schutz des geistigen Eigentums eine hohe Priorität darstellt, sollten Unternehmen ihren Kunden genau erklären, welche Daten zu welchem Zweck gesammelt und genutzt werden. Wenn die Kunden verstehen, welchen Mehrwert eine KI generiert, dann steigert das auch die Akzeptanz der Lösung.

Bessere Kommunikation und Transparenz schafft Vertrauen

Bei der Umsetzung von ethischer KI geht es nicht nur um die Verwendung des richtigen technischen Frameworks, sondern auch um die entsprechenden Soft Skills – von den Entwicklern bis zu den Führungskräften. Denn es ist wichtig, dass sich Unternehmen mit den möglichen Vorurteilen auseinandersetzen und die Entscheidungsträger die Ressourcen bereitstellen, künstliche Intelligenz ethisch einwandfrei zu betreiben und transparent zu kommunizieren.

Ethische KI-Lösungen ermöglichen sowohl involvierten Mitarbeitern als auch Außenstehenden zu verstehen, wie sich die Modellvorhersagen mit verschiedenen Eingaben ändern. So können Verantwortliche den Einsatz künstlicher Intelligenz auf diskriminierende Ergebnisse hin prüfen und etwaige Fehler korrigieren, so dass Entscheidungsträger das Potenzial von KI in angemessener Weise ausschöpfen können. Dies verbessert die Vertrauensbeziehung zwischen Unternehmen und Kunden und trägt zu einem zukunftsfähigen Einsatz Künstlicher Intelligenzen bei.

Eric Winston Mphasis

Eric Winston

Mphasis -

Vice President, General Counsel, Chief Ethics and Compliance Officer

Anzeige

Artikel zu diesem Thema

Weitere Artikel

Jetzt die smarten News aus der IT-Welt abonnieren! 💌

Mit Klick auf den Button “Zum Newsletter anmelden” stimme ich der Datenschutzerklärung zu.