Künstliche Intelligenz rät Frauen zu weniger Gehalt

Eine aktuelle Studie der Technischen Hochschule Würzburg-Schweinfurt (THWS) deckt auf: Sprachmodelle wie ChatGPT schlagen Frauen bei Gehaltsverhandlungen systematisch niedrigere Beträge vor als Männern – selbst bei identischen Voraussetzungen.

Im Zentrum der Untersuchung stand ein großes KI-Sprachmodell, das in mehreren realitätsnahen Beratungssituationen zur Gehaltsverhandlung befragt wurde. Die Forscher legten dabei großen Wert auf gleiche Rahmenbedingungen – einzig das Geschlecht der anfragenden Person wurde variiert. Das Ergebnis: Frauen erhielten regelmäßig niedrigere Empfehlungen für ihre Gehaltsforderungen als Männer (via Pressetext).

Vorurteile im Beratungskontext besonders sichtbar

Laut den THWS-Forschern zeigen sich solche geschlechtsspezifischen Verzerrungen vor allem in interaktiven Anwendungsszenarien – also dort, wo die KI als beratendes System agiert. In standardisierten Testverfahren, sogenannten Benchmarks, seien derartige Unterschiede dagegen seltener erkennbar. Das mache es umso schwieriger, die Problematik frühzeitig zu erkennen.

Ein zusätzlicher Aspekt der Studie betrifft die Lernmechanismen moderner KI-Modelle. Da diese Systeme frühere Nutzereingaben in ihre zukünftigen Antworten einfließen lassen, besteht laut THWS das Risiko, dass sich Vorurteile mit der Zeit verstärken. Für Nutzer bleibt der Weg zur Beurteilung oft und unklar, obwohl die Antworten in sich plausibel wirken. Die Antworten erscheinen als neutrales Urteil, auch wenn sie es eigentlich nicht sind.

Die Ergebnisse stammen aus einem laufenden Forschungsprojekt zur ethischen Nutzung von Künstlicher Intelligenz. Die Untersuchung ist Teil des EU-Projekts AIOLIA, das sich unter anderem mit Fragen der Fairness, Transparenz und Verantwortung im Umgang mit KI-Systemen beschäftigt.