Anzeige

künstliche Intelligenz

Die von Justiz, Banken und privaten Unternehmen verwendeten Algorithmen sind laut Forschern des Massachusetts Institute of Technology (MIT) manchmal voreingenommen.

Sie wirken sich unverhältnismäßig negativ auf Farbige und Menschen in niedrigeren Einkommensklassen aus, wenn sie Kredite beantragen, sich um Jobs bewerben oder sogar vor Gericht stehen, wenn beispielsweise eine Kaution festgesetzt werden soll.

Neue Programmiersprache für KI

Um die faire Gleichbehandlung wiederherzustellen, haben die Forscher eine neue Programmiersprache für Künstliche Intelligenz (KI) entwickelt, die die Fairness von Algorithmen genauer und schneller beurteilen kann als verfügbare Alternativen. Ihre "Sum Product Probabilistic Language" (SPPL) ist ein probabilistisches Programmiersystem an der Schnittstelle von Programmiersprachen und KI. Es zielt darauf ab, KI-Systeme einfacher zu entwickeln. Mit SPPL gab es bereits Erfolge in den Bereichen Computer Vision, Datenbereinigung und automatisierte Datenmodellierung.

Laut Feras Saad, Doktorand im Bereich Elektrotechnik und Informatik, gibt es zwar ähnliche Systeme, "doch unseres ist auf eine bestimmte Klasse von Modellen spezialisiert und optimiert, sodass es Lösungen 1.000 Mal schneller liefern kann". SPPL bietet dem Experten nach schnelle, genaue Lösungen für Fragen wie "Wie wahrscheinlich ist es, dass das Modell jemandem über 40 einen Kredit empfiehlt?". Zu den Fairness-Fragen, die SPPL beantworten kann, gehören "Gibt es einen Unterschied zwischen der Wahrscheinlichkeit, einem Einwanderer und Nichteinwanderer mit dem gleichen sozioökonomischen Status einen Kredit zu empfehlen?" oder "Wie hoch ist die Wahrscheinlichkeit einer Einstellung, wenn der Kandidat für den Job qualifiziert ist und aus einer unterrepräsentierten Gruppe stammt?".

Folgenschwere Fehler vermeiden

Fehler durch probabilistische Inferenz sind in vielen KI-Anwendungen tolerierbar. Es ist jedoch unerwünscht, dass Inferenzfehler zu sozial folgenschweren Anwendungen führen. "SPPL zeigt, dass eine genaue probabilistische Inferenz für eine breite Klasse probabilistischer Programme praktisch und nicht nur theoretisch möglich ist", sagt Vikash Mansinghka, der die Entwicklung geleitet hat.

www.pressetext.com


Artikel zu diesem Thema

Digitalisierung
Jul 28, 2021

Digitale Ethik: Drei Handlungsempfehlungen in Unternehmen

Algorithmen, die Fake News generieren, die auf den sozialen Medien verbreitet werden,…
Java
Jul 19, 2021

Java ist weiterhin Spitzenreiter der Programmiersprachen

Selbst nach 25 Jahren ist Java immer noch eine der beliebtesten Programmiersprachen im…

Weitere Artikel

Activision Blizzard

Microsoft übernimmt Gamesfirma Activision Blizzard

Microsoft übernimmt in einem fast 70 Milliarden Dollar schweren Deal den großen Videospieleanbieter Activision Blizzard. Der Software-Riese, der hinter der Xbox-Spielekonsole steht, sichert sich damit populäre Spiele wie «Call of Duty», «Overwatch» und «Candy…
Ericsson

Patentklagen: Ericsson geht gegen Apple vor

Nach dem Auslaufen eines Patentdeals zwischen Ericsson und Apple zieht der schwedische Netzwerk-Ausrüster vor Gericht. In Klagen in Texas wirft Ericsson dem iPhone-Konzern die Verletzung von insgesamt zwölf Patenten vor.
Euro

IT-Ausgaben werden 2022 um 5,1 % steigen

Laut dem Research- und Beratungsunternehmen Gartner werden sich die weltweiten IT-Ausgaben im Jahr 2022 auf 4,5 Billionen US-Dollar erhöhen, was einem Anstieg von 5,1 % gegenüber 2021 entspricht.
Chrome

Chrome nagelt User auf Suchmaschine fest

Nutzer des aktuellen Google-Webbrowsers Chrome (Version 97) können in den Einstellungen ab sofort nicht mehr die per Default gesetzten Suchmaschinen aus der Liste entfernen. Gleiches trifft auch auf das freie Chromium-Projekt zu, wie Reddit-User berichten.
Corona Warn App

Ob 2G oder 3G plus: Neue Version der Corona-Warn-App zeigt Status an

Die offizielle Corona-Warn-App des Bundes ist in einer neuen Version in der Lage, gültige Impf- oder Genesenenzertifikate sowie einen digitalen Testnachweis in einen Gesamtstatus zusammenzufassen. Das teilten die Betreiber der App, die SAP und Deutsche…
Social Media Commerce

Nebenbei einkaufen: Social Commerce wird zum Billiardengeschäft

Das Einkaufen auf Social-Media-Plattformen wie Instagram und TikTok wird bis 2025 weltweit 1,2 Bio. Dollar (2021: 492 Mrd. Dollar) erreichen, wie der Bericht "Why Shopping's set for a social Revolution" der Unternehmensberatung Accenture prognostiziert. Dies…

Anzeige

Jetzt die smarten News aus der IT-Welt abonnieren! 💌

Mit Klick auf den Button "Zum Newsletter anmelden" stimme ich der Datenschutzerklärung zu.