Anzeige

künstliche Intelligenz

Die von Justiz, Banken und privaten Unternehmen verwendeten Algorithmen sind laut Forschern des Massachusetts Institute of Technology (MIT) manchmal voreingenommen.

Sie wirken sich unverhältnismäßig negativ auf Farbige und Menschen in niedrigeren Einkommensklassen aus, wenn sie Kredite beantragen, sich um Jobs bewerben oder sogar vor Gericht stehen, wenn beispielsweise eine Kaution festgesetzt werden soll.

Neue Programmiersprache für KI

Um die faire Gleichbehandlung wiederherzustellen, haben die Forscher eine neue Programmiersprache für Künstliche Intelligenz (KI) entwickelt, die die Fairness von Algorithmen genauer und schneller beurteilen kann als verfügbare Alternativen. Ihre "Sum Product Probabilistic Language" (SPPL) ist ein probabilistisches Programmiersystem an der Schnittstelle von Programmiersprachen und KI. Es zielt darauf ab, KI-Systeme einfacher zu entwickeln. Mit SPPL gab es bereits Erfolge in den Bereichen Computer Vision, Datenbereinigung und automatisierte Datenmodellierung.

Laut Feras Saad, Doktorand im Bereich Elektrotechnik und Informatik, gibt es zwar ähnliche Systeme, "doch unseres ist auf eine bestimmte Klasse von Modellen spezialisiert und optimiert, sodass es Lösungen 1.000 Mal schneller liefern kann". SPPL bietet dem Experten nach schnelle, genaue Lösungen für Fragen wie "Wie wahrscheinlich ist es, dass das Modell jemandem über 40 einen Kredit empfiehlt?". Zu den Fairness-Fragen, die SPPL beantworten kann, gehören "Gibt es einen Unterschied zwischen der Wahrscheinlichkeit, einem Einwanderer und Nichteinwanderer mit dem gleichen sozioökonomischen Status einen Kredit zu empfehlen?" oder "Wie hoch ist die Wahrscheinlichkeit einer Einstellung, wenn der Kandidat für den Job qualifiziert ist und aus einer unterrepräsentierten Gruppe stammt?".

Folgenschwere Fehler vermeiden

Fehler durch probabilistische Inferenz sind in vielen KI-Anwendungen tolerierbar. Es ist jedoch unerwünscht, dass Inferenzfehler zu sozial folgenschweren Anwendungen führen. "SPPL zeigt, dass eine genaue probabilistische Inferenz für eine breite Klasse probabilistischer Programme praktisch und nicht nur theoretisch möglich ist", sagt Vikash Mansinghka, der die Entwicklung geleitet hat.

www.pressetext.com


Artikel zu diesem Thema

Digitalisierung
Jul 28, 2021

Digitale Ethik: Drei Handlungsempfehlungen in Unternehmen

Algorithmen, die Fake News generieren, die auf den sozialen Medien verbreitet werden,…
Java
Jul 19, 2021

Java ist weiterhin Spitzenreiter der Programmiersprachen

Selbst nach 25 Jahren ist Java immer noch eine der beliebtesten Programmiersprachen im…

Weitere Artikel

E-Rechnung

Elektronische Rechnungen kommen zunehmend besser an

Die elektronische Rechnung kommt in Deutschland immer schneller voran. Inzwischen versenden 4 von 10 Unternehmen (43 Prozent) E-Rechnungen. Vor einem Jahr lag der Anteil erst bei rund einem Drittel (3o Prozent), vor drei Jahren war es nur jedes Fünfte (19…
Social Media

Social Media: Nur eine Minderheit folgt Politiker-Accounts

Auf den Social-Media-Accounts von einiger Politikerinnen und Politikern werden sich demnächst wohl direkte Eindrücke aus Sondierungsrunden oder Koalitionsverhandlungen im Bund und einigen Ländern finden. Doch die große Mehrheit der Bürgerinnen und Bürger…
Akquisition

Dynatrace übernimmt SpectX

Das Software-Intelligence-Unternehmen Dynatrace hat die Übernahme des High-Speed-Parsing- und Query-Analytics-Unternehmens SpectX abgeschlossen und bettet künftig die SpectX-Technologie in die eigene Software-Intelligence-Plattform mit ein.
Online-Beratung

Online-Beratung bei Finanzierungsanbietern mit Schwächen

Die Möglichkeiten der Online-Beratung werden von den Finanzierungsanbietern nicht ausgeschöpft. Statt auf individuelle Bedürfnisse der Immobilienkäufer einzugehen, setzen die Baufinanzierer vornehmlich auf Terminvereinbarungen und eine Konditionsermittlung…
it-sa 2021

it-sa 2021 vom 12. bis 14. Oktober in Nürnberg

Auf 52,5 Mrd. Euro schätzt das Institut der deutschen Wirtschaft die finanziellen Schäden, die im letzten Jahr durch Hackerangriffe auf Mitarbeiter im Homeoffice entstanden. Als Fachmesse für IT-Sicherheit widmet sich die it-sa vom 12. bis 14. Oktober der…
Videocall

Ärger um Vergabe von Videosystem geht in nächste Runde

Im juristischen Streit über die Vergabe eines Auftrags für ein landesweites Videokonferenzsystems an Hessens Schulen wehrt sich das Land gegen eine Entscheidung der Vergabekammer. Nach den Worten eines Sprechers des Kultusministeriums in Wiesbaden wurde…

Anzeige

Jetzt die smarten News aus der IT-Welt abonnieren! 💌

Mit Klick auf den Button "Zum Newsletter anmelden" stimme ich der Datenschutzerklärung zu.