USU World 2018
06.06.18 - 07.06.18
In World Conference Center Bonn

CEBIT 2018
11.06.18 - 15.06.18
In Hannover

ERP Tage Aachen
19.06.18 - 21.06.18
In Aachen

next IT Con
25.06.18 - 25.06.18
In Nürnberg

XaaS Evolution 2018
01.07.18 - 03.07.18
In H4 Hotel Berlin Alexanderplatz

KI

Pegasystems weist auf eine wichtige Unterscheidung beim Einsatz von Künstlicher Intelligenz (KI) hin: Opaque KI sollte nur für unkritische Anwendungen verwendet werden, für kritische oder regulierte Szenarien kommt dagegen nur transparente KI in Frage, weil nur diese nachvollziehbare Ergebnisse liefert.

Im CRM und im E-Commerce wird KI bereits verbreitet für die Optimierung der Interaktionen mit Kunden verwendet – so beispielsweise in Chatbots und für selbstlernende Empfehlungen im E-Commerce. Unternehmen versprechen sich von KI hier effizientere und flexiblere Prozesse.

Allerdings birgt der KI-Einsatz auch Risiken, weil die verwendeten Algorithmen zu unbeabsichtigten Ergebnissen führen können. Das gilt umso mehr, wenn selbstlernende und sich selbst optimierende Systeme eingesetzt werden, beispielsweise um das Kaufverhalten vorherzusagen. Die Ergebnisse können aufgrund von "Voreingenommenheit" – also aufgrund von nicht ausreichend neutral konfigurierten Parametern – verfälscht sein. Unerwünschte Ergebnisse können sogar die Reputation von Unternehmen beschädigen; so zum Beispiel als ein KI-gesteuerter Chatbot von Microsoft in einer Diskussion einen rassistischen Kurs einschlug.

Im Nachhinein lässt sich dann aufgrund der Fülle von Parametern und Nebenbedingungen – die in Echtzeit wechseln können – nicht mehr nachvollziehen, weshalb das System bestimmte Annahmen getroffen hat; außerdem werden häufig zufallsgenerierte Parameter eingestreut.

Pegasystems weist darauf hin, dass KI-Anwender zwischen transparenter und opaquer (undurchsichtiger) KI unterscheiden müssen:

  • Transparente KI bleibt für Anwender in jedem Schritt nachvollziehbar; es lässt sich jederzeit feststellen, warum und wie das System zu einer bestimmten Lösung gekommen ist.
  • Opaque KI liefert Ergebnisse, von denen auch der Anwender nicht mit Bestimmtheit angeben kann, warum es dazu gekommen ist.

"Transparent und opaque sind keine Wertungen", erklärt Dr. Kay Knoche, Principal Solution Consultant bei Pegasystems in München. "Es geht nicht um gute oder schlechte KI, sondern um unterschiedliche technische Verfahren. Eine transparente Entscheidungsfindung lässt sich trotz einer großen Zahl von Parametern mit Reverse Engineering immer zurückverfolgen. Bei opaquer KI kann das Regelwerk dagegen fast beliebig weiterwachsen, das System lernt und formuliert dabei seine Regeln bis zu einem gewissen Grad selbst."

Transparenz bedeutet eine Einschränkung der KI-Verfahren. Diese Systeme sind daher weniger effizient. Jedoch ist Transparenz in vielen Anwendungen unverzichtbar. So müssen Finanzdienstleister gegenüber Aufsichtsbehörden darlegen können, wie bestimmte Entscheidungen zustande gekommen sind. Die neue EU-Daten­schutz-Grundverordnung (DSGVO) schreibt das für einige Anwendungsbereiche sogar zwingend vor.

"Anwender müssen sich darüber im Klaren sein, welche Art von KI sie wann und wofür einsetzen", so Dr. Knoche weiter. "Nur in einfachen, unkritischen Szenarien können sie die Effizienz der opaquen KI nutzen, ansonsten müssen sie auf die transparente KI zurückgreifen, die sie jederzeit unter Kontrolle halten können. Diese Entscheidung, in welchen Fällen welche Variante passt, kann ihnen die KI zumindest vorerst jedoch nicht abnehmen."

www.pega.com
 

GRID LIST
Tb W190 H80 Crop Int Ec0fdef4b27017e98fd7f1fbcad07e9a

Digital Day der EU-Kommission nimmt KI unter die Lupe

Der „Digital Day“ der EU-Kommission setzt es sich Jahr für Jahr zum Ziel zentrale Fragen…
Tb W190 H80 Crop Int C58669c5a0c8624feaaef7b02fbef0f4

#digitalnormal: So gelingt Unternehmen der digitale Wandel

Diskussionsstoff, Herausforderung und Wachstumsmotor: Die Studie „Psychologie der…
Tb W190 H80 Crop Int 7cc571e8cd11124e6e8e1fe7615df931

Datencheck: Sind Ihre Daten fit für die digitale Transformation?

Die Digitalisierung schreitet unaufhaltsam voran. Getrieben durch die immer schneller…
Tb W190 H80 Crop Int 260eb0da35e1bdcf4710b8da109ad4ac

Chatbots für Broker

Ob Facebook, WeChat, WhatsApp, Viber oder Telegram – die meisten Menschen nutzen heute…
Virtual Reality Weltraum

Virtual Reality: Vom Tal der Tränen zum Pfad der Erleuchtung

Virtual Reality ist in der Pong-Phase angekommen – so sieht es zumindest Nolan Bushnell.…
Smart City

Smart City: So leben wir in 40 Jahren

Vor über zehntausend Jahren entstanden die allerersten Städte. Heute bilden Metropolen…
Smarte News aus der IT-Welt

IT Newsletter


Hier unsere Newsletter bestellen:

 IT-Management

 IT-Security