Anzeige

Anzeige

VERANSTALTUNGEN

IT-Tage 2018
10.12.18 - 13.12.18
In Frankfurt

Software Quality Days 2019
15.01.19 - 18.01.19
In Wien

CloudFest 2019
23.03.19 - 29.03.19
In Europa-Park, Rust

SMX München
02.04.19 - 03.04.19
In ICM – Internationales Congress Center München

Anzeige

Anzeige

Anzeige

KI

Pegasystems weist auf eine wichtige Unterscheidung beim Einsatz von Künstlicher Intelligenz (KI) hin: Opaque KI sollte nur für unkritische Anwendungen verwendet werden, für kritische oder regulierte Szenarien kommt dagegen nur transparente KI in Frage, weil nur diese nachvollziehbare Ergebnisse liefert.

Im CRM und im E-Commerce wird KI bereits verbreitet für die Optimierung der Interaktionen mit Kunden verwendet – so beispielsweise in Chatbots und für selbstlernende Empfehlungen im E-Commerce. Unternehmen versprechen sich von KI hier effizientere und flexiblere Prozesse.

Allerdings birgt der KI-Einsatz auch Risiken, weil die verwendeten Algorithmen zu unbeabsichtigten Ergebnissen führen können. Das gilt umso mehr, wenn selbstlernende und sich selbst optimierende Systeme eingesetzt werden, beispielsweise um das Kaufverhalten vorherzusagen. Die Ergebnisse können aufgrund von "Voreingenommenheit" – also aufgrund von nicht ausreichend neutral konfigurierten Parametern – verfälscht sein. Unerwünschte Ergebnisse können sogar die Reputation von Unternehmen beschädigen; so zum Beispiel als ein KI-gesteuerter Chatbot von Microsoft in einer Diskussion einen rassistischen Kurs einschlug.

Im Nachhinein lässt sich dann aufgrund der Fülle von Parametern und Nebenbedingungen – die in Echtzeit wechseln können – nicht mehr nachvollziehen, weshalb das System bestimmte Annahmen getroffen hat; außerdem werden häufig zufallsgenerierte Parameter eingestreut.

Pegasystems weist darauf hin, dass KI-Anwender zwischen transparenter und opaquer (undurchsichtiger) KI unterscheiden müssen:

  • Transparente KI bleibt für Anwender in jedem Schritt nachvollziehbar; es lässt sich jederzeit feststellen, warum und wie das System zu einer bestimmten Lösung gekommen ist.
  • Opaque KI liefert Ergebnisse, von denen auch der Anwender nicht mit Bestimmtheit angeben kann, warum es dazu gekommen ist.

"Transparent und opaque sind keine Wertungen", erklärt Dr. Kay Knoche, Principal Solution Consultant bei Pegasystems in München. "Es geht nicht um gute oder schlechte KI, sondern um unterschiedliche technische Verfahren. Eine transparente Entscheidungsfindung lässt sich trotz einer großen Zahl von Parametern mit Reverse Engineering immer zurückverfolgen. Bei opaquer KI kann das Regelwerk dagegen fast beliebig weiterwachsen, das System lernt und formuliert dabei seine Regeln bis zu einem gewissen Grad selbst."

Transparenz bedeutet eine Einschränkung der KI-Verfahren. Diese Systeme sind daher weniger effizient. Jedoch ist Transparenz in vielen Anwendungen unverzichtbar. So müssen Finanzdienstleister gegenüber Aufsichtsbehörden darlegen können, wie bestimmte Entscheidungen zustande gekommen sind. Die neue EU-Daten­schutz-Grundverordnung (DSGVO) schreibt das für einige Anwendungsbereiche sogar zwingend vor.

"Anwender müssen sich darüber im Klaren sein, welche Art von KI sie wann und wofür einsetzen", so Dr. Knoche weiter. "Nur in einfachen, unkritischen Szenarien können sie die Effizienz der opaquen KI nutzen, ansonsten müssen sie auf die transparente KI zurückgreifen, die sie jederzeit unter Kontrolle halten können. Diese Entscheidung, in welchen Fällen welche Variante passt, kann ihnen die KI zumindest vorerst jedoch nicht abnehmen."

www.pega.com
 

GRID LIST
Tb W190 H80 Crop Int A9f94445fb0afc6518c9aadd7d203eaf

AI ON THE RISE: Ein Blick auf das IT-Jahr

Blickt man zurück auf das Jahr 2018 so erinnert man sich aus der IT Sicht vor allem an…
KI

Startschuss für eine KI-Offensive der Wirtschaft?

Am 16. November veröffentlichte die Bundesregierung ihre Strategie zur Entwicklung und…
Tb W190 H80 Crop Int 5932773f3d0fa869a9e4543903836f46

Die Zukunft des Highspeed-Internets - wann können wir es alle nutzen?

Internet und Deutschland, das ist immer noch eine Verknüpfung, die an Blechdosen und…
Tb W190 H80 Crop Int 72f4f00f38a67264795c38a29ebfca98

Intelligente Standards für die Automobilindustrie

In der jüngeren Vergangenheit hat es einen Umbruch in der vernetzten Fahrzeugtechnik…
Tb W190 H80 Crop Int 83e42abf2c83bc3b81052b099644a410

Faktor Mensch im Fokus der Digitalisierung

Industrie 4.0 und Internet of Things, Digitalisierung, Artificial Intelligence –…
Vertrauen in #Datensicherheit auf Fünf-Jahres-Hoch @Bitkom #Datenschutz  it-daily.net/analysen/19805-vertrauen-in-datensicherheit-auf-fuenf-jahres-hoch

IT-Modernisierung: Enterprise Architekten als Vermittler für digitale Transformation

Digitale Unternehmen bringen die Interaktion mit ihren Kunden auf ein neues Level.…
Smarte News aus der IT-Welt