Künstliche Intelligenz (KI) ist heute ein fester Bestandteil vieler Unternehmensanwendungen. Doch noch immer sehen sich Unternehmen häufig mit mangelnder Akzeptanz und Vertrauen in die Technologie seitens der Belegschaft konfrontiert. Erklärbare KI (Explainable AI, XAI) kann bei der Bewältigung dieser Herausforderung nicht nur hilfreich sein, sondern ist auch für den langfristigen Erfolg von KI in Unternehmen entscheidend.
Dass Algorithmen zunehmend Empfehlungen für menschliche Entscheider aussprechen oder Entscheidungen gleich selbst treffen, kann bei Anwendern durchaus ein gewisses Unbehagen hervorrufen. Umso wichtiger ist es, dass die Berechnungen und Vorhersagen von KI nachvollziehbar sind. Nur, wenn Mitarbeiter bereit sind, auf die Ergebnisse der Algorithmen zu vertrauen, können sich entsprechende Lösungen dauerhaft im Unternehmen durchsetzen.
Erklärbare KI spielt hierbei eine wichtige Rolle und hilft, die Akzeptanz der Technologie innerhalb der Belegschaft zu erhöhen. So kann es etwa förderlich sein, dass Mitarbeiter Einblicke in die zentralen Entscheidungsprozesse erhalten und automatisierte Entscheidungssysteme ihren Nutzern eine Erklärung anbieten, wie das jeweilige Ergebnis zustande gekommen ist. Dann können Mitarbeiter nicht nur ein besseres Verständnis dafür entwickeln, wie KI sie bei Ihrer Arbeit unterstützt. Es hilft ihnen auch dabei, die Entscheidungen der KI zu interpretieren und die Ergebnisse zu erläutern, etwa gegenüber Vorgesetzten, Wirtschaftsprüfern oder Regulierungsbehörden.
Mit der richtigen Unternehmenssoftware kann erklärbare KI an allen zentralen Stellen in die Geschäftsprozesse integriert werden. Hierfür gibt es verschiedene Möglichkeiten der Implementierung. Zudem nutzen Technologieanbieter je nach Anwendungsfall verschiedene Methoden, um zu erklären, wie eine KI-Lösung Entscheidungen trifft.
Bestehende Geschäftsprozesse als Basis für intelligente Prozessautomatisierung
Eine Möglichkeit, erklärbare KI in Unternehmenssoftware zu integrieren, ist die intelligente Prozessautomatisierung (IPA). Hierfür wird die zugrundeliegende Geschäftslogik von Unternehmenssoftware wie beispielsweise dem ERP-System als Basis für die KI genutzt. Die Unternehmenssoftware umfasst zahlreiche erprobte und vertraute Prozesse und Verfahren. Deren Resultate können in die Entwicklung von Modellen für maschinelles Lernen (ML) einfließen und diese lassen sich so automatisieren und verbessern.
Dabei ersetzen KI und maschinelles Lernen nicht die bestehenden Geschäftsregeln. Diese sollten nach wie vor definieren, wie Entscheidungen im Unternehmen getroffen werden. Allerdings sollten sich diese Regeln anhand neuer Datengrundlagen auch flexibel anpassen lassen. Hier kann maschinelles Lernen einen entscheidenden Vorteil bieten: Ein ML-Modell kann die Ergebnisse von regelbasierten Entscheidungen auswerten und die Regeln auf verständliche Weise überarbeiten. So kann maschinelles Lernen nicht nur bestehende Regeln ergänzen, sondern auch völlig neue vorschlagen.
Um den Ansatz einer KI-Lösung für Mitarbeiter verständlich darzulegen, kann ihre Entscheidung auf zwei Ebenen erklärt werden: lokal oder global.
Lokale Erklärbarkeit
Die lokale Erklärbarkeit ist ein einfacher und visueller Prüfpfad, um festzustellen, wie eine Entscheidung getroffen wurde. Warum schlägt das Modell etwa vor, den Bestand einer Lagereinheit, eines Ersatzteils oder Rohstoffs zu verdoppeln? Warum sollten bestimmte Anlagen künftig häufiger gewartet werden als andere?
Dabei können intuitive visuelle Methoden zur lokalen Erklärbarkeit beitragen. In einigen Fällen können inhärent erklärbare Modelle wie Entscheidungsbäume verwendet werden, sodass die Entscheidungsfindung besser nachvollziehbar ist. Hier sind die einzelnen Attribute für Nutzer einsehbar, ebenso wie die Gewichtungsfaktoren, die bestimmen, welche Aspekte bedeutender sind als andere.
Globale Erklärbarkeit
Manchmal ist ein umfassenderer Einblick in die tatsächliche Funktionsweise des Modells erforderlich; etwa, um sicherzustellen, dass das Modell die Daten nicht einseitig interpretiert. So gab es in der Vergangenheit Fälle von einseitigen Modellen, durch die beispielsweise bestimmte Ethnien oder soziale Gruppen bei Kredit-Empfehlungen benachteiligt wurden. Um solche Fälle zu vermeiden, kann die Argumentation eines Modells auf einer höheren Ebene beschrieben werden, anstatt sich nur auf die einzelnen Schritte zu konzentrieren, die zu einer bestimmten Entscheidung geführt haben. Ein globaler Erklärungsansatz kann ML-Technikern auch dabei helfen, den Entscheidungsprozess des Modells in Hinblick auf eine bessere Leistung und Qualität zu optimieren und anzupassen.
Zwei Interpretationsmethoden: SHAP und LIME
Um zu verdeutlichen, wie eine künstliche Intelligenz Entscheidungen trifft, gibt es zwei Methoden, die besonders häufig in Unternehmenssoftware zum Einsatz kommen – abhängig vom jeweiligen Anwendungsfall.
Eine dieser Methoden ist das sogenannte Shapley Additive Explanation (SHAP) Framework. Es basiert auf der spieltheoretischen Arbeit von Lloyd Shapley und ermöglicht es, die Ausgabe eines Algorithmus' zurückzuverfolgen und zu verstehen, welche Variablen am meisten zur Entscheidung beigetragen haben.
Ähnlich wie SHAP kann das LIME-Modell (Local Interpretable Model-Agnostic Explanations) dabei helfen, die Relevanz und den Beitrag von Merkmalen zu bestimmen. Allerdings betrachtet das Modell weniger Variablen als SHAP und kann daher unter Umständen weniger genau sein. Der Vorteil von LIME liegt stattdessen in seiner Geschwindigkeit.
Anbieter für Unternehmenssoftware wie beispielsweise IFS verwenden je nach Anwendungsfall entweder SHAP oder LIME, um KI-Prozesse für Endanwender nachvollziehbar zu machen. Unter Umständen kann LIME bei einem relativ einfachen Modell ausreichend sein. Ein komplexes Modell in einer stark regulierten oder systemrelevanten Branche kann jedoch mehr Aufwand und Ressourcen erfordern, um die gewünschten Einblicke zu gewähren.
Transparenz für mehr Akzeptanz
Unternehmen sollten die Bedürfnisse ihrer Mitarbeiter nach einer nachvollziehbaren Entscheidungsfindung ernstnehmen. Das gilt insbesondere dann, wenn die Entscheidungen nicht auf klaren menschlichen Überlegungen beruhen, sondern auf vermeintlich schwer interpretierbaren Daten, Prozessen und Algorithmen. Beachten Unternehmen hierbei jedoch einige Faktoren, können sie mit der richtigen Unternehmenssoftware das Fundament für erklärbare KI legen und so die Akzeptanz der Technologie innerhalb der Belegschaft dauerhaft steigern.
