Business Judgement Rule bei Einsatz von KI

Diese betreffen nicht nur die Auswahl und den Einsatz geeigneter KI-Systeme, sondern insbesondere auch die Bereiche Compliance, Risikomanagement und Corporate Governance. Auch der Einsatz von KI innerhalb des Geschäftsmodells ist einer kritischen Überprüfung zu unterziehen. Darüber hinaus muss sich die Unternehmensleitung mit der Frage auseinandersetzen, ob und in welchem Umfang KI zur Vorbereitung unternehmerischer Entscheidungen eingesetzt werden kann oder unter bestimmten Voraussetzungen sogar eingesetzt werden muss.

Haftung und der Schutz der Business Judgement Rule

Dabei dreht es sich vorwiegend um die Frage der Haftung der Unternehmensleitung. Nach § 93 Abs. 2 AktG haftet jedes Mitglied der Vorstands gegenüber der Gesellschaft auf Schadensersatz, wenn es durch sorgfaltswidriges Verhalten dieser schuldhaft einen Schaden zufügt. 

Eine Pflichtverletzung ist jedoch nach der sogenannten Business Judgement Rule nicht anzunehmen, wenn das Vorstandsmitglied bei einer unternehmerischen Entscheidung vernünftigerweise annehmen durfte, auf der Grundlage angemessener Information zum Wohle der Gesellschaft zu handeln (§ 93 Abs. 1 Satz 2 AktG).

KI als Instrument zur Schaffung einer angemessenen Informationsgrundlage

Um den Schutz der Business Judgement Rule zu erlangen, muss die Unternehmensleitung auf der Grundlage angemessener Informationen handeln. Es stellt sich daher die Frage, welchen Beitrag die Künstliche Intelligenz zur Gewinnung einer angemessenen Informationsgrundlage leisten kann und welche Anforderungen an ihren Einsatz zu stellen sind. 

Künstliche Intelligenz kann insbesondere dazu beitragen, umfangreiche und komplexe Datenbestände systematisch aufzubereiten, relevante Zusammenhänge zu erkennen und zusätzliche Erkenntnisse aus den verfügbaren Informationen zu gewinnen. Aufgrund ihrer weitreichenden Analysefähigkeiten kann sie damit die Informationsgewinnung unterstützen und der Unternehmensleitung eine breitere und fundiertere Grundlage für ihre Entscheidungsfindung verschaffen. 

Die Grenzen: Black-Box-Phänomen und Datenqualität

Allerdings dürfen Informationen, die durch KI erlangt werden, nicht ohne eine Prüfung übernommen werden. Gefahren können sich im Black-Box Phänomen als auch in der Qualität der Daten widerspiegeln. Nicht selten ist es der Fall, dass die KI keine nachvollziehbare Begründung liefert oder die Entscheidungsfindung für das Erlangen der Informationen nicht transparent offengelegt wird. 

Ferner ist zu berücksichtigen, dass der Nutzer regelmäßig keinen hinreichenden Einblick in die Trainingsdaten des eingesetzten KI-Systems hat. Für ihn ist daher oftmals nicht verlässlich erkennbar, ob die Auswahl, Zusammensetzung oder Gewichtung dieser Daten zu einer systematischen Verzerrung der von der KI erzeugten Ergebnisse führt. Auch wird die KI keine verbindliche Aussage dazu treffen können, ob sie nur belastbare Daten verwendet hat. Der Mensch bleibt folglich in der Verantwortung, die Ergebnisse der KI sorgfältig zu überprüfen und zu entscheiden, ob diese zur Schaffung einer angemessenen Informationsgrundlage herangezogen werden können. 

Die paradoxe Pflicht: Kann der Verzicht auf KI pflichtwidrig sein?

Stellen muss sich die Unternehmensleitung aber auch die Frage, ob sie nicht zukünftig sogar verpflichtet sein kann, KI zur Schaffung einer angemessenen Informationsgrundlage heranzuziehen. Grundsätzlich hat die Unternehmensleitung alle verfügbaren Informationsquellen tatsächlicher und rechtlicher Art auszuschöpfen. 

In Bereichen, in denen KI-Tools im Unternehmen etabliert sind und regelmäßig für die Aufbereitung von Daten genutzt werden, kann das Unterlassen der Nutzung von KI als pflichtwidrig angesehen werden, sofern dann nicht alle verfügbaren Informationsquellen ausgenutzt wurden, z.B. bei Nichtnutzung einer im Unternehmen etablierten KI, die üblicherweise für die Datenaufbereitung herangezogen wird. Bestehen keine rechtlichen Hinderungsgründe kann darüber nachgedacht werden, ob das Organmitglied beim bewussten Verzicht auf eine KI-Auswertung und einer darauf beruhenden Fehlentscheidung den Schutz der Business Judgement Rule riskiert. 

Wichtig ist aber auch insofern, dass die Unternehmensleitung den KI-Einsatz bewusst steuert und die Informationen nicht ungeprüft übernimmt. Ein verantwortungsvoller Umgang mit der KI ist und bleibt unumgänglich. 

Entscheidung „zum Wohle der Gesellschaft“ – kann KI das leisten?

Als weiterer Punkt lässt sich die Frage beleuchten, ob KI genutzt werden kann, um im Rahmen der Entscheidungsfindung zum Wohle der Gesellschaft zu handeln. Zum Wohle der Gesellschaft meint im Rahmen der Business Judgement Rule, dass die Entscheidung im Unternehmensinteresse getroffen werden muss. 

Um eine Entscheidung im Unternehmensinteresse zu treffen, müsste die KI jedoch wissen, welche Aspekte in den Entscheidungsprozess Einklang finden sollen und wie diese zu gewichten sind. Beispielsweise sind im Rahmen einer Überlegung über die Schließung eines Produktionsstandorts nicht nur die finanziellen Kennzahlen zu berücksichtigen, sondern können beispielsweise auch Stakeholder-Interessen und Mitarbeiter-Interessen, die Bedeutung des Standorts, Kundenbeziehungen oder auch Reputationsrisiken von Bedeutung sein. 

Die KI müsste mit diesen Interessen entsprechend gefüttert werden und müsste die jeweilige Gewichtung berücksichtigen. Ob die KI eine solche Informationsbasis schaffen kann, die zu einer Entscheidung zum Wohle der Gesellschaft führt, ist jedoch zu bezweifeln. Es bleibt festzuhalten, dass eine KI nicht aus eigenem Antrieb zum Wohle der Gesellschaft handeln kann, sondern nur im Rahmen der von Menschen gesetzten Ziele und Wertvorgaben Informationen auswertet. Die KI hat kein eigenes Verantwortungsbewusstsein.