Fristverlängerung: Mehr Zeit für die Umsetzung des KI-Gesetzes 

Mit dem sogenannten „AI Omnibus“, einem Änderungspaket zum Gesetz, hat die EU die entsprechenden Fristen verlängert. Betroffen sind unter anderem KI-Systeme, die in Bereichen wie Beschäftigung, Bildung, kritischer Infrastruktur oder beim Zugang zu wesentlichen Dienstleistungen eingesetzt werden.

Für Unternehmen ist die Fristverlängerung eine Entlastung. Sie bekommen mehr Zeit, die Anforderungen des AI-Acts in der Praxis umzusetzen. Denn bei einigen Vorgaben wird noch konkretisiert, wie sie umgesetzt und ihre Einhaltung nachgewiesen werden soll.

Die zusätzliche Zeit sollte jedoch nicht zum Abwarten verleiten. Unternehmen müssen sich schon heute mit praktischen Fragen beschäftigen: Wo wird KI überhaupt eingesetzt? Lässt sich nachvollziehen, wie eine KI-gestützte Entscheidung zustande kam? Und was passiert mit einem System, nachdem es eingeführt wurde?

Vier Bereiche sind dabei besonders wichtig.

Priorität 1: Einen Überblick über alle KI-Systeme schaffen

Der erste Schritt ist zu wissen, wo KI im Unternehmen überhaupt eingesetzt wird. Das ist nicht immer offensichtlich. KI steckt heute häufig in Software, die Unternehmen bereits nutzen – etwa in Recruiting-Plattformen, Systemen zur Betrugserkennung oder im Kundenservice. Auch Anwendungen externer Anbieter können KI enthalten oder durch ein Update neue KI-Funktionen bekommen.

Unternehmen sollten deshalb erfassen, wo KI Entscheidungen beeinflusst, Aufgaben priorisiert oder Empfehlungen gibt. Erst wenn dieser Überblick besteht, können sie beurteilen, welche Systeme besondere Aufmerksamkeit benötigen.

Priorität 2: Einzelne KI-Entscheidungen nachvollziehbar machen

Sobald klar ist, wo KI eingesetzt wird, geht es um die einzelnen Entscheidungen. Unternehmen sollten bei wichtigen KI-gestützten Entscheidungen nachvollziehen können: Welches System war beteiligt? Welche Daten lagen ihm zu diesem Zeitpunkt vor? Woher kamen sie und wie aktuell waren sie?

Das kann beispielsweise relevant sein, wenn eine Bank einen Kreditantrag bewertet, ein Versicherer ein Risiko berechnet oder ein Unternehmen Bewerbungen vorsortiert. Das Ergebnis allein reicht dabei nicht aus. Entscheidend ist auch, auf welcher Datengrundlage es zustande kam.

Die Dokumentation eines KI-Modells kann zeigen, wie ein System entwickelt und getestet wurde. Sie zeigt aber nicht automatisch, welche Informationen ihm bei einer konkreten Entscheidung tatsächlich vorlagen.

Priorität 3: KI auch nach der Einführung im Blick behalten

Nachvollziehbarkeit ist nicht nur bei einzelnen Entscheidungen wichtig. Ein KI-System kann in Tests gut funktionieren und sich im täglichen Einsatz trotzdem anders verhalten. Deshalb endet KI-Governance nicht mit der Einführung.

Das KI-Gesetz stellt bei Hochrisiko-KI unter anderem Anforderungen an Datenqualität, Protokollierung, technische Dokumentation, menschliche Aufsicht, Robustheit, Cybersicherheit und Genauigkeit. Unternehmen müssen daher festlegen, welche Vorgänge dokumentiert werden, welche Auffälligkeiten untersucht werden müssen und wie sich im Problemfall die notwendigen Informationen zusammenbringen lassen.

Priorität 4: KI-Governance mit bestehenden Prozessen verbinden

Dafür müssen Unternehmen nicht alles neu aufbauen. Sie haben bereits Prozesse und Regeln für Daten, Sicherheit, Beschaffung und operative Risiken. KI-Governance sollte daran anknüpfen, statt daneben ein separates System zu schaffen.

Siemens nutzt beispielsweise eine zentrale Daten-Streaming-Plattform von Confluent, um Daten zwischen operativen Systemen, Unternehmensanwendungen, Data Warehouses sowie KI- und Machine-Learning-Plattformen bereitzustellen. Dadurch können Teams über verschiedene Systeme hinweg konsistenter auf Daten zugreifen und diese verwalten.

Mehr Zeit bedeutet nicht weniger Handlungsbedarf

Die verlängerten Fristen verschaffen Unternehmen mehr Zeit. Sie ändern aber nichts an den grundlegenden Aufgaben: Unternehmen müssen wissen, wo KI eingesetzt wird, konkrete Entscheidungen nachvollziehen können und ihre Systeme auch nach der Einführung im Blick behalten.

Wenn die entsprechenden Vorgaben greifen, reicht es nicht, die Regeln zu kennen. Unternehmen müssen auch belegen können, wie ihre KI-Systeme tatsächlich arbeiten. Genau dafür sollten sie die zusätzliche Zeit jetzt nutzen.

Autor: Nick Payne, Director, Solutions Engineering, Confluent,