Anzeige

Der TÜV-Verband hat in einer aktuellen Stellungnahme konkrete Nachbesserungen am EU-Regulierungsentwurf für Künstliche Intelligenz gefordert. „Die Europäische Kommission leistet mit ihrem Regulierungsvorschlag Pionierarbeit, bleibt aber hinter dem eigenen Anspruch zurück, in Europa ein ‚Ökosystem des Vertrauens‘ für Künstliche Intelligenz zu schaffen“, sagt Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands.

„Bei der Regulierung von Künstlicher Intelligenz müssen die Gesundheit der Menschen und der Schutz ihrer elementaren Grundrechte an erster Stelle stehen.“ Richtig sei der Ansatz, Anwendungen und Produkte mit Künstlicher Intelligenz in Abhängigkeit vom Risiko zu regulieren, das von ihnen ausgeht. So sollten beispielsweise für einen intelligenten Spam-Filter geringere Sicherheitsanforderungen gelten als für KI-Systeme, die Röntgenbilder auswerten, über die Vergabe von Krediten entscheiden oder für die Steuerung von Fahrzeugen eingesetzt werden. „Bei der Zuordnung von KI-Systemen in die vier vorgesehenen Risikoklassen von minimal bis unannehmbar und den damit verbundenen Anforderungen an die Sicherheit und deren Überprüfung sind Verbesserungen notwendig“, sagt Bühler. Der TÜV-Verband fordert insbesondere, dass für alle KI-Anwendungen mit hohem Risiko verpflichtende unabhängige Drittprüfungen vorgesehen werden. Aber auch für andere KI-Anwendungen sollten bestimmte Mindestanforderungen gelten.

Die EU-Kommission hatte im April ihren Regulierungsentwurf vorgelegt, der jetzt zwischen den Mitgliedsstaaten und im Europäischen Parlament diskutiert wird. Ziel ist es, den weltweit ersten Rechtsrahmen für Künstliche Intelligenz zu schaffen. Aus Sicht des TÜV-Verbands sind die folgenden Nachbesserungen notwendig: 

Risikoklassen nachvollziehbar herleiten: Im Vorschlag der EU-Kommission fehlt eine klare Definition und Herleitung der Risikoklassen. Insbesondere fehlt es an nachvollziehbaren Kriterien, von welchen KI-Systemen ein besonders hohes Risiko („high-risk“) ausgeht. Aus Sicht des TÜV-Verbands geht von KI-Systemen immer dann ein hohes Risiko aus, wenn sie Leib und Leben der Menschen oder deren elementare Grundrechte wie Privatsphäre oder Gleichbehandlung gefährden können. 

Unabhängige Drittprüfung bei allen High-risk-KI-Systemen vorsehen: Alle als besonders risikoreich für den Menschen eingestuften Produkte und Anwendungen mit Künstlicher Intelligenz sollten von einer unabhängigen Stelle verpflichtend geprüft werden. Der risikobasierte Ansatz ist ein zentraler Eckpfeiler der europäischen Produktregulierung und sollte auch bei KI-Systemen konsequent umgesetzt werden. 

Risikoadäquate Klassifizierung für High-risk-KI-Systeme einführen: Der Regulierungsentwurf sieht unabhängige Prüfungen hochriskanter KI-Systeme fast ausschließlich bei Produkten vor, für die bereits heute eine entsprechende Drittprüfung vorgesehen ist, zum Beispiel Medizinprodukte oder Aufzüge. Die Integration von Künstlicher Intelligenz kann aber in allen möglichen Produkten und Anwendungen dazu führen, dass sich deren Risiken signifikant erhöhen. Die Drittprüfungspflicht sollte der Gesetzgeber daher allein davon abhängig machen, welche Risiken tatsächlich von den jeweiligen KI-Systemen ausgehen können. Daher müssen auch die bereits regulierten Produktbereiche einer KI-risikospezifischen Neubewertung unterzogen werden. 

Liste der High-risk-KI-Systeme ergänzen: Die Möglichkeit zur nachträglichen Erweiterung der Liste der Hochrisiko-KI-Systeme (Anhang III) seitens der EU-Kommission sollte nicht rein formal auf bestimmte Anwendungsbereiche beschränkt werden. Alleiniges Merkmal sollte sein, ob von dem KI-System signifikante Risiken für bedeutsame und grundrechtlich geschützte Rechtsgüter ausgehen. Sofern Leib und Leben oder zum Beispiel die Privatsphäre der Menschen gefährdet sind, muss das KI-System als high-risk klassifiziert werden.

www.tuev-verband.de


Weitere Artikel

Cybersecurity

Menschen fühlen sich im beruflichen Umfeld besser geschützt

Im Beruf fühlen sich die Menschen in Deutschland bei der IT-Sicherheit besser geschützt als im privaten Bereich. Das zeigt die repräsentative Umfrage „Cybersicherheit in Zahlen“ von G DATA CyberDefense in Zusammenarbeit mit brand eins und Statista.
China Smartphone

Huawei und Xiaomi - BSI überprüft Geräte chinesischer Smartphone-Hersteller

Wie letzte Woche bekannt wurde, hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) kürzlich Untersuchungen gegen chinesische Smartphone-Hersteller eingeleitet. In diesem Statement erläutert Arved Graf von Stackelberg, CSO / CMO von DRACOON,…
Snom IP-Telefon

Snom stellt neues IP-Schreibtischtelefon vor

Während es in den letzten Jahren den Anschein hatte, dass sich Snom mehr auf Lösungen für den DECT-Bereich konzentrierte, bringt der Hersteller eine komplett neue Linie von IP-Geschäftstelefonen heraus.
Cyber Security

WatchGuard Technologies auf der it-sa 2021

Seit der letzten it-sa in Nürnberg vor zwei Jahren hat sich viel getan. Durch die von Corona ausgelöste Veränderung der Arbeitsszenarien auf Unternehmensseite sind ganz neue Anforderungen auf die Agenda der IT-Verantwortlichen gerückt – gerade auch im…
Geschäftsleute

Bundestagswahl: Digitalwirtschaft erwartet digitalpoltischen Wurf

Zum Ausgang der Bundestagswahl äußerte sich Bitkom-Präsident Achim Berg, der auf die Verantwortung hinsichtlich der digitalpolitischen Herausforderungen verweist.
Umwelt Digitalisierung

Die Hälfte der Deutschen hofft auf Technologien gegen den Klimawandel

Am heutigen Freitag wird weltweit dafür demonstriert, die Klimakrise einzudämmen und das 1,5-Grad-Ziel des Pariser Klimaabkommens einzuhalten. Mehr als die Hälfte der Menschen in Deutschland setzt auch auf technische Innovationen, um den CO2-Ausstoß zu…

Anzeige

Jetzt die smarten News aus der IT-Welt abonnieren! 💌

Mit Klick auf den Button "Zum Newsletter anmelden" stimme ich der Datenschutzerklärung zu.