Anzeige

KI

Zum gestern vorgestellten Entwurf für die Regulierung Künstlicher Intelligenz (KI) der Europäischen Kommission sagt Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands:

„Der Legislativvorschlag der EU-Kommission für den Einsatz Künstlicher Intelligenz in Europa ist ein wichtiger Schritt auf dem Weg zur notwendigen Regulierung der Technologie. Viele KI-Systeme zum Beispiel in der Mobilität, in der Medizin, in der Wirtschaft oder in der Justiz bergen Gefahren für die körperliche Unversehrtheit von Menschen oder greifen in ihre elementaren Grundrechte wie Gleichbehandlung oder Privatsphäre ein. Daher ist es richtig, dass KI-Anwendungen entsprechend ihres Gefährdungspotenzials klassifiziert und reguliert werden sollen. Die von der Kommission vorgeschlagenen Risikoklassen bedürfen aus Sicht des TÜV-Verbands aber noch einer weiteren Überarbeitung. So ist die Zuordnung der KI-Systeme in die jeweiligen Risikoklassen nachzubessern. Der im Legislativvorschlag vorgesehene primäre Fokus auf KI-Anwendungen mit hohem Risiko greift dabei zu kurz. Verpflichtende Mindestanforderungen sollten für alle KI-Anwendungen gelten. Dies gilt insbesondere im Hinblick auf wichtige Schutzziele wie Sicherheit, Zuverlässigkeit und Transparenz.“

„Der TÜV-Verband begrüßt die Einbindung unabhängiger Prüforganisationen bei bestimmten KI-Systemen mit hohen Risiken. Allerdings sollte der Kommissionsvorschlag dahingehend ergänzt werden, dass eine unabhängige Prüfung für alle Hochrisikoanwendungen verpflichtend vorgesehen wird, zum Beispiel bei KI-Systemen zur Personalgewinnung oder bei der Bewertung der Kreditwürdigkeit. Bisher sieht der Kommissionsvorschlag hier nur eine Selbsterklärung des Herstellers vor.“

„Damit wir die enormen Potenziale Künstlicher Intelligenz ausschöpfen können, müssen die Menschen Vertrauen in die Sicherheit der Technologie entwickeln. Bisher sind KI-Systeme stattdessen eine Art ‚Blackbox‘, deren Funktionsweise die meisten Nutzer:innen weder nachvollziehen noch verstehen können. Der Regulierungsentwurf muss jetzt nachgebessert werden, um Transparenz und Sicherheit KI-gestützter Systeme flächendeckend gewährleisten zu können.“

In der deutschen Wirtschaft gibt es für eine risikobasierte Regulierung von KI-Anwendungen eine breite Zustimmung. Laut einer repräsentativen Umfrage im Auftrag des TÜV-Verbands sind 87 Prozent der Unternehmen ab 50 Mitarbeitern in Deutschland der Meinung, dass KI-Anwendungen in Abhängigkeit von ihrem Risiko reguliert werden sollten. Befragt wurden Geschäftsführer:innen und IT-Verantwortliche. Um die künftigen regulatorischen Vorgaben für KI-Systeme in der Praxis umsetzen zu können, haben die TÜV-Unternehmen ein Entwicklungslabor für Künstliche Intelligenz gegründet. Ziel des „TÜV AI Labs“ ist es, geeignete Verfahren für die Prüfung sicherheitskritischer KI-Anwendungen zu entwickeln.

www.vdtuev.de
 


Weitere Artikel

Facebook

Facebook: Pop-up mahnt zum Lesen vor dem Teilen

Facebook testet jetzt ein Pop-up, das User auffordert, Nachrichtenartikel vor dem Teilen auch tatsächlich zu lesen. Das soll dazu beitragen, dass Nutzer auf der Plattform News informierter weiterverbreiten.
USA-Flagge

Update zur Cyberattacke auf Colonial Pipeline

Eine Ransomware-Attacke hat die Treibstoffversorgung in weiten Teilen der USA beeinträchtigt, von Texas im Südwesten bis hoch nach New Jersey im Osten. Marcin Kleczynski, CEO von Malwarebytes, hat den Vorfall kommentiert und geht u.a. auf die Spannungen…
Grabstein

Best of Hacks: Highlights Februar 2021

Mit der höheren Online-Nutzung während der Corona-Pandemie steigen auch die Angriffe von Hackern im privaten Bereich, in Wirtschaft und Politik.
Smartphone

Smartphone wird immer mehr zur Heimat

Das Smartphone hat sich für viele Nutzer zu einem zweiten Zuhause entwickelt. Zu diesem Fazit kommen Anthropologen des University College London (UCL).
Hackerangriff

Cyberangriff: US-Pipeline soll nach Ende der Woche wieder laufen

Die größte Benzin-Pipeline in den USA soll nach einem Cyberangriff schrittweise wieder in den Dienst genommen und bis Ende der Woche weitgehend normal im Einsatz sein. Das erklärte der Betreiber Colonial Pipeline am Montag.
Data Analytics

72 % der Data & Analytics-Führungskräfte leiten Initiativen zur digitalen Transformation

Die sechste jährlichen Chief Data Officer (CDO)-Umfrage des Research- und Beratungsunternehmens Gartner belegt, dass 72 Prozent der Data and Analytics (D&A)-Führungskräfte Initiativen zur digitalen Transformation ihrer Organisation führen oder darin stark…

Anzeige

Jetzt die smarten News aus der IT-Welt abonnieren! 💌

Mit Klick auf den Button "Zum Newsletter anmelden" stimme ich der Datenschutzerklärung zu.