Anzeige

KI

Zum gestern vorgestellten Entwurf für die Regulierung Künstlicher Intelligenz (KI) der Europäischen Kommission sagt Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands:

„Der Legislativvorschlag der EU-Kommission für den Einsatz Künstlicher Intelligenz in Europa ist ein wichtiger Schritt auf dem Weg zur notwendigen Regulierung der Technologie. Viele KI-Systeme zum Beispiel in der Mobilität, in der Medizin, in der Wirtschaft oder in der Justiz bergen Gefahren für die körperliche Unversehrtheit von Menschen oder greifen in ihre elementaren Grundrechte wie Gleichbehandlung oder Privatsphäre ein. Daher ist es richtig, dass KI-Anwendungen entsprechend ihres Gefährdungspotenzials klassifiziert und reguliert werden sollen. Die von der Kommission vorgeschlagenen Risikoklassen bedürfen aus Sicht des TÜV-Verbands aber noch einer weiteren Überarbeitung. So ist die Zuordnung der KI-Systeme in die jeweiligen Risikoklassen nachzubessern. Der im Legislativvorschlag vorgesehene primäre Fokus auf KI-Anwendungen mit hohem Risiko greift dabei zu kurz. Verpflichtende Mindestanforderungen sollten für alle KI-Anwendungen gelten. Dies gilt insbesondere im Hinblick auf wichtige Schutzziele wie Sicherheit, Zuverlässigkeit und Transparenz.“

„Der TÜV-Verband begrüßt die Einbindung unabhängiger Prüforganisationen bei bestimmten KI-Systemen mit hohen Risiken. Allerdings sollte der Kommissionsvorschlag dahingehend ergänzt werden, dass eine unabhängige Prüfung für alle Hochrisikoanwendungen verpflichtend vorgesehen wird, zum Beispiel bei KI-Systemen zur Personalgewinnung oder bei der Bewertung der Kreditwürdigkeit. Bisher sieht der Kommissionsvorschlag hier nur eine Selbsterklärung des Herstellers vor.“

„Damit wir die enormen Potenziale Künstlicher Intelligenz ausschöpfen können, müssen die Menschen Vertrauen in die Sicherheit der Technologie entwickeln. Bisher sind KI-Systeme stattdessen eine Art ‚Blackbox‘, deren Funktionsweise die meisten Nutzer:innen weder nachvollziehen noch verstehen können. Der Regulierungsentwurf muss jetzt nachgebessert werden, um Transparenz und Sicherheit KI-gestützter Systeme flächendeckend gewährleisten zu können.“

In der deutschen Wirtschaft gibt es für eine risikobasierte Regulierung von KI-Anwendungen eine breite Zustimmung. Laut einer repräsentativen Umfrage im Auftrag des TÜV-Verbands sind 87 Prozent der Unternehmen ab 50 Mitarbeitern in Deutschland der Meinung, dass KI-Anwendungen in Abhängigkeit von ihrem Risiko reguliert werden sollten. Befragt wurden Geschäftsführer:innen und IT-Verantwortliche. Um die künftigen regulatorischen Vorgaben für KI-Systeme in der Praxis umsetzen zu können, haben die TÜV-Unternehmen ein Entwicklungslabor für Künstliche Intelligenz gegründet. Ziel des „TÜV AI Labs“ ist es, geeignete Verfahren für die Prüfung sicherheitskritischer KI-Anwendungen zu entwickeln.

www.vdtuev.de
 


Weitere Artikel

Impfzertifikat

Das Geschäft mit gefälschten digitalen Impfzertifikaten

Die gefälschten digitalen Impfzertifikate, die derzeit mit gültigen Signaturen im Internet kursieren, könnten nach Einschätzung von Experten auf Sicherheitslücken in Arztpraxen oder Apotheken zurückzuführen sein.
Browser

Browsing: Nutzer besuchen nur 30 Websites

Trotz Millionen Websites verbringt ein Großteil der Nutzer seine Zeit auf gerade einmal einem Prozent der Top-Internetadressen.
Retoure

Onlinehändler erhalten jede siebte Bestellung zurück

Sie sorgen für mehr Verpackungsmüll, zusätzliche Kosten und belasten die Umwelt: Retouren beim Online-Shopping.
Google

Google löscht Bilder von Minderjährigen

Google löscht auf Wunsch bereits veröffentlichte Bilder von Minderjährigen.
Glasfaser

Highspeed-Glasfaser-Ausbau nimmt Fahrt auf

Der Internetausbau mit Highspeed-Glasfaser in Deutschland nimmt Experten zufolge Fahrt auf.

Smart Country Convention schlägt Brücke zwischen Verwaltungen und Digitalwirtschaft

Mit mehr als 7.600 Teilnehmenden, über 90 Partnern und 160 Speakern auf drei Bühnen endet die digitale Smart Country Convention.

Anzeige

Jetzt die smarten News aus der IT-Welt abonnieren! 💌

Mit Klick auf den Button "Zum Newsletter anmelden" stimme ich der Datenschutzerklärung zu.