Anzeige

KI

Zum gestern vorgestellten Entwurf für die Regulierung Künstlicher Intelligenz (KI) der Europäischen Kommission sagt Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands:

„Der Legislativvorschlag der EU-Kommission für den Einsatz Künstlicher Intelligenz in Europa ist ein wichtiger Schritt auf dem Weg zur notwendigen Regulierung der Technologie. Viele KI-Systeme zum Beispiel in der Mobilität, in der Medizin, in der Wirtschaft oder in der Justiz bergen Gefahren für die körperliche Unversehrtheit von Menschen oder greifen in ihre elementaren Grundrechte wie Gleichbehandlung oder Privatsphäre ein. Daher ist es richtig, dass KI-Anwendungen entsprechend ihres Gefährdungspotenzials klassifiziert und reguliert werden sollen. Die von der Kommission vorgeschlagenen Risikoklassen bedürfen aus Sicht des TÜV-Verbands aber noch einer weiteren Überarbeitung. So ist die Zuordnung der KI-Systeme in die jeweiligen Risikoklassen nachzubessern. Der im Legislativvorschlag vorgesehene primäre Fokus auf KI-Anwendungen mit hohem Risiko greift dabei zu kurz. Verpflichtende Mindestanforderungen sollten für alle KI-Anwendungen gelten. Dies gilt insbesondere im Hinblick auf wichtige Schutzziele wie Sicherheit, Zuverlässigkeit und Transparenz.“

„Der TÜV-Verband begrüßt die Einbindung unabhängiger Prüforganisationen bei bestimmten KI-Systemen mit hohen Risiken. Allerdings sollte der Kommissionsvorschlag dahingehend ergänzt werden, dass eine unabhängige Prüfung für alle Hochrisikoanwendungen verpflichtend vorgesehen wird, zum Beispiel bei KI-Systemen zur Personalgewinnung oder bei der Bewertung der Kreditwürdigkeit. Bisher sieht der Kommissionsvorschlag hier nur eine Selbsterklärung des Herstellers vor.“

„Damit wir die enormen Potenziale Künstlicher Intelligenz ausschöpfen können, müssen die Menschen Vertrauen in die Sicherheit der Technologie entwickeln. Bisher sind KI-Systeme stattdessen eine Art ‚Blackbox‘, deren Funktionsweise die meisten Nutzer:innen weder nachvollziehen noch verstehen können. Der Regulierungsentwurf muss jetzt nachgebessert werden, um Transparenz und Sicherheit KI-gestützter Systeme flächendeckend gewährleisten zu können.“

In der deutschen Wirtschaft gibt es für eine risikobasierte Regulierung von KI-Anwendungen eine breite Zustimmung. Laut einer repräsentativen Umfrage im Auftrag des TÜV-Verbands sind 87 Prozent der Unternehmen ab 50 Mitarbeitern in Deutschland der Meinung, dass KI-Anwendungen in Abhängigkeit von ihrem Risiko reguliert werden sollten. Befragt wurden Geschäftsführer:innen und IT-Verantwortliche. Um die künftigen regulatorischen Vorgaben für KI-Systeme in der Praxis umsetzen zu können, haben die TÜV-Unternehmen ein Entwicklungslabor für Künstliche Intelligenz gegründet. Ziel des „TÜV AI Labs“ ist es, geeignete Verfahren für die Prüfung sicherheitskritischer KI-Anwendungen zu entwickeln.

www.vdtuev.de
 


Weitere Artikel

Axel Korda und Patrick Postel

solutions x DILK kooperiert mit VOICE

Ab sofort arbeiten der Hamburger IT-Kongress solutions x DILK und der Bundesverband der IT-Anwender VOICE zusammen. Gemeinsam wollen sie den Kongress für Digitale Transformation weiter ausbauen und besonders die Anwenderperspektive deutlich stärken.
Shutterstock

Shutterstock gründet Tochtergesellschaft und übernimmt KI-Plattformen

Shutterstock, die bekannte Plattform lizenzfreier Fotografien, Vektorgrafiken, Illustrationen, Videos und Musik, gibt heute den Start von Shutterstock.AI bekannt. Die neu gegründete Tochtergesellschaft fokussiert sich auf die Erhebung und Auswertung wichtiger…
Smartphone

Vier von zehn Personen ist schon das Handy verloren gegangen

Fotos, Kontakte, Zugang zum Bankkonto: Verschwindet das Handy, bedeutet das jede Menge Ärger. 4 von 10 der Handy-Besitzerinnen und -Besitzern (40 Prozent) ist genau das schon einmal passiert.
Facebook

Kandidaten-Accounts: Facebook verstärkt Schutz vor Bundestagswahl

Facebook will zur anstehenden Bundestagswahl Kandidaten und Politikern beim Schutz ihrer Accounts helfen.
Lucasfilm

Lucasfilm heuert Deepfake-YouTuber an

Der YouTuber "Shamook" hat nicht nur Fans mit Deepfakes beeindruckt, in denen er etwa Mark Hamills Gastauftritt als Luke Skywalker in "The Mandalorian" besser aussehen lässt. Auch Lucasfilm war von dem optisch nachgebesserten Material offenbar angetan und hat…
Digitalisierung

Die wichtigsten Erfolgsfaktoren bei digitalen Transformationen

Die globale Technologieberatung Thoughtworks hat eine Studie veröffentlicht, die untersucht, wie Unternehmen neue kundenorientierte Technologien entwerfen, aufbauen und warten. Das Beratungsunternehmen Forrester Consulting hat die Studie mit dem Titel „The…

Anzeige

Jetzt die smarten News aus der IT-Welt abonnieren! 💌

Mit Klick auf den Button "Zum Newsletter anmelden" stimme ich der Datenschutzerklärung zu.