ISACA-Studie

Besorgnis über die Ausnutzung generativer KI durch bösartige Akteure

KI

Der globale Berufsverband ISACA, der Einzelpersonen und Organisationen in ihrem Streben nach digitalem Vertrauen unterstützt, hat eine neue Studie veröffentlicht, die sich mit der Nutzung, den Risiken und den Auswirkungen von generativer KI befasst – künstlicher Intelligenz, die schriftliche und visuelle Inhalte und andere Medien erstellen kann.

Von den 334 befragten Geschäfts- und IT-Fachleuten, die in Europa arbeiten, gaben 99 % an, dass sie in gewissem Maße über die potenzielle Ausnutzung generativer KI durch bösartige Akteure besorgt sind. Darüber hinaus glauben 74 %, dass Cyberkriminelle die KI mit gleichem oder sogar größerem Erfolg nutzen als die Experten für digitales Vertrauen.

Anzeige

Diese wachsenden Befürchtungen haben jedoch nicht zu weitreichenden Maßnahmen geführt, da nur ein Viertel (28 %) der Befragten KI-bezogene Risiken als unmittelbare Priorität ansieht.  Nur 10 % der Unternehmen verfügen über formelle, umfassende Richtlinien für den Einsatz von KI-Technologien, und 29 % haben keine Richtlinie und planen auch nicht, eine zu implementieren.

„In der heutigen, sich schnell entwickelnden Technologielandschaft ist es für Unternehmen entscheidend, der Entwicklung robuster KI-Richtlinien Priorität einzuräumen. Andernfalls laufen Unternehmen Gefahr, das KI-Wettrüsten zu verlieren, und machen Mitarbeiter und Unternehmensergebnisse angreifbar, indem sie durch generative KI-Programme unbefugten Zugang zu sensiblen oder geschützten Daten erhalten”, so Chris Dimitriadis, Global Chief Strategy Officer bei ISACA.

Bildschirm­foto 2023 10 25 um 09.23.39

Bild 1: Fehlende Policies sind ein eindeutiges Manko bei der Nutzung generativer KI in Unternehmen (Bilder: ISACA).

Trotz der eindeutigen Bedenken im Zusammenhang mit KI bieten nur 7 % der Unternehmen allen Mitarbeitern eine KI-Schulung an. Einer von zehn (10 %) Geschäfts- und IT-Fachleuten ist der Meinung, dass die Aufgaben in ihrem Unternehmen aufgrund der Fortschritte bei der generativen KI bereits zugenommen haben, und dies wird noch zunehmen, da fast 4 von 5 (79 %) der Meinung sind, dass viele Arbeitsplätze in den nächsten 5 Jahren durch KI verändert werden. Die Welle der Einführung von KI bedeutet, dass 81 % der Befragten sagen, dass sie ihre Fähigkeiten und Kenntnisse erweitern müssen, um ihren Arbeitsplatz zu behalten oder ihre Karriere voranzutreiben.

Bildschirm­foto 2023 10 25 um 09.24.16

Bild 2: Auch bei den angebotenen Trainings besteht Nachholbedarf. 

Die Unternehmen beginnen, den Aufstieg der KI anzuerkennen, wobei fast jeder Fünfte (19 %) in den nächsten 12 Monaten die Anzahl der Stellen für KI-bezogene Funktionen erhöhen wird. Sie sind sich auch der potenziellen Vorteile bewusst, die KI mit sich bringt. Die Befragten sind der Meinung, dass sie in den nächsten fünf Jahren positive Auswirkungen auf ihre Branche (60 %), ihr Unternehmen (54 %) und ihre Karriere (46 %) haben wird. 

Der CEO von ISACA, Erik Prusch, fügte hinzu: „Geschäfts- und IT-Fachleute sind sich der potenziellen positiven Auswirkungen von KI bewusst, aber um die Vorteile zu nutzen, müssen sie sicherstellen, dass die Mitarbeiter in ihren Organisationen im effektiven und sicheren Umgang mit KI geschult sind. Durch die Bereitstellung umfassender Schulungen als Teil einer übergreifenden KI-Strategie können Unternehmen der Zeit voraus sein und die Sicherheit ihrer Abläufe gewährleisten und gleichzeitig den langfristigen Geschäftserfolg fördern.

www.isaca.org

Anzeige

Artikel zu diesem Thema

Weitere Artikel

Newsletter
Newsletter Box

Mit Klick auf den Button "Jetzt Anmelden" stimme ich der Datenschutzerklärung zu.