34 % der Unternehmen implementieren KI-Sicherheitstools

KI Cybersecurity

34 % der Unternehmen nutzen oder implementieren bereits Tools für die Anwendungssicherheit von künstlicher Intelligenz (KI), um die damit verbundenen Risiken der generativen KI (GenAI) zu mindern, so eine neue Umfrage von Gartner. Mehr als die Hälfte (56 %) der Befragten gab an, dass sie solche Lösungen auch in Erwägung ziehen.

Die Gartner-Peer-Community-Umfrage wurde vom 1. April bis zum 7. April unter 150 IT- und Informationssicherheits-Führungskräften durchgeführt. Es ging um Unternehmen, in denen GenAI oder grundlegende Modelle im Einsatz sind, deren Einsatz geplant ist oder geprüft wird.

Anzeige

26 % der Befragten gaben an, dass sie derzeit Technologien zum Schutz der Privatsphäre (“Privacy Enhancing Technologies”, PETs), ModelOps (25 %) oder Modellkontrolle (24 %) einführen oder nutzen (siehe Abbildung 1).

image00121
Bildquelle: Gartner

„IT-, Sicherheits- und Risikomanagement-Verantwortliche müssen neben der Implementierung von Sicherheitstools auch eine unternehmensweite Strategie für KI TRiSM – für ‚Trust, Risk and Security Management‘ – in Betracht ziehen“, so Avivah Litan, Distinguished VP Analyst bei Gartner. “KI TRiSM verwaltet Daten- und Prozessflüsse zwischen Nutzern und Unternehmen, die generative KI-Grundlagenmodelle hosten. Und das sollte nicht sporadisch geschehen, sondern kontinuierlich.”

www.gartner.com

Anzeige

Weitere Artikel

Newsletter
Newsletter Box

Mit Klick auf den Button "Jetzt Anmelden" stimme ich der Datenschutzerklärung zu.