Thought Leadership
Der Einsatz von Künstlicher Intelligenz nimmt in Unternehmen weltweit rasant zu.
Eine aktuelle Studie von DigiCert zeigt jedoch, dass viele Organisationen mit der sicheren Verwaltung ihrer KI-Systeme noch nicht Schritt halten können. Fehlende Transparenz und unzureichende Governance erhöhen das Risiko für Sicherheitsvorfälle.
KI-bezogene Sicherheitsprobleme gehören inzwischen zum Unternehmensalltag. Insgesamt 78 Prozent der befragten Organisationen gaben an, bereits Vorfälle im Zusammenhang mit KI erlebt oder entsprechende Schwachstellen identifiziert zu haben.
Gleichzeitig wächst der Einsatz der Technologie rasant. Drei von vier Unternehmen haben innerhalb der vergangenen sechs Monate mindestens vier neue KI-gestützte Systeme eingeführt. Trotz dieser Entwicklung fehlt es vielen Organisationen an einer vollständigen Übersicht über ihre KI-Landschaft. Fast jedes zweite Unternehmen verfügt nach eigenen Angaben über keine zentrale Transparenz hinsichtlich der eingesetzten KI-Systeme und deren Aktivitäten.
Governance hält mit der Entwicklung nicht Schritt
Obwohl das Thema inzwischen in vielen Vorstandsetagen angekommen ist, besteht bei der praktischen Umsetzung weiterhin Nachholbedarf. Laut der Studie diskutieren rund 90 Prozent der Unternehmen Fragen der KI-Governance auf Führungs- oder Vorstandsebene. Ein formales Governance-Programm hat bislang jedoch nur etwa die Hälfte der Organisationen eingeführt.
Immerhin investieren viele Unternehmen inzwischen gezielt in die Absicherung ihrer KI-Systeme. Mehr als die Hälfte verfügt bereits über eigene Budgets für diesen Bereich. Zudem weisen zahlreiche Unternehmen ihren eingesetzten KI-Agenten digitale Identitäten zu, um deren Aktivitäten besser nachvollziehen und verwalten zu können.
Regulierung und Nachvollziehbarkeit gewinnen an Bedeutung
Mit der zunehmenden Verbreitung von KI wächst auch die Bedeutung regulatorischer Anforderungen. Fast 90 Prozent der befragten Unternehmen haben ihre möglichen Haftungsrisiken bereits bewertet und bereiten sich auf strengere gesetzliche Vorgaben vor.
Darüber hinaus haben 86 Prozent Prozesse eingerichtet, mit denen kompromittierten KI-Systemen oder KI-Agenten Zugriffsrechte entzogen werden können. Ziel ist es, Sicherheitsvorfälle schneller einzudämmen und betroffene Systeme gezielt vom Unternehmensnetzwerk auszuschließen.
Eine der größten Herausforderungen bleibt die Nachvollziehbarkeit von KI-Entscheidungen. Fast die Hälfte der Unternehmen kann laut DigiCert nicht vollständig nachvollziehen, auf welchen Modellen und Datenquellen die Ergebnisse ihrer KI-Anwendungen beruhen.
Diese fehlende Transparenz erschwert nicht nur die Ursachenanalyse bei Fehlern oder Sicherheitsvorfällen, sondern kann auch die Einhaltung gesetzlicher Vorgaben und interner Compliance-Richtlinien beeinträchtigen.
Die Studienergebnisse zeigen, dass Unternehmen ihre Aufmerksamkeit zunehmend auf die sichere Nutzung von Künstlicher Intelligenz richten müssen. Mit der steigenden Zahl produktiver KI-Anwendungen wachsen auch die Anforderungen an Governance, Transparenz und Kontrollmechanismen. Nur wer seine KI-Systeme umfassend überwachen und nachvollziehbar steuern kann, wird die Technologie langfristig sicher und verantwortungsvoll einsetzen können.
