Kluft bei KI-Sicherheit: Hohes Vertrauen, niedrige Erkennung

Fast 90 Prozent der Sicherheitsteams halten sich bei KI für gut aufgestellt. Tatsächlich bleibt laut TrendAI aber der Großteil schädlichen KI-Verhaltens unentdeckt.

Hohe Zuversicht trifft auf schwere Erkennungsmängel

Zwischen dem Vertrauen in die eigene KI-Sicherheit und der tatsächlichen Fähigkeit, konkrete Bedrohungen aufzuspüren, klafft in Unternehmen eine erhebliche Lücke. Eine globale Untersuchung von TrendAI (Trend Micro) unter 3.700 Entscheidungsberechtigten – darunter 200 aus Deutschland – zeigt ein paradoxes Bild: Zwar schätzen fast neun von zehn deutschen Befragten ihre Sicherheitsteams als gut auf die schnelle KI-Einführung vorbereitet ein. Gleichzeitig räumen die Befragten jedoch ein, dass im Schnitt nur schätzungsweise 40 Prozent des böswilligen oder unerwarteten KI-Verhaltens im eigenen Netz überhaupt erkannt werden.

„Vorbereitung und Erkennung sind zwei unterschiedliche Dinge. Die Unternehmen haben in den letzten Jahren viel investiert, um Prozesse und Zuständigkeiten zum Management von KI-Risiken aufzubauen. Das schlägt sich in einer hohen gefühlten Vorbereitung nieder. Die eigene Einschätzung zur Erkennungsrate zeigt aber, dass diese Vorbereitung im Ernstfall offenbar an ihre Grenzen stößt.“

— Richard Werner, Security Advisor bei TrendAI

Sichtbarkeitslücken und Defizite bei Voice Cloning

Ein zentrales Nadelöhr stellt die mangelnde Transparenz dar: Zwar berichten rund 70 bis 80 Prozent der deutschen Entscheider von einer hohen Sichtbarkeit ihrer KI-Systeme, bei vielen befinden sich die Überwachungsprozesse jedoch noch im Aufbau oder erfassen die KI-Landschaft nur unvollständig.

Zudem unterschätzen viele Betriebe neuartige Bedrohungsszenarien. Während gegen KI-gestütztes Phishing bei sechs von zehn Unternehmen solide Schutzmaßnahmen greifen, sieht es bei fortgeschrittenen Angriffen schlechter aus: Nur etwa die Hälfte verfügt über getestete Abwehrkontrollen gegen Video-Deepfakes. Bei Stimmimitationen (Voice Cloning) sowie kombinierter Imitation von Führungskräften zur Vorbereitung von Chef-Betrug (CFO Fraud) liegt die Abwehrquote in Deutschland sogar unter dem weltweiten Durchschnitt. Ursächlich sehen IT-Verantwortliche vor allem begrenzte Sicherheitskompetenzen (41 Prozent), während das Management eher kulturelle Widerstände im Unternehmen als Hürde nennt (39 Prozent).

Fehlende Notfallkontrollen bei autonomer Agentic AI

Mit dem Vormarsch von Agentic AI – also KI-Agenten, die eigenständig Handlungen und Workflows ausführen – verschärft sich das Risikoprofil weiter. Bislang fehlen in vielen Betrieben jedoch klare Notfall- und Eskalationsprozesse: Lediglich ein Drittel der Befragten spricht sich uneingeschränkt für einen dedizierten Notaus-Schalter (Kill Switch) aus, um außer Kontrolle geratene KI-Agenten sofort zu stoppen.

Werner sagte dazu: „Agentic AI bringt eine neue Risikokategorie mit sich, weil Systeme zunehmend eigenständig handeln, statt nur Empfehlungen zu geben. Diese Lücke ernst zu nehmen, bedeutet nicht, in Alarmismus zu verfallen, sondern konsequent zu handeln: Sichtbarkeit, Testing und Eingriffsmechanismen sollten von Anfang an mitgedacht werden.“

TrendAI empfiehlt Unternehmen daher einen konsequenten Dreiklang zur Nachbesserung: die lückenlose Inventarisierung aller eingesetzten KI-Assets, den gezielten Ausbau von Erkennungswerkzeugen für Deepfakes und Voice Cloning sowie regelmäßige Belastungstests durch spezialisiertes Red Teaming.

(red/TrendAI)