Die menschliche Lücke in der KI-Sicherheit

KI-Systeme werden leistungsfähiger, schneller und breiter einsetzbar. Sie erkennen Muster, analysieren große Datenmengen und liefern Antworten in einer Geschwindigkeit, die vor wenigen Jahren kaum denkbar war.

Für Unternehmen eröffnet dies große Chancen, gerade in sicherheitskritischen Bereichen. Gleichzeitig verschiebt sich damit die zentrale Herausforderung. Denn die Sicherheit von KI hängt nicht allein davon ab, wie leistungsfähig ein Modell ist. Entscheidend ist, ob Organisationen die Ergebnisse verstehen, einordnen und verantworten können.

Für Matt Wood, Head of Cyber Security Operations beim Automatisierungsspezialisten ABBYY, liegt genau hier eine der zentralen Aufgaben im Umgang mit KI:

Governance, Genauigkeit und Verantwortlichkeit entscheiden darüber, ob KI im Betrieb tatsächlich nützlich ist oder nur beeindruckend wirkt.

In der Cybersicherheit haben KI-Entscheidungen unmittelbare operative Folgen. KI kann helfen, Signale schneller sichtbar zu machen und Risiken früher zu erkennen. Doch sie nimmt Organisationen nicht die Verantwortung ab, Ziele sauber zu definieren, Ergebnisse zu prüfen und die Konsequenzen von Entscheidungen zu tragen.

Mehr Leistung verstärkt auch Schwächen

Der Fokus vieler Unternehmen liegt derzeit auf größeren Modellen, schnellerer Hardware und mehr Rechenleistung. Das ist nachvollziehbar, löst aber nicht automatisch die eigentlichen Sicherheitsfragen. Mehr Leistungsfähigkeit behebt keine Schwächen von Altsystemen und keine mangelhafte Datenbasis. Sie kann beides sogar verstärken. Sind Ziele falsch oder unklar, greifen Kontrollen zu locker oder wird Ergebnissen zu sehr vertraut, macht mehr Geschwindigkeit die Entscheidung nicht besser. Sie sorgt nur dafür, dass dieselben Fehler schneller und in größerem Maßstab gemacht werden.

In der Praxis entsteht daraus ein gefährlicher Effekt: KI-Ergebnisse wirken oft überzeugend, strukturiert und sicher formuliert. Gerade deshalb können sie mit belastbarer Wahrheit verwechselt werden. Teams laufen Gefahr, das Falsche zu optimieren oder Risikoentwicklungen zu übersehen. Sie können auch Antworten in operative Prozesse übernehmen, die zwar plausibel erscheinen, aber nicht ausreichend geprüft wurden.

Das eigentliche Problem ist deshalb nicht die reine Modellgröße. Risiko entsteht, wenn technische Leistungsfähigkeit schneller skaliert als Governance, Verständnis und Verantwortlichkeit.

Warum Kontext wichtiger ist als Mustererkennung

KI ist stark darin, Muster zu erkennen. Sie kann Ähnlichkeiten identifizieren, Anomalien sichtbar machen und wahrscheinliche nächste Schritte ableiten. Für sichere Entscheidungen braucht es jedoch Kontext, klare Grenzen, Urteilsvermögen und ein Verständnis der möglichen Folgen. Bedeutung entsteht erst aus der Frage, die gestellt wird, aus dem Rahmen, in dem die Antwort bewertet wird, und aus den Grenzen, die vorab definiert wurden. Erst dadurch wird aus einem erkannten Muster ein belastbarer Zusammenhang.

Aus Perspektive der Sicherheit kann ein System fachlich schlüssig klingende Antworten liefern und im praktischen Einsatz dennoch Risiken erzeugen. Etwa dann, wenn ein Risiko an eine Stelle verlagert wird, die niemand ausreichend im Blick hat. Deshalb ist bessere Mustererkennung allein kein Sicherheitsmodell. Sie ist vielmehr eine nützliche Fähigkeit innerhalb eines umfassenderen Systems aus Governance und menschlicher Verantwortlichkeit. Ob Unternehmen diese Muster richtig deuten, kann im praktischen KI-Einsatz über Erfolg oder Scheitern entscheiden.

Schnelle, souverän wirkende Ergebnisse von KI-Tools können mit Wahrheit verwechselt werden. Genau deshalb braucht KI im Sicherheitskontext menschliches Urteilsvermögen. Der Mensch entscheidet, was relevant ist, welche Risiken akzeptabel sind und wann eine Antwort hinterfragt werden muss.

In der Cybersicherheit geht es um Konsequenzen. Rechenleistung kann Geschwindigkeit und Leistungsfähigkeit erhöhen. Doch der Mensch muss festlegen, welche Maßnahmen gerechtfertigt sind und wer die Verantwortung für die Folgen trägt.

Wenn Expertise nicht mitwächst

Besonders kritisch wird es, wenn Unternehmen KI skalieren, ohne gleichzeitig die menschliche Expertise zu stärken. Dann entsteht ein Ungleichgewicht: Die Technologie wird schneller, breiter einsetzbar und überzeugender. Die Menschen, die mit ihr arbeiten, bleiben aber möglicherweise unsicher darin, KI-Ausgaben einzuordnen, zu prüfen und zu interpretieren.

In der Folge vertrauen Organisationen auf Ergebnisse, die sie nicht vollständig verstehen. Das kann bedeuten, dass schlechte Entscheidungen früher getroffen werden, in größerem Maßstab wirken und mit mehr Vertrauen umgesetzt werden, als gerechtfertigt wäre. Die Stärkung menschlicher Expertise sorgt dafür, dass Leistungsfähigkeit an Urteilsvermögen gebunden bleibt, statt unkontrolliert abzudriften.

Gerade für stark regulierte Branchen wie den Finanzdienstleistungssektor ist das entscheidend. Sicherheits- und Compliance-Teams müssen gewährleisten, dass KI-Modelle auditierbar und nachvollziehbar bleiben. Nur so lassen sich regulatorische Anforderungen erfüllen, die sich mit dem zunehmenden KI-Einsatz weiterentwickeln.

Drei Leitplanken für den sicheren KI-Einsatz

Für Unternehmen, die KI sicher skalieren wollen, sind die Leitplanken Präzision, Grenzen und Verständnis entscheidend.

Präzision bedeutet, genau zu definieren, was ein System optimieren soll. Je unschärfer die Zielsetzung ist, desto größer ist das Risiko, dass KI zwar effizient arbeitet, aber in die falsche Richtung optimiert. Gerade in der Cybersicherheit reicht es nicht, ein System allgemein nach Auffälligkeiten suchen zu lassen. Es muss klar sein, welche Risiken adressiert werden, welche Prioritäten gelten und welche Entscheidungen aus den Ergebnissen folgen können.

Grenzen sind ebenso wichtig. Unternehmen müssen ausdrücklich festlegen, was ein System nicht tun darf. Diese Grenzen betreffen technische Funktionen ebenso wie rechtliche Vorgaben und organisatorische Verantwortlichkeiten. KI kann Entscheidungsprozesse nur dann sinnvoll unterstützen, wenn Verantwortlichkeiten, Risikotoleranzen und regulatorische Anforderungen eindeutig geklärt sind.

Verständnis ist die dritte Leitplanke. Menschen, die mit KI arbeiten, müssen Antworten nicht nur lesen, sondern tatsächlich verstehen können, um Annahmen, Lücken und Unsicherheiten zu erkennen. Nur dann können sie beurteilen, ob ein Ergebnis belastbar ist oder weiter geprüft werden muss.

Diese Leitplanken verhindern, dass technische Leistungsfähigkeit der organisatorischen Kontrolle davonläuft. Sie halten KI innerhalb einer Struktur, die Menschen steuern, hinterfragen und verantworten können.

Was sichere KI ausmacht

Künftig wird es darauf ankommen, KI als festen Bestandteil von Entscheidungs-, Sicherheits- und Compliance-Strukturen zu führen. Unternehmen müssen Zuständigkeiten klären, Prüfprozesse etablieren und Teams befähigen, Ergebnisse im jeweiligen Fachkontext zu bewerten.

Wer KI auf diese Weise einbettet, etabliert ein Betriebsmodell, in dem Geschwindigkeit, Governance und menschliches Urteilsvermögen zusammenwirken. So wird KI zu einem verlässlichen Bestandteil des Unternehmensalltags – nicht nur zu einem System, das überzeugende Antworten liefert.icht nur zu einem System, das überzeugende Antworten liefert.

Autor: Matt Wood, Head of Cyber Security Operations, ABBYY