Eine zehnjährige Reise der KI durch die Cybersicherheit

Künstliche Intelligenz hat in der Cybersicherheit innerhalb weniger Jahre einen tiefgreifenden Rollenwandel durchlaufen, weil die Technologie, die ursprünglich als unscheinbare Verteidigungslinie in den Rechenzentren diente, heute ebenso selbstverständlich von Cyberkriminellen, staatlichen Akteuren und schlecht vorbereiteten Unternehmen genutzt wird.

Der vorliegende Beitrag zeichnet diese Chronologie nach, ordnet die wichtigsten Brüche ein und liefert eine realistische Einschätzung dazu, wohin sich das Verhältnis von KI und Cybersicherheit gegenwärtig und in Zukunft entwickelt.

Die stille Anfangszeit: KI als unsichtbarer Wächter

Die Geschichte der Künstlichen Intelligenz in der Cybersicherheit begann nicht mit einem großen Knall, sondern mit einem leisen Brummen in den Rechenzentren, wo die Technologie schon lange vor den ersten Schlagzeilen rund um „Large Language Models“ oder „ChatGPT“ geräuschlos ihre Arbeit verrichtete. Bereits Mitte der 2010er-Jahre setzten IT-Sicherheitsteams maschinelles Lernen ein, um Anomalien im Netzwerkverkehr zu erkennen, untypische Login-Muster zu identifizieren und Vorfälle automatisiert einzudämmen, wobei KI eine zwar nützliche, doch fast unscheinbare Technologie blieb, die als Werkzeug für Spezialisten klar auf der Seite der Verteidiger stand. Von KI als Bedrohung sprach damals (fast) niemand, weil sie zunächst ganz selbstverständlich Teil der Lösung war.

Der Bruch: November 2022 verändert das Spielfeld

Mit der Veröffentlichung der ersten funktionsfähigen Version von ChatGPT Ende 2022 begann ein Bruch, dessen Tiefe damals kaum jemand erfasste, denn plötzlich existierte ein menschlich nutzbares Interface zu mächtigen KI-Modellen, das jedem zur Verfügung stand, auch Cyberkriminellen. Was zuvor technisches Spezialwissen erforderte, ließ sich nun mit wenigen Prompts erledigen, sodass Phishing-Mails ohne Rechtschreibfehler und in jeder Zielsprache perfekt formuliert nur den Anfang einer Entwicklung markierten, in deren Verlauf sich künstliche KI-Systemgrenzen über AI-Jailbreaking rasch umgehen ließen und die ersten Wellen massenhaft personalisierter Angriffe anrollten. Die KI hatte damit nicht etwa die Seiten gewechselt, sondern war erstmals realistisch beidseitig nutzbar geworden, was eine grundlegende sicherheitspolitische Neubewertung der gesamten Technologie unumgänglich machte.

Vom Massenphishing zur professionellen Täuschungsmaschine

In den Folgejahren entwickelte sich das KI-Phishing zu einer regelrecht industriellen Täuschungsmaschine, in der CEO-Fraud durch Voice-Cloning ein neues Niveau erreichte, weil Stimmen von Geschäftsführern überzeugend imitiert werden konnten und KI-Modelle den Schreibstil von Vorständen aus öffentlich verfügbaren Mails und Briefen lernten, sodass Mitarbeitende künstliche Anweisungen erhielten, die sich nicht mehr von echten unterscheiden ließen. Parallel dazu setzten staatliche und nichtstaatliche Akteure die Technologie zur Verbreitung von Desinformation in einer geopolitisch instabilen Welt ein, indem sie ganze Nachrichtenportale und sogar fiktive Nachrichtensender synthetisch nachbauten, was insbesondere während des Kriegs in Nahost sichtbar wurde und Wahrheit zunehmend zur Verhandlungssache machte.

Wenn Kriminelle wie Unternehmen arbeiten

Ein Bericht von Europol mit dem Titel „The changing DNA of serious and organised crime“ aus dem Jahr 2025 dokumentiert, was Sicherheitsbehörden längst befürchteten, nämlich dass konventionelle kriminelle Gruppierungen massiv in die Cyberkriminalität drängen, wobei KI die Einstiegsschwelle dramatisch senkt, weil dort, wo früher Programmierkenntnisse und tiefes Systemverständnis erforderlich waren, heute einfache Anleitungen aus Chatbots ausreichen.

Gleichzeitig professionalisieren sich etablierte Cybercrime-Akteure, indem sie KI wie reguläre Unternehmen zur Effizienzsteigerung einsetzen, etwa zur Entwicklung passgenauer Malware für bereits infiltrierte IT-Systeme, zum dynamischen Nachladen von Schadcode oder zum Betrieb automatisierter Verhandlungs-Chatbots, die Ransomware-Opfer rund um die Uhr in jeder Sprache „betreuen“, psychologisch geschult sind und gezielt darauf optimiert wurden, möglichst hohe Lösegeldsummen zu erpressen. Cybercrime-as-a-Service ist auf diese Weise zur reibungslosen Dienstleistungsindustrie geworden.

Hausgemachte Risiken: Unternehmen gegen sich selbst

Doch nicht alle KI-Risiken kommen von außen, denn eine ebenso gewichtige Gefahr liegt im sorglosen Einsatz von KI durch gewöhnliche Unternehmen, die die Technologie nicht durchgängig verstehen und sie dennoch aufgrund von Leitungsentscheidungen massiv ausrollen. Die Blackbox proprietärer Modelle und intransparenter Trainingsdaten ist dabei nur ein Teil des Problems, deutlich gefährlicher wirkt sich der Trend zum „Vibe Coding“ aus, durch den auf einmal jeder Mitarbeitende jede Aufgabe übernehmen können soll, auch ohne entsprechende Fachausbildung. Der so generierte Code arbeitet oft ineffizient und enthält Sicherheitslücken, die seit den 1990er-Jahren als ausgemerzt galten, was zum Beispiel bei Amazon im Frühjahr dieses Jahres zu einem mehrstündigen IT-Ausfall führte, der manuell durch Senior Developer behoben werden musste.

Zugleich werden Junior Developer, also genau die Senior Developer von morgen, nicht mehr eingestellt oder massenhaft entlassen, während Unternehmen ihr internes Wissen zunehmend in unsichere Chatbots integrieren und dabei riskieren, dass Geschäftsgeheimnisse zur frei zugänglichen Information werden, wie die jüngst erfolgreiche Kompromittierung des McKinsey-Bots „Lilli“ eindrücklich gezeigt hat, von der Millionen Geschäfts- und Kundendaten betroffen waren.

Agentische KI: Der nächste Hype trifft auf harte Grenzen

Aktuell setzen viele Unternehmen ihre Hoffnungen auf agentische KI, also auf Systeme, die selbstständig Aufgaben planen und ausführen, wobei ein zuletzt veröffentlichtes wissenschaftliches Paper mit dem Titel „Agents of Chaos“ u.a. von Researchern aus dem MIT offengelegt hat, woran diese Architektur krankt: Mehrere Bots verfangen sich untereinander in endlosen Schleifen, weil sie die gesamtheitlichen Auswirkungen ihres Handelns nicht abschätzen können, sodass das, was als Effizienzgewinn gepriesen wird, sich in unerwartete Richtungen entwickelt und potenziell schwerwiegende Folgen für sicherheitskritische Prozesse nach sich zieht.

Die Schwachstellenfabrik, der bislang gefährlichste Trend

Der vielleicht disruptivste Wandel kündigt sich gerade erst an, nämlich die automatisierte und massenhafte Erkennung von Schwachstellen durch KI, die zwar nach einem Geschenk für die Verteidigung klingt, jedoch etablierte Konzepte wie Coordinated Vulnerability Disclosure (CVD) und Security by Design ad absurdum zu führen droht, weil viele kritische Infrastrukturen auf unpatchbaren Legacy-Systemen laufen. Werden Schwachstellen, insbesondere Zero-Days, vom raren und exklusiven Gut zur industriell herstellbaren Massenware, droht das gesamte bestehende IT-Sicherheitsmodell zu kippen, und unabhängig davon, ob man die jüngsten Veröffentlichungen von Anthropic für einen Marketing-Coup hält, forschen Firmen und Staaten weltweit an genau solchen Werkzeugen, sodass der Wettlauf um die schnellste und beste Cybersicherheits-KI längst begonnen hat.

Die Welt reagiert, doch reicht das?

Die Folgen von KI in der Cybersicherheit sind bereits jetzt deutlich spürbar, denn Versicherer können KI-bezogene Risiken kaum noch wirtschaftlich beziffern und schränken den Cyberversicherungsschutz entsprechend ein, während das US-amerikanische NIST eröffnet hat, die nationale US-Schwachstellendatenbank „NVD“ seit April dieses Jahres nicht mehr vollumfänglich pflegen zu können, weil der Einrichtung die Zahl der Meldungen über den Kopf wächst. Open-Source-Entwicklerteams melden eine ähnliche Überforderung durch massenhaft eingereichten, KI-generierten und teils unsicheren Code, während die britische Regierung indessen einen „Cybershield“ aufbaut, um sich vor künftigen, großangelegten KI-Cyberangriffen zu schützen. Damit ist ein geopolitischer Wettlauf um die Kontrolle der mächtigsten KI-Systeme eröffnet, dessen Ausgang zurzeit offen bleibt.

Ausblick: Cybersicherheit oder Cyberunsicherheit?

Wird KI alles besser machen in der Cybersicherheit? Ganz bestimmt nicht. Kann sie uns dabei helfen, unsere IT-Systeme sicherer zu machen? Zu einem bestimmten Anteil, ja. Ist das globale KI-Wettrennen schon entschieden? Nein, aber es läuft, und ob am Ende die Verteidiger oder die Angreifer schneller sind, entscheidet sich gerade jetzt, auch geopolitisch und nicht zuletzt mit Blick auf die Volksrepublik China. Die Anzeichen mehren sich indessen, dass wir uns auf eine Zukunft einstellen müssen, in der KI mehr Cyberunsicherheit als Cybersicherheit produziert, und wer das immer noch verkennt, baut seine IT-Infrastruktur auf Sand. Die Geschichte der KI in der Cybersicherheit war ohnehin nie nur eine technische, sondern immer auch eine über Verantwortung, Geschwindigkeit und Augenmaß, weshalb sie noch lange nicht zu Ende erzählt ist.