KI-Labore zwischen Innovationsdruck und wachsenden Sicherheitsrisiken

Vor wenigen Tagen hat OpenAI-Chef Sam Altman den lange erwarteten Börsengang seines Unternehmens verschoben. Was zunächst nach einer wirtschaftlichen Randnotiz klingt, ist ein deutliches Warnsignal.

Altman begründete seine Entscheidung ausgerechnet mit ungelösten Sicherheitsfragen rund um die eigene Technologie. Fast zeitgleich warnten mehrere Forscherinnen und Forscher aus den größten KI-Laboren der Welt öffentlich vor Risiken, die weit über technische Kinderkrankheiten hinausgehen.

Wenn die Erfinder selbst zurückschrecken

Besonders bemerkenswert ist, wer da warnt. Ein ehemaliger Forscher, der bei OpenAI und Anthropic an den leistungsfähigsten Systemen mitgearbeitet hat, kündigte vergangene Woche öffentlichkeitswirksam seinen Job, weil er den Wettlauf um eine sich selbst verbessernde Superintelligenz für zunehmend unkontrollierbar hält. Ein leitender Sicherheitsforscher von Anthropic bezifferte die Wahrscheinlichkeit eines existenziellen KI-Risikos innerhalb der kommenden zehn Jahre auf über zehn Prozent, während zwei weitere Fachleute von Anthropic und Google DeepMind zu einer unabhängigen Organisation wechselten, um zu untersuchen, wie KI-Systeme ihren Entwicklern entgleiten können. Dass die Warnungen aus den eigenen Reihen kommen, verweist auch auf eine deutliche Mitverantwortung der Konzerne, die im Spannungsfeld zwischen Sicherheit und Innovation stehen und Letzterer zuletzt spürbar mehr Gewicht gegeben haben. Selbst Anthropic-Chef Dario Amodei forderte ein langsameres Tempo, dem sein größter Konkurrent Altman zustimmte.

Keine Science-Fiction, sondern ganz reale Gefahren

Dabei geht es nicht um das aus Filmen bekannte Bild einer einzelnen, dem Menschen feindlich gesinnten Superintelligenz, sondern um eine Technik, die schneller integriert wird, als ihre Sicherheit geprüft werden kann, und die in eine Phase realen Kontrollverlusts münden könnte. So könnten Angriffe auf Energieversorger Stromnetze lahmlegen, gestörte Logistiksysteme Lieferketten zum Erliegen bringen und KI-gesteuerte Handelssysteme Finanzmärkte bis zum Börsencrash manipulieren. Hinzu kommt, dass Terroristen und Wissenschaftler in einzelnen Staaten KI-Systeme bereits für die theoretische Entwicklung biologischer oder chemischer Waffen zu nutzen versuchen. Je besser künstliche Intelligenz darin wird, selbstständig Schwachstellen in Computersystemen aufzuspüren, desto wahrscheinlicher wird zudem ein folgenschwerer Cybersicherheitsvorfall in der vernetzten Welt.

Gefahren, die wir uns selbst einhandeln

Neben diesen technischen Risiken gibt es Gefahren, die im Alltag vieler Menschen längst spürbar sind. Studien deuten darauf hin, dass praktische Fähigkeiten und Fachwissen von Menschen bereits nach wenigen Jahren intensiver KI-Nutzung nachlassen, weil viele Aufgaben einfach an die Maschine delegiert werden. Gleichzeitig zeichnen sich Verwerfungen auf dem Arbeitsmarkt ab, die in einzelnen Branchen bis zur Arbeitslosigkeit führen könnten, während zunehmend fehleranfällige, auf immer mehr aggregierten Daten beruhende Systeme über Kaskadeneffekte auch die Versorgungssicherheit gefährden könnten. Die Rechnung für diese kurzfristigen Produktivitätsgewinne dürfte irgendwann beglichen werden müssen.

Ein Wettlauf, den niemand alleine aufhalten kann

So dringend Regeln für den Umgang mit künstlicher Intelligenz wären, ein weltweites Entwicklungsverbot bleibt Wunschdenken. Die europäische Gesetzgebung, die lange belächelt wurde, gilt inzwischen vielerorts als notwendiger Schritt, und auch in Deutschland entsteht gerade ein neues KI-Sicherheitsinstitut in Berlin – ein wichtiger Schritt in die richtige Richtung. Selbst wenn sich alle amerikanischen Konzerne freiwillig zurückhalten würden, bliebe der internationale Wettbewerb bestehen, denn KI ist längst zu einer geopolitischen Frage geworden, vergleichbar mit dem nuklearen Wettrüsten des vergangenen Jahrhunderts. Deshalb braucht es ähnliche Kontrollmechanismen, wie man sie aus der atomaren Rüstungskontrolle kennt, möglicherweise auf Ebene der Vereinten Nationen. Der Geist ist aus der Flasche, doch zumindest auf einen gemeinsamen Nenner sollten sich die Staaten dieser Welt einigen können, nämlich dass durch künstliche Intelligenz keine zivilisatorischen Risiken entstehen dürfen.

Fortschritt ja, Kontrollverlust nein

Bei aller Dramatik dürfen die Chancen der Künstlichen Intelligenz nicht vergessen werden, etwa wenn sie in der Medizin neue Wirkstoffe entdecken hilft, die Energiewende beschleunigt oder als defensives Werkzeug vor Cyberangriffen schützt. Ersetzen kann sie die eigene menschliche Urteilsfähigkeit dennoch nicht, eine Erkenntnis, die gerade wieder an Bedeutung gewinnt. Bevor der nächste Vorfall zeigt, wie weit die Kontrolle über diese Technologie bereits entglitten ist, sollten Wirtschaft, Politik und die KI-Labore selbst gemeinsam handeln, denn ein Abwarten wird mit jedem Tag riskanter, und das längst nicht nur für die Cybersicherheit.