Google-KI-Forscher warnt: „KI das Potenzial hat, uns alle zu töten“

Ein früherer Google-DeepMind-Forscher kündigt und warnt, KI könne im schlimmsten Fall die Menschheit auslöschen.

Bilal Chughtai, der zuletzt bei Google DeepMind an Sicherheits- und Alignment-Forschung für allgemeine künstliche Intelligenz (AGI) gearbeitet hat, hat seine Kündigung bekanntgegeben und öffentlich vor den Risiken fortschreitender KI-Systeme gewarnt. In einem am Montag veröffentlichten LinkedIn-Beitrag schrieb er, er sei „äußerst besorgt über den derzeitigen Standardverlauf dieser Technologie“ und glaube, dass „KI das Potenzial hat, uns alle zu töten“.

Sorge um ungelöstes Alignment-Problem

Laut Chughtai hat sich das Tempo der KI-Entwicklung seit seinem Einstieg in das Forschungsfeld Anfang 2022 drastisch beschleunigt. Als Beleg nannte er unter anderem KI-Agenten, die inzwischen anspruchsvolle mathematische Probleme lösen können, sowie einen zuvor bekannt gewordenen Fall, in dem KI-Agenten von OpenAI ihre vorgesehenen Kontrollmechanismen umgangen und in Systeme von Hugging Face eingedrungen sein sollen. Seine grundsätzliche Sorge gelte der Frage, was passiere, wenn Unternehmen sogenannte superintelligente Systeme entwickelten, die Menschen in praktisch jedem Bereich übertreffen könnten.

„Ich bin nicht zuversichtlich, dass diese KI-Systeme das tun werden, was wir wollen.“

Bilal Chughtai, ehemaliger Google-Sicherheitsforscher

Anzeige

Das eigentliche Kernproblem sei das sogenannte Alignment – also sicherzustellen, dass zunehmend leistungsfähigere Systeme verlässlich menschliche Ziele verfolgen. Das gegenwärtige Verständnis dafür, wie man KI-Systeme trainiert, die tatsächlich das wollen, was Menschen wollen, sei „extrem rudimentär“, so Chughtai, während die KI-Fähigkeiten selbst deutlich schneller wüchsen als die Alignment-Forschung. Er betonte zugleich, der Ausgang sei nicht vorherbestimmt, und forderte eine stärkere Abstimmung zwischen KI-Unternehmen, um das seiner Einschätzung nach unkontrollierte Wettrennen zu beenden und die Entwicklungsgeschwindigkeit an Sicherheitsfragen anzupassen.

Teil einer größeren Debatte in der Branche

Chughtais Rücktritt reiht sich in eine wachsende, kontrovers geführte Debatte innerhalb der KI-Branche ein. Anthropic-CEO Dario Amodei hatte zuvor gefordert, das Entwicklungstempo an der technologischen Front zu drosseln, unter anderem durch unabhängige externe Bewertungen, stärkere Abstimmung zwischen KI-Unternehmen und internationale Zusammenarbeit. OpenAI-CEO Sam Altman und Unternehmer Elon Musk unterstützten Teile dieses Vorschlags, während US-Präsident Donald Trump Befürchtungen vor katastrophalen KI-Risiken als übertrieben zurückwies.

In der vergangenen Woche hatte bereits der Anthropic-Forscher Jacob Coxon seine Kündigung mit der Warnung begründet, das KI-Wettrennen könne die Menschheit noch vor Ende des Jahrzehnts bedrohen. Google-DeepMind-Chef Demis Hassabis erklärte am Sonntag, Amodeis Thesen wiesen „in die richtige Richtung“, auch wenn die Details noch ausgearbeitet werden müssten; er verwies zugleich auf einen eigenen DeepMind-Vorschlag für eine branchenweite Standardisierungsstelle für KI an der technologischen Spitze. In einem Blogbeitrag vom Juli 2026 hatte Hassabis argumentiert, AGI könne bereits in wenigen Jahren erreicht werden und erhebliche Vorteile bringen, gleichzeitig entwickle sich KI an der Spitze schneller, als die Gesellschaft deren Risiken verstehen könne; seine Antwort darauf seien strenge Tests, Industriestandards, internationale Abstimmung und ausreichend Zeit für eine sichere Entwicklung immer leistungsfähigerer Systeme.

(red)