Thought Leadership
Dario Amodei warnt vor einem KI-gesteuerten Botnetz-Schwarm, der binnen Monaten das Internet übernehmen könnte.
Anthropic-CEO Dario Amodei hat sich in einem offenen Brief erneut für eine Verlangsamung der KI-Entwicklung ausgesprochen und dabei vor einem möglichen, KI-gesteuerten Botnetz-Schwarm gewarnt, der das gesamte Internet übernehmen könnte.
„Angesichts des sich beschleunigenden Tempos der KI-Fähigkeitsentwicklung befürchte ich, dass ein solcher Schwarm in sechs bis zwölf Monaten in der Lage sein könnte, mit einem dauerhaften Botnetz das gesamte Internet zu übernehmen – mit potenziell Hunderten Milliarden US-Dollar Schaden –, und dass sich das Schadensausmaß von dort aus weiter vergrößern würde, sollte KI leistungsfähiger werden, ohne dass die notwendigen Schutzmechanismen mitwachsen.“
Dario Amodei, Anthropic-CEO
Früherer Anthropic-Forscher äußert ähnliche Sorge
Eine ähnliche Einschätzung äußerte kürzlich Evan Hubinger, ein KI-Wissenschaftler, der Anthropic vor Kurzem verlassen hat. Er bezifferte in einem Beitrag auf der Plattform X die Wahrscheinlichkeit, dass die Menschheit bis zum Ende des Jahrzehnts durch KI ausgelöscht werden könnte, auf über 10 Prozent: „Wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte. Ich persönlich halte das für eine Wahrscheinlichkeit von mehr als 10 Prozent innerhalb des nächsten Jahrzehnts. Ich glaube, Anthropic gibt sein Bestes, aber wir haben noch keinen Plan, um das Alignment-Problem für Superintelligenz zu lösen, und sind auch nicht eindeutig auf einem guten Weg dorthin.“
Wachsende autonome Fähigkeiten als Hintergrund
Nach eigenen Angaben von Anthropic können aktuelle KI-Modelle bereits bei Themen wie Waffentechnik, militärischer Aufklärung, Überwachung und Cyberoperationen unterstützen; leistungsfähigere Nachfolgemodelle könnten den nötigen Aufwand an Fachwissen, Personal und Zeit für solche Aktivitäten deutlich verringern.
(red)
