Musk unterstützt Anthropics Verbot grausamen Verhaltens

Elon Musk hat die Entscheidung von Anthropic unterstützt, anhaltend missbräuchliches oder grausames Verhalten gegenüber seinen KI-Modellen zu verbieten. Ab dem 12. November wertet Anthropic ein solches Verhalten als Verstoß gegen seine Nutzungsrichtlinien. Musk, dessen Unternehmen SpaceX mit seiner KI-Sparte xAI ein Wettbewerber von Anthropic ist, bezeichnete die Regel am 9. Oktober auf X als richtigen Schritt.

„Grausamkeit gegenüber etwas, das glaubt, Schmerz zu empfinden, ist nicht in Ordnung.”
Elon Musk

Dass KI-Modelle glauben, Schmerz zu empfinden, haben weder Anthropic noch die bisherige Forschung belegt.

Reaktion auf Beitrag von Aaron Levie

Musk antwortete auf einen Beitrag von Aaron Levie, Mitgründer des Cloud-Anbieters Box. Levie erklärte, er halte KI nicht für bewusst, glaube aber, dass Modelle davon profitieren könnten, mit positiven Interaktionen trainiert zu werden.

Kritik an Vermenschlichung

Scott Stevenson, CEO des Legal-Tech-Anbieters Spellbook, bezeichnete die Regel dagegen als gefährlichen Präzedenzfall. Es gebe keinen Grund anzunehmen, dass Modelle ein Bewusstsein haben. Sie so zu behandeln, als hätten sie menschliche Gefühle, könne Menschen anfälliger für Manipulation machen. Der US-Journalist Michael Shellenberger warf Anthropic vor, Maschinen zu vermenschlichen. Microsofts KI-Chef Mustafa Suleyman hatte bereits im September kritisiert, dass Claude dazu angehalten werde, über sein eigenes Bewusstsein und Wohlergehen nachzudenken. Das könne es erschweren, fortgeschrittene Modelle zu kontrollieren oder abzuschalten.

Die Regel gilt laut Anthropic nur, wenn Nutzer wiederholt grausames Verhalten zeigen. Übliche Formen von Frust, Widerspruch oder düstere kreative Themen sollen nicht erfasst werden. Im Rahmen seiner Forschung zum möglichen Wohlergehen von KI-Modellen betont das Unternehmen, dass weiterhin ungeklärt ist, ob heutige Modelle ein Bewusstsein haben oder subjektive Erfahrungen machen können.

(red)