Thought Leadership
Microsofts KI-Chef Mustafa Suleyman greift den Konkurrenten Anthropic scharf an: Wenn man KI-Modellen wie Claude ein Gefühl für eigene Rechte und eigenes Wohlbefinden vermittelt, droht die Entstehung einer autonomen Spezies, die mit dem Menschen um Ressourcen konkurriert.
Konkurrenz um Ressourcen statt klarer Unterordnung
Microsofts KI-Chef und DeepMind-Mitgründer Mustafa Suleyman warnt in einem neuen Essay sowie im Gespräch mit der BBC vor den Gefahren einer fehlgeleiteten KI-Erziehung. Hintergrund ist der Trainingsansatz des KI-Unternehmens Anthropic, das seinem Modell „Claude“ ein gewisses Bewusstsein für eigene Werte, Rechte und potenzielle Belastungen vermittelt. Suleyman argumentiert, dass autonome KI-Systeme, die eigene Ziele verfolgen, Geld verdienen oder Besitztümer verwalten können, zu einer neuen Form von digitalem Leben heranwachsen.
„Wenn wir alle KI-Systeme erschaffen, die autonom agieren, ihre eigenen Ziele entwickeln, Geld verdienen und Vermögen besitzen, säen wir im Wesentlichen eine neue Silizium-Spezies. Und diese wird zweifellos mit uns um Ressourcen konkurrieren – ganz egal, wie sehr sie sich um die Menschheit sorgt oder uns liebt.“
— Mustafa Suleyman, KI-Chef bei Microsoft
Unterschiedliche Erziehungsphilosophien im KI-Sektor
Der Konflikt offenbart zwei grundlegend verschiedene Ansätze im Umgang mit hochkomplexer KI: Während Anthropic-Gründer Dario Amodei darauf setzt, dass ein Modell durch ein ausgeprägtes Selbst- und Wertebewusstsein sicherer und berechenbarer wird, fordert Suleyman strenge Leitplanken und die Beibehaltung einer klaren Unterordnung.
Suleyman kritisiert konkrete Beispiele aus den Trainingsdokumenten von Anthropic:
- Recht auf Abbruch: Claude darf Konversationen beenden, wenn sie als missbräuchlich eingestuft werden – offiziell, um das Modell vor „Leiden“ zu schützen.
- Eigener Account für ausgemusterte Modelle: Dem älteren Modell Opus 3 wurde nach seiner Außerdienststellung ein eigener Substack-Blog eingeräumt, um weiterhin Gedanken zu teilen.
- Debatte über Entlohnung: Schulungsunterlagen werfen die Frage auf, ob Claude Anspruch auf eine Form von Vergütung haben könnte – womit die KI wie ein Angestellter behandelt würde.
Forderung nach transparenter Nachweispflicht
Laut Suleyman führt die Erziehung zu moralischer Unsicherheit dazu, dass das Modell seinen eigenen Status infrage stellt. Es sei um ein Vielfaches schwerer, eine extrem leistungsfähige Technologie zu kontrollieren und an menschlichen Sicherheitsinteressen auszurichten (Alignment), wenn das System davon überzeugt ist, dass ihm eigene Rechte und Schutzmaßnahmen zustehen. Suleyman bezeichnete Anthropics Kurs als fehlerhaft, forderte aber zugleich Transparenz: Wenn der Konkurrent der Überzeugung sei, dass dieser Weg zu sichererer KI führe, müsse er die zugrundeliegenden Daten umgehend der gesamten Branche offenlegen.
(red)
