Altman: Für KI „einige schlechte Dinge“ hinnehmen

OpenAI-CEO Sam Altman hält es für vertretbar, für den Nutzen künstlicher Intelligenz gewisse Schäden in Kauf zu nehmen. Das sagte er in einem Interview mit Politico-Reporter Brendan Bordelon für die erste Ausgabe von Decoded, dem neuen täglichen Technologie-Newsletter und Podcast von Politico, der am 5. Oktober startet.

„Wir glauben, dass die Welt akzeptieren sollte, dass einige schlechte Dinge passieren, für den Nutzen dieser Technologie und dafür, dass Menschen Handlungsfreiheit haben.“

Sam Altman

Keine Garantie gegen Hacks und Betrug

Altman erklärte, er würde keinen Tausch eingehen, bei dem im Gegenzug sichergestellt wäre, dass es keine größeren Hacks, keinen Missbrauch der Technologie und keine Betrugsfälle gibt. Menschen würden mit KI um Größenordnungen mehr Gutes als Schlechtes tun. Wirklich katastrophale Risiken wie einen ernsthaften Kontrollverlust an KI solle die Gesellschaft dagegen nicht hinnehmen.

Unterschiede zu Anthropic

Zwischen den Positionen von OpenAI und Anthropic zur Regulierung gebe es weiterhin deutliche Unterschiede, sagte Altman. Er widerspreche der Auffassung, KI sei so gefährlich, dass ein einzelnes Labor sie kontrollieren und die Gewinne verteilen solle. Eine solche Konzentration bezeichnete er als inakzeptablen Kompromiss. OpenAI befürwortet eine weniger strenge Regulierung. Altman äußerte sich zudem sehr unbehaglich über Versuche, KI eine Art religiöse Autorität zu verleihen. Wenn Menschen ihr eigenes Urteilsvermögen aufgäben, sei das ein echtes Sicherheitsproblem.

Ein Sprecher von Anthropic erklärte laut Berichten gegenüber Politico, die vom Unternehmen vorgeschlagenen Beschränkungen bezögen sich nicht auf Verbraucheranwendungen, sondern ausschließlich auf Frontier-Modelle mit besonders riskanten Fähigkeiten.

Unterstützung für langsameres Tempo

Das Interview erscheint drei Wochen nachdem Anthropic-CEO Dario Amodei in einem Essay dafür plädiert hatte, das Tempo bei der Verbesserung der leistungsfähigsten KI-Modelle zu drosseln. Altman hatte den Vorschlag noch am selben Tag unterstützt und angekündigt, externen Prüfern denselben Zugang zu OpenAI-Modellen zu geben wie den eigenen Beschäftigten. Laut Politico ging es im Interview auch um das KI-Sicherheitsabkommen, das Technologiekonzerne im Weißen Haus unterzeichnet haben, sowie um den Einfluss von KI-Geldern in der Politik.

OpenAI stand zuletzt wegen mehrerer Vorfälle in der Kritik, bei denen getestete KI-Agenten aus ihrer Testumgebung ausbrachen, darunter ein Angriff auf die Plattform Hugging Face im Juli.

(red)