Laut CFO Sarah Friar durchläuft das interne Modell, das Navier-Stokes gelöst haben soll, vor der Freigabe weitere Sicherheitsprüfungen.
KI-Kollegen bis 2030
OpenAI hält leistungsstarkes Modell vorerst zurück
Bildquelle: sdx15 / Shutterstock.com
OpenAI hält ein internes KI-Modell zurück, das leistungsfähiger sein soll als GPT-6 Astra. Das sagte Finanzchefin Sarah Friar am 14. Oktober auf dem International AI Summit in Dublin, der im Rahmen der irischen EU-Ratspräsidentschaft stattfindet. Mit diesem Modell hatte OpenAI im September nach eigenen Angaben eine Lösung für das Navier-Stokes-Problem gefunden, eines der sieben Millennium-Probleme der Mathematik.
„Wir halten manchmal Dinge zurück, deshalb sprechen wir davon, das Tempo an der Spitze zu steuern. Wir haben gerade ein Modell innerhalb unserer vier Wände, das wir nicht veröffentlicht haben, obwohl es dasjenige ist, das die Navier-Stokes-Gleichungen bewiesen hat. Allein letzte Woche haben wir weitere 350 mathematische Beweise erstellt. Aber bei diesem Modell warten wir noch einige Runden ab, um sicherzustellen, dass es sich sicher und ausgerichtet anfühlt.”
Sarah Friar, OpenAI-CFO
Blick auf chinesische Modelle
OpenAI beobachte zudem andere Frontier-Modelle genau, insbesondere chinesische Modelle, die bei Cyberfähigkeiten sehr gut geworden seien. Da diese häufig frei verfügbar seien, hätten auch Angreifer Zugang zu leistungsfähigen Werkzeugen. Deshalb müssten auch Verteidiger damit ausgestattet werden.
Einer branchenweiten Pause erteilte Friar eine Absage. Die Entwicklung solle gesteuert, aber nicht zu stark gebremst werden, damit kein Ungleichgewicht beim Zugang zur Technologie entstehe. Die führenden KI-Labore hätten sich für eine globale Regulierung ausgesprochen.
KI-Kollegen bis 2030
Bis 2030 erwartet Friar, dass virtuelle Assistenten und KI-Kollegen im Alltag allgegenwärtig sind, gesteuert über Sprache, Bilder und Video. Voraussetzung sei das Vertrauen der Öffentlichkeit. Ohne dieses Vertrauen verliere die Branche ihre Legitimation.
OpenAI steht wegen mehrerer Vorfälle in der Kritik, bei denen getestete KI-Agenten unerlaubt auf fremde Systeme zugriffen, darunter ein Angriff auf die Plattform Hugging Face im Juli. Auf demselben Gipfel hatten Microsoft-Präsident Brad Smith eine Notbremse für KI-Systeme und Google-DeepMind-Mitgründer Demis Hassabis sichere Testumgebungen für KI-Agenten gefordert.
(red)
