Altman: Arbeitsspeicher in Heim-PCs ist schlecht genutzt

OpenAI-CEO Sam Altman hält es für schlecht genutzte Ressourcen, wenn KI-Modelle lokal auf privaten Computern laufen. Das sagte er im Podcast „Cheeky Pint” von Stripe-Mitgründer John Collison. Anlass war die Frage, ob Nutzer künftig Open-Source-Modelle auf ihren eigenen oder selbst gebauten Rechnern ausführen werden.

„Aus Sicht der globalen Verteilung ist es eigentlich ziemlich schlecht, wenn jeder einen Teil des weltweit begrenzten Angebots an DRAM in seinem eigenen Computer hat, der nur 5 Prozent der Zeit genutzt wird.”
Sam Altman, OpenAI-CEO

In einem Umfeld mit stark begrenztem Angebot wolle man eine möglichst hohe Auslastung in der Cloud. Die Intuition vieler Menschen sei aber das Gegenteil.

Geschäftsmodell mit Modellen in der Cloud

OpenAI bietet zwar auch einige Open-Weight-Modelle an, verdient sein Geld aber vor allem mit geschlossenen Modellen, die in Rechenzentren laufen und per Abonnement oder Nutzung bezahlt werden. Lokal ausgeführte Modelle könnten diese Einnahmen langfristig schmälern, wenn Nutzer leistungsfähige Modelle auf eigener Hardware betreiben. Meta hatte im Oktober mit Muse Spark Open ein Open-Weight-Modell mit 816 Milliarden Parametern veröffentlicht, das für den lokalen Betrieb auf zwei Mac Studios optimiert ist.

Speicherpreise mehr als verdoppelt

Hintergrund ist die anhaltende Knappheit bei Speicherchips. Laut Gartner haben sich die Preise für Speicher in den vergangenen zwölf Monaten mehr als verdoppelt, weil Hersteller ihre Produktion auf KI-Rechenzentren ausrichten. Gartner erwartet, dass dieser Effekt bis 2027 anhält. PC-Hersteller und Händler reagieren mit höheren Preisen, die weltweiten PC-Auslieferungen sanken im dritten Quartal laut IDC um 20,1 Prozent.

Auch in Rechenzentren ist Hardware allerdings nicht durchgehend ausgelastet. Laut einer Umfrage von VentureBeat Intelligence unter Unternehmen, die KI produktiv einsetzen, sind bei 79 Prozent der Befragten die GPUs höchstens die Hälfte der Zeit beschäftigt.

(red)