Google Cloud bringt Nvidia Vera Rubin in A5X-Instanzen

Google Cloud und Nvidia haben auf der Konferenz GTC Berlin angekündigt, dass die Cloud-Instanzen A5X mit Nvidias neuer KI-Plattform Vera Rubin im November allgemein verfügbar werden. Anschließend soll die Verfügbarkeit auf Europa ausgeweitet werden. Einen Termin dafür nannten die Unternehmen nicht. Google Cloud plant, seine Infrastruktur auf Basis von Vera Rubin an mehreren Standorten auf bis zu 960.000 Rubin-GPUs auszubauen.

Die A5X-Instanzen kombinieren Systeme vom Typ Vera Rubin NVL72 mit Netzwerkkarten vom Typ Nvidia ConnectX-9 SuperNIC, dem Rechenzentrumsnetz Virgo von Google Cloud und der vierten Generation von Googles Flüssigkeitskühlung. Ausgelegt sind sie auf Inferenz für KI-Agenten und auf Reinforcement Learning in großem Umfang. Sie werden Teil von Googles AI Hypercomputer, der Rechenleistung, Netzwerk und Speicher bündelt.

Erster Kunde ist Ineffable Intelligence

Erster Kunde ist Ineffable Intelligence, ein Unternehmen aus London, das von David Silver gegründet wurde, einem der Entwickler des KI-Systems AlphaGo. Es nutzt die Instanzen für Forschung zu Reinforcement Learning und arbeitet an Systemen, die fortlaufend aus Erfahrung lernen sollen.

„Wir bauen Superlearner, die sich durch ihre eigenen Erfahrungen fortlaufend verbessern.”
David Silver, Gründer von Ineffable Intelligence

Dafür seien viel Rechenleistung und eine enge Verbindung zwischen dem Sammeln von Erfahrungen und dem Training nötig.

Auch der Werbe- und Kommunikationskonzern WPP hat laut Nvidia eine Referenzarchitektur für kreative KI-Agenten auf A5X-Instanzen getestet. Die Agenten setzen Anfragen in mehrstufige Abläufe etwa zur Videoerzeugung um, die ein Mensch vor der Ausführung freigibt. Arbeitslasten, die sonst einen Cluster aus mehreren Knoten erforderten, liefen in den ersten Tests auf einer einzelnen Instanz.

Confidential Computing auf Rack-Ebene

Zudem will Google Cloud zu den ersten Cloud-Anbietern gehören, die Nvidia Confidential Computing auf Rack-Ebene auf Bare-Metal-Instanzen anbieten, etwa auf A4X-Max-Instanzen mit Nvidia GB300 NVL72. Dabei bleiben Modelle und Daten auch auf fremder Infrastruktur während der Verarbeitung geschützt. Für G4-Instanzen mit GPUs vom Typ RTX PRO 6000 Blackwell Server Edition ist Confidential Computing ab sofort allgemein verfügbar.

Vera Rubin ist der Nachfolger von Nvidias Blackwell-Architektur. Den Speicher dafür liefern unter anderem Samsung und SK hynix mit HBM4. Die Speicherhersteller haben ihre Lieferungen für die Plattform in den vergangenen Monaten ausgebaut.

(red)