Wer als Unternehmen die besten Softwareentwickler einstellen will, muss sich etwas einfallen lassen. Nvidia-Chef Jensen Huang hat da eine Idee: Tokens.
Auf der diesjährigen GPU Technology Conference stellte er sich in seiner Keynote eine Welt vor, in der Unternehmen ihren Entwicklern neben dem Gehalt automatisch auch ein üppiges Token-Budget bereitstellen.
Produktivität soll steigen
Huang rechnete auf der Bühne vor, wie er sich das konkret vorstellt. Ein Entwickler verdiene einige Hunderttausend Dollar im Jahr. Darauf würde er noch einmal die Hälfte in Form von Tokens drauflegen, weil Entwickler damit ein Vielfaches ihrer normalen Leistung erreichen könnten. Das lohne sich für beide Seiten.
Token-Budgets entwickelten sich bereits jetzt zu einem Argument in Bewerbungsgesprächen im Silicon Valley, so Huang. Bewerber wollten wissen, wie viel KI-Rechenleistung ihnen im neuen Job zur Verfügung stehe.
Tokens sind die Grundeinheit, in der große Sprachmodelle Text verarbeiten. Sie entsprechen ungefähr einem Wortfragment. KI-Anbieter rechnen ihre Dienste üblicherweise nach der Menge verarbeiteter Tokens ab.
Ein Trend, der über Nvidia hinausgeht
Huang dürfte mit seinen Aussagen einen Nerv getroffen haben. Laut einem Bericht von Business Insider experimentiert das Silicon Valley bereits damit, KI-Inferenz-Rechenleistung als zusätzlichen Vergütungsbaustein einzusetzen. Investoren sehen darin neben Gehalt, Bonus und Aktienoptionen eine Art vierte Säule und regen an, Token-Budgets direkt in Stellenausschreibungen aufzuführen.
Auch bei OpenAI ist das Thema angekommen. Thibault Sottiaux, der dort das Engineering für den Codex-Dienst verantwortet, schrieb kürzlich auf X, dass KI-Rechenkapazität immer knapper und wertvoller werde. In Vorstellungsgesprächen erkundigen sich Kandidaten auch bei OpenAI gezielt danach, wie viel Inferenz-Rechenleistung sie zum Arbeiten bekommen würden.
Huangs Vorstoß passt natürlich auch zum Geschäftsmodell seines Unternehmens. Mehr Token-Budgets für Entwickler bedeuten mehr Bedarf an Rechenleistung. Und die läuft in den allermeisten Fällen auf Nvidia-Hardware. In derselben Keynote prognostizierte Huang, dass allein die Bestellungen für die Chipgenerationen Blackwell und Vera Rubin bis 2027 ein Volumen von einer Billion Dollar erreichen würden.