Qualcomm gaat AI-inferentiechips maken voor AWS

Qualcomm heeft op 8 september bekendgemaakt dat het samen met Amazon meerdere generaties chips ontwikkelt voor de datacenters van AWS. De samenwerking draait om inferentie, het draaien van AI-modellen nadat ze getraind zijn, en om de optische verbindingen die serverracks aan elkaar knopen. Het aandeel Qualcomm sloot de dag ruim 9 procent hoger, meldde TheStreet.

Wat er precies is afgesproken

Beide partijen noemen het een meerjarige productsamenwerking waarbij Qualcomm maatwerksilicium op schaal levert. Concrete leverdata en bedragen per generatie zijn niet gepubliceerd. Naast rekenchips werken de bedrijven aan optische verbindingen tot 1,6 terabit, gebaseerd op Qualcomm’s SerDes- en optische DSP-technologie. Dat deel is minder zichtbaar dan de accelerators zelf, maar bepaalt wel of een cluster zijn rekenkracht daadwerkelijk benut. Zie ook onze eerdere berichtgeving over optische chips voor datacenternetwerken.

Qualcomm CEO Cristiano Amon zei in de aankondiging dat groeiende AI-vraag vooruitgang vereist in zowel rekenkracht als connectiviteit. AWS-topman Prasad Kalyanaraman noemde het een voortzetting van een bestaande relatie tussen de twee bedrijven, waarbij maatwerksilicium goedkopere infrastructuur moet opleveren.

Een warrant houdt beide partijen vast

Amazon kreeg op 3 september een warrant om maximaal 25 miljoen Qualcomm-aandelen te kopen. Daarvan is 3,75 miljoen direct onvoorwaardelijk geworden op basis van de eerste inkoopverplichtingen. De rest komt vrij in tranches die gekoppeld zijn aan commerciële mijlpalen en daadwerkelijke aankopen. TechTimes becijferde dat de volledige reeks pas vest bij inkopen tot 60 miljard dollar.

Die constructie is inmiddels gangbaar in de chipsector. Google gebruikte vorige maand een vergelijkbare opzet bij Marvell, waarbij een aandelenoptie van 12,2 miljard dollar aan afnameverplichtingen werd gehangen. De klant deelt zo in de opwaartse waarde van zijn eigen bestellingen, en de leverancier krijgt zicht op volume voordat hij een fab-slot vastlegt.

Inferentie is waar het geld nu zit

Qualcomm positioneert de AI200, AI250 en de nieuwere AI300 als een jaarlijkse cadans van accelerators, geleverd als compleet vloeistofgekoeld rack. Het bedrijf mikt op lage kosten per verwerkt token in plaats van op piekprestaties bij training. StorageReview wijst erop dat AWS de chips naast zijn eigen Trainium en Inferentia zal zetten, en dat Nvidia binnen AWS voorlopig de grootste leverancier van accelerators blijft. Er is nog geen Qualcomm-product in productie bij een westerse hyperscaler, dus de deal is vooral een intentie met een prijskaartje eraan.

De richting is wel duidelijk. Rekenkracht voor inferentie wordt steeds vaker per werklast ontworpen, iets wat ook zichtbaar is bij AMD en Cerebras, die inferentie in twee stappen splitsen. Tegelijk stapelen de investeringen zich op, van miljardenrondes bij neoclouds tot Chinese plannen om de nationale rekencapaciteit te verviervoudigen.

Wat betekent dit

Voor klanten van AWS verandert er op korte termijn niets. Op middellange termijn drukt meer concurrentie in inferentiechips de prijs per miljoen tokens, en dat is de post die bij bedrijven met AI in productie het hardst oploopt. Voor Qualcomm is het de eerste serieuze opdracht van een westerse hyperscaler, en daarmee een test of het bedrijf buiten de telefoonmarkt kan bestaan. Levert het de AI300 op tijd, dan heeft de markt voor het eerst in jaren een derde serieuze speler naast Nvidia en de eigen chips van de clouds.