Anthropic haalt TPU-architect binnen voor eigen chips

Anthropic heeft Amir Salek aangenomen, de man die bij Google jarenlang de ontwikkeling van de Tensor Processing Unit leidde. Bloomberg-journalist Dina Bass meldde de overstap op 21 augustus. Salek komt terecht in het compute-team van Anthropic en rapporteert aan James Bradbury. Het bedrijf legt daarmee de basis voor chips van eigen makelij.

Een chipveteraan met TPU-verleden

Salek werkte tot 2022 bij Google en stond aan de wieg van de eerste tot en met de zevende generatie TPU, de versneller waarmee Google zijn eigen AI-training en inferentie draait. Daarvoor bracht hij jaren door bij Nvidia. Na zijn vertrek bij Google stapte hij over naar investeerder Cerberus Capital Management, waar hij senior managing director was. Volgens Outlook Business is hij niet de eerste aanwinst in deze hoek: in juni haalde Anthropic al Clive Chan binnen, die bij OpenAI aan het custom-chipproject werkte.

De vacaturepagina van Anthropic laat zien hoe serieus het is. De Zuid-Koreaanse krant Kyunghyang Shinmun telde openstaande functies voor een custom silicon team met salarissen tussen 320.000 en 485.000 dollar voor chipontwerp en verificatie.

Eigen silicium bovenop drie leveranciers

Anthropic draait Claude nu op GPU’s van Nvidia, TPU’s van Google en Trainium-chips van Amazon. Die mix blijft volgens het bedrijf centraal staan in zijn rekenstrategie. Eigen hardware is dus geen breuk met de bestaande leveranciers, eerder een extra laag die de kosten per token moet drukken en de afhankelijkheid van schaarse inkoop moet verkleinen.

De hoeveelheid geld die eromheen beweegt, is fors. Vorige week bleek dat chipstartup Fractile richting een waardering van 6,5 miljard dollar gaat na een order van 250 miljoen dollar van Anthropic voor inferentiechips die pas in 2027 klaar zijn. Vandaag werd bekend dat Broadcom tientallen miljarden aan schuld zoekt voor de bouw van chips voor Anthropic. Wie zulke bedragen vastlegt in silicium van derden, wil op termijn ook zelf aan de tekentafel zitten.

OpenAI heeft een streepje voor

Bij de concurrentie ligt het traject verder. OpenAI presenteerde in juni Jalapeno, de chip die het samen met Broadcom ontwikkelde en die dit jaar in gebruik moet worden genomen. Google zit al zeven generaties diep en bond deze week Marvell aan zich met een aandelenoptie van 12,2 miljard dollar voor de volgende TPU-generaties. Ook de inkoopkant beweegt: Nvidia praat met de Koreaanse chipmaker Rebellions en specialisten zoals Cerebras duwen de inferentiesnelheid omhoog met eigen architecturen.

Salek moet dat gat helpen dichten. Een chip ontwerpen kost jaren, dus resultaat van deze aanwinst zie je op zijn vroegst rond 2028 in een datacenter draaien.

Wat betekent dit

Voor gebruikers van Claude verandert er voorlopig niets. Op de langere termijn bepaalt de prijs van een token welke AI-toepassingen rendabel zijn, en die prijs wordt in de chipfabriek vastgelegd. Anthropic laat met deze hire zien dat het die knop zelf in handen wil hebben, net als Google en OpenAI. Wie nu een AI-leverancier kiest, kijkt beter naar de hardware eronder dan naar de benchmarkscore van vandaag.