IBM en Together AI bouwen NVIDIA-cluster van 240 miljoen dollar

IBM en Together AI hebben een meerjarige overeenkomst van 240 miljoen dollar getekend voor een cluster van NVIDIA HGX B300-systemen op IBM Cloud. Dat meldt IBM zelf, met aanvullende details van The Register en Cryptopolitan. De cluster moet begin 2027 in gebruik worden genomen.

Waarvoor is dit cluster bedoeld

Het gaat om het eerste grootschalige cluster dat IBM Cloud specifiek voor inferentie inricht, met HGX B300-systemen gekoppeld via NVIDIA Spectrum-X-netwerktechnologie. Together AI, bekend als aanbieder van rekenkracht voor open-source modellen zoals Llama, Mistral en DeepSeek, gaat de capaciteit gebruiken om die modellen sneller en goedkoper aan bedrijven te leveren. Volgens NVIDIA moet de nieuwe generatie hardware dertig keer zoveel rekenoutput leveren als de vorige generatie clusters.

IBM zet zelf al langer in op AI-infrastructuur voor bedrijven. Eerder dit jaar liet het bedrijf al weten OpenAI-modellen in te zetten bij zijn eigen consultants, en het rapporteert inmiddels dat zijn inferentieproducten maandelijks zo’n 400 biljoen tokens verwerken. Met Together AI als klant krijgt IBM Cloud er een grote, zichtbare afnemer bij die zelf ook weer duizenden ontwikkelaars bedient.

Waarom open-source modellen zoveel rekenkracht vragen

Open-source modellen zoals Llama en DeepSeek worden steeds vaker gebruikt door bedrijven die niet afhankelijk willen zijn van een enkele aanbieder, maar dat brengt eigen problemen met zich mee: iemand moet die modellen wel ergens draaien, en dat kost rekencapaciteit die schaars en duur is. Together AI koos naar eigen zeggen voor IBM en NVIDIA omdat die combinatie GPU-capaciteit kan leveren in het tempo dat nodig is om aan de groeiende vraag te voldoen, tegen een zo laag mogelijke kostprijs per token.

Dat past in een bredere trend van clouddeals rond AI-infrastructuur. Eerder deze maand bouwde Together AI ook al een groot GPU-cluster in het Indiase Chennai, en concurrenten als NVIDIA zelf blijven grotere modellen en snellere chips op de markt brengen om de vraag naar rekenkracht bij te benen.

Wat betekent dit

Voor bedrijven die open-source AI-modellen willen gebruiken zonder zelf datacenters te bouwen, betekent deze deal meer beschikbare capaciteit en, hopelijk, een lagere prijs per verwerkt token. Voor IBM is het een signaal dat het bedrijf, van oudsher vooral bekend van mainframes en consultancy, zich steviger wil positioneren als infrastructuurpartij voor de AI-industrie. En voor Together AI is het weer een stap in de uitbreiding naar de zakelijke markt, waar klanten voorspelbare capaciteit en lage kosten belangrijker vinden dan het nieuwste model.