inferentie
fal haalt 1,3 miljard op en is nu 16 miljard waard
Inferentiebedrijf fal haalt 1,3 miljard dollar op bij Bessemer en NVIDIA. De waardering verdubbelt in een half jaar naar 16 miljard dollar.
DeepSeek maakt inferentie-engine DeepInfer open source
DeepSeek zet DeepInfer, de engine achter zijn eigen API, onder Apache 2.0 op GitHub. Naast Nvidia Blackwell ondersteunt de software ook Huawei Ascend 950.
Etched krijgt biedingen tot 50 miljard dollar
AI-chipmaker Etched krijgt aanbiedingen op een waardering van 40 tot 50 miljard dollar, twee maanden na een ronde op 21 miljard. Wat bouwt het bedrijf?
Edge0 draait 35B-model vanaf SSD in 3 GB geheugen
AutoArk laat met Edge0 een mixture-of-experts-model van 35 miljard parameters draaien in 2,9 GB werkgeheugen, door experts rechtstreeks van SSD te streamen.
Positron haalt 875 miljoen op voor geheugenchip Asimov
Chipontwerper Positron haalt 875 miljoen dollar op bij een waardering van 5 miljard. De Asimov-chip zet in op goedkoop LPDDR5X-geheugen in plaats van schaars HBM.
Videomodel MiniMax-H3 rendert sneller dan afspelen
MiniMax en NVIDIA Research tonen Sol-H3: vijf seconden video met geluid in 1,653 seconde op acht B300-kaarten, tot 15,54 keer sneller dan het basismodel.
Cerebras stapelt geheugen boven op de wafer
Op Hot Chips 2026 toonde Cerebras zijn roadmap: de CS-5 moet in 2027 10.000 tokens per seconde per gebruiker halen en de CS-6 krijgt DRAM gestapeld boven op de wafer.
Cerebras stopt drie wafers in een rack met de CS-4
Cerebras presenteert de CS-4, een rack met drie WSE-3 Turbo-wafers, 750 PFLOPS en ruim 4.400 tokens per seconde per gebruiker. Wat betekent dat voor inferentie?
NVIDIA geeft Nemotron 3.5 Lightning vrij voor agents
NVIDIA brengt Nemotron 3.5 Lightning uit, een open MoE-model van 30 miljard parameters voor agents, plus routeerbibliotheek NeMo Switchyard die taken naar het goedkoopste passende model stuurt.
AMD koopt Taalas en brandt AI-modellen in silicium
AMD neemt het Canadese Taalas over, dat AI-modellen rechtstreeks in silicium etst. De testchip haalde 16.960 tokens per seconde op Llama 3.1 8B. Wat de overname betekent voor inferentie.