Kimi K3: 1,4 terabyte om zelf te draaien
Op 27 juli zet Moonshot AI de volledige gewichten van Kimi K3 online, het grootste open-weight model dat tot nu toe is uitgebracht. Iedereen mag het downloaden onder een aangepaste MIT-licentie. De praktische vraag is een andere: wie heeft de hardware om dit model daadwerkelijk zelf te draaien?
Waarom één GPU niet volstaat
Kimi K3 telt 2,8 biljoen parameters, verdeeld over een mixture-of-experts. Per token activeert het model 16 van de 896 experts, zo’n 50 miljard parameters per rekenstap. Dat houdt de gebruikskosten laag, maar het hele model moet nog steeds in het geheugen passen. Volgens VentureBeat is K3 daarmee ruim groter dan DeepSeek V4 Pro (1,6 biljoen parameters) en Zhipu’s GLM 5.
Moonshot levert de gewichten in MXFP4, een 4-bits kwantisatie. Reken je dat door, dan komen de ruwe gewichten uit op ongeveer 1,4 terabyte, nog voordat je de routeringsdata en de buffers voor een context van 1 miljoen tokens meetelt. Geen enkele losse H100, H200 of B200 kan dat vasthouden.
Acht kaarten als praktisch startpunt
Zelf draaien betekent dus een cluster. Acht H200’s van 141 GB leveren samen 1,1 terabyte, genoeg voor het model plus wat ruimte voor de volledige context. Moonshot zelf adviseert supernode-configuraties met 64 of meer versnellers en heeft nog geen officiële minimumopstelling gepubliceerd. Voor thuisgebruik of een enkele werkstation-GPU blijft dit model buiten bereik.
De prestaties verklaren waarom labs toch de moeite nemen. Volgens Notebookcheck kwam Kimi K3 in de launchweek op de eerste plek in Frontend Code Arena met 1.679 punten, boven Claude Fable 5 en GPT-5.6 Sol. Het is het eerste Chinese model dat die benchmark aanvoert, iets wat past bij de bredere inhaalslag die we zagen in de grootste week ooit voor open modellen.
Zelf hosten of toch de API
Wie de hardware niet heeft, kan bij Moonshot terecht via de API: 3 dollar per miljoen invoertokens en 15 dollar per miljoen uitvoertokens. Dat is de hoogste prijs van een Chinees lab, maar volgens VentureBeat ongeveer de helft van de kosten per taak bij Anthropic. De open gewichten zijn dan vooral interessant voor partijen die om privacy- of controleredenen alles binnen eigen muren willen houden, en voor onderzoekers die het model willen aanpassen.
De beschuldiging dat K3 leunt op distillatie van westerse modellen speelt op de achtergrond nog mee, al plaatsten experts daar de nodige kanttekeningen bij. En terwijl Chinese labs opschalen, snoeit DeepSeek juist in zijn oudere modellen om ruimte te maken voor V4.
Wat dit betekent
Open gewichten klinken als vrije toegang, maar bij een model van deze omvang is de licentie niet de drempel. De hardware is dat. Kimi K3 laat zien dat het front van open modellen verschuift naar een schaal die je alleen in een serverruimte draait, niet op een laptop. Voor de meeste bedrijven blijft een API of een gehost eindpunt daarom de realistische route, terwijl de gewichten vooral betekenis krijgen voor wie genoeg rekenkracht en redenen heeft om het zelf te doen.
