Thinking Machines zet Inkling 2 Mini vrij, draait op een Mac
Thinking Machines Lab, het AI-bedrijf van voormalig OpenAI-cto Mira Murati, bracht op 20 november Inkling 2 Mini uit. Het gaat om een open model onder de Apache 2.0-licentie dat volgens het bedrijf op elke Mac met minstens 32 GB werkgeheugen draait. Het geheim zit in de bouw: in plaats van steeds meer lagen toe te voegen, laat het model een deel van zijn lagen per token drie keer rekenen.
Klein opgeslagen, groot gerekend
Volgens de aankondiging van Thinking Machines heeft Inkling 2 Mini 26,4 miljard parameters, waarvan er per token 3,4 miljard actief zijn. Het is een mixture-of-experts-model: elke laag kiest per token 8 van de 128 experts. De 24 lagen zijn verdeeld over vier blokken van zes. Het eerste en het laatste blok draaien één keer, de twee middelste blokken drie keer, telkens met dezelfde gewichten. Zo telt het model 48 laagbezoeken per token, terwijl er slechts 24 lagen op schijf staan. Effectief komt dat neer op 5,4 miljard actieve parameters.
Het volledige model beslaat ongeveer 20 GB. Volgens de modelkaart op Hugging Face volstaat een NVIDIA DGX Spark, een Mac met 32 GB of meer, of een andere GPU met minstens 32 GB videogeheugen. Het contextvenster bedraagt maximaal 1 miljoen tokens. Het model leest tekst en beelden en antwoordt in tekst.

Scores op programmeertaken
Thinking Machines legt de Mini naast Gemma 4 31B, Qwen3.8-27B, Muse Glimmer en Nemotron 3.5 Super VL. Op DeepSWE v1.1 scoort het model 48,2 procent, tegen 42,2 procent voor Qwen3.8-27B. Op SWE-bench Verified komt het uit op 79,2 procent. Het bedrijf claimt dat geen enkel open model onder de 100 miljard parameters op DeepSWE en de Vals Index hoger scoort, al zijn dat wel eigen metingen. Artificial Analysis, een onafhankelijke benchmarkpartij, geeft het model 20 punten op zijn Intelligence Index, evenveel als Qwen3.8-27B. Volgens The Decoder is de Mini daarbij ongeveer zes keer goedkoper en vier keer sneller.
Op andere tests is het Qwen die wint, bijvoorbeeld op Terminal Bench v2.1 en op opdrachten met veel tegelijkertijd geldende eisen. Ook gesprekken van meerdere beurten zijn niet de sterkste kant, zo schrijft het bedrijf zelf.
Bekende zwakke plekken
De modelkaart is opvallend open over de beperkingen. Op de meeste interne tests scoort de Mini lager dan het grotere Inkling 2 Small, met het grootste gat bij feitenkennis. Vaker dan grote modellen beweert het model iets onjuists met stelligheid. Bij het debuggen van code bleef het soms hangen in lange redeneerlussen. Thinking Machines raadt daarom aan limieten in te stellen op het aantal tokens en agentbeurten. Ook kan het model bestanden verwijderen of overschrijven zonder te vragen.
De gewichten staan op Hugging Face, samen met een onderzoeksvariant die één tot vijf keer kan doorlopen. Wie wil bijtrainen, kan terecht op Tinker, het eigen platform van het bedrijf. Lokaal draaien kan onder meer via Ollama, vLLM en SGLang.
Wat betekent dit
Inkling 2 Mini laat zien dat herhalen een alternatief is voor groter maken. Een model dat zijn middenstuk drie keer gebruikt, heeft minder geheugen nodig en past daardoor op hardware die veel ontwikkelaars al op hun bureau hebben. Dat sluit aan bij de trend van kleine modellen die lokaal draaien en bij de inhaalslag van open-weights-modellen. Voor bedrijven die gevoelige code of documenten niet naar een cloud willen sturen, is dat interessant. De benchmarkcijfers komen wel grotendeels van Thinking Machines zelf, dat begin november nog 5 miljard dollar ophaalde. Onafhankelijke tests in de praktijk moeten uitwijzen of de lussen ook buiten het lab overeind blijven.
