Edge0 zet 145B-model op een laptop met 48 GB geheugen
3 min. leestijd

Edge0 zet 145B-model op een laptop met 48 GB geheugen

Een taalmodel met 145 miljard parameters dat gewoon op een laptop draait, zonder internetverbinding. Dat belooft Edge0 met Edge0-145B, dat het bedrijf op 12 november vrijgaf, samen met het kleinere Edge0-120B. Volgens de aankondiging op de blog van Edge0 is een laptop met 48 GB werkgeheugen, zoals een MacBook Pro, voldoende.

Hoe past een 145B-model in 29 GB?

Edge0-145B is een sparse mixture-of-experts-model. Van de 145 miljard parameters zijn er per stap maar ongeveer 10 miljard actief. Het bedrijf verdeelt het model over drie lagen geheugen: de experts die het vaakst nodig zijn staan in het videogeheugen, een bibliotheek van zo’n 40 GB aan experts staat in het gewone werkgeheugen en ongeveer 48 GB aan vocabulairedata wordt pas van de SSD gelezen als dat nodig is. Het piekgebruik komt daarmee uit op 29 GB.

Zo’n aanpak is niet nieuw voor Edge0. In september liet het bedrijf al zien dat het een 35B-model vanaf de SSD in 3 GB geheugen kon draaien. Nieuw is dat het 145B-model volgens Edge0 vanaf het begin in deze opzet is getraind en dus geen verkleinde versie is van een cloudmodel.

Handen op een laptoptoetsenbord aan een tafel in de trein

Snelheid en hardware

Edge0 meldt een verwerkingssnelheid van ruim 1.100 tokens per seconde bij het inlezen van tekst en meer dan 80 tokens per seconde bij het schrijven van antwoorden. Het contextvenster beslaat 128.000 tot 256.000 tokens. Het model werkt vanaf dag één op macOS, Windows en Linux, met Apple-chips uit de M-serie en NVIDIA-kaarten als de RTX 4090, RTX 5090 en de RTX Spark, die onder meer in de Surface Laptop Ultra van Microsoft zit. Het stroomverbruik ligt volgens het bedrijf rond de 120 watt.

De modellen staan op Hugging Face, in een NVFP4-versie en een sterker gecomprimeerde q3k-variant. Opvallend: waar de eerdere Edge0-modellen onder de Apache 2.0-licentie vielen, staat bij de nieuwe modellen een andere licentie vermeld. De bijbehorende Edge0-app werkt offline, zonder account of gebruikslimiet.

Wat zeggen de benchmarks?

De cijfers komen grotendeels uit eigen tests van Edge0. Op Terminal-Bench 2.1, een test voor agentisch werk in de terminal, scoort Edge0-145B 86,5 procent, tegen 78,2 procent voor Claude Opus 4.6 in dezelfde tabel. Op de kennistest Humanity’s Last Exam blijft het model met 35,4 procent juist achter bij Claude Opus 4.6 (40 procent). Op GPQA-Diamond liggen ze dicht bij elkaar.

Ook vergeleken met andere open modellen draait het vooral om geheugen. Qwen3.8-Flash-Next scoort gemiddeld iets lager, maar heeft volgens de schatting van Edge0 bij 4-bit compressie zo’n 70 GB nodig. Onafhankelijke tests moeten nog uitwijzen of die cijfers standhouden; de nieuwsbrief AI Weekly meldde de release, maar eigen metingen zijn er nog niet.

Wat betekent dit?

Als de claims kloppen, kan een ontwikkelaar of bedrijf een sterk codeermodel lokaal gebruiken, zonder dat broncode of klantdata de deur uit gaat en zonder tokenkosten. Dat past bij een bredere verschuiving: open modellen doen inmiddels een groot deel van het AI-werk en chipmakers willen zelfs telefoons met 100 miljard parameters. De drempel blijft wel hoog. Een laptop met 48 GB geheugen of een dure videokaart is geen standaarduitrusting en de licentie verdient een goede blik voordat je het model zakelijk inzet.