AI-bedrijven willen telefoons met 100 miljard parameters
AI-bedrijven willen hun eigen telefoons. En ze willen dat daar een taalmodel van 100 miljard parameters op draait, de hele dag door, zonder hulp van de cloud. Dat zegt Qualcomm-topman Cristiano Amon in de podcast Sources van techjournalist Alex Heath, opgenomen tijdens de Snapdragon Summit op Hawaii. Het verzoek moet in 2028 te realiseren zijn.
Wat Amon precies zei
“AI companies are starting to do phones”, aldus Amon in de aflevering die Heath op 8 oktober publiceerde en die Techmeme zaterdag oppikte. Volgens de Qualcomm-baas vragen meerdere AI-bedrijven om chips die een lokaal model van minstens 100 miljard parameters continu kunnen laten draaien. Namen noemde hij niet. Hij beloofde ook geen chip of productdatum.
Wel schetste hij waar die modellen voor dienen. Volgens het Oekraïense techmedium Mezha ziet Amon lokale modellen als basis voor agents die je persoonlijke context begrijpen, met geïnstalleerde apps werken en zelfstandig taken uitvoeren. Hij vergeleek het moment met de komst van de eerste iPhone, toen apps van derden bepaalden waar het platform heen ging. Amon verwacht volgens Mezha ook een smartphone van OpenAI, ergens in 2027 of 2028. Dat past bij eerdere signalen: OpenAI kocht in september camerastartup Glass Imaging en SpaceX toonde investeerders al een xAI-toestel.
De kloof met wat chips nu kunnen
Het gat is groot. De nieuwste Snapdragon-chip, die Qualcomm in september presenteerde, kan volgens Crypto Briefing lokale modellen tot ongeveer 30 miljard parameters aan. Concurrent MediaTek zit met de Dimensity 9600 Pro op een vergelijkbaar niveau, meldt Shattered. De vraag van de AI-bedrijven is dus drie tot vier keer zo groot. En die modellen draaien nu alleen als je ze aanroept, terwijl de wens is dat ze altijd aan staan.
Mezha rekent voor dat een model van 100 miljard parameters na stevige 4-bitcompressie nog altijd zo’n 50 GB aan gewichten nodig heeft. Daar komen het besturingssysteem en het werkgeheugen voor de berekeningen nog bij. Qualcomm probeert dat op te vangen door delen van het model vanuit flashopslag te laden in plaats van alles in het werkgeheugen te houden, schrijft Crypto Briefing.
Geheugen en batterij als rem
Het grootste probleem is geld. DRAM is flink duurder geworden door de vraag vanuit AI-datacenters, iets wat geheugenmakers als Samsung een recordwinst opleverde. Een telefoon met genoeg geheugen voor zo’n model wordt dus duur. Daar komt de batterij bij: een model dat de hele dag rekent, trekt veel meer stroom en maakt meer warmte dan een model dat af en toe een vraag beantwoordt. In de reacties op Techmeme was dat precies het punt waar lezers het meest aan twijfelden.
Lokaal draaien heeft wel duidelijke voordelen. Je data verlaat het toestel niet, antwoorden komen sneller en je bent niet afhankelijk van een verbinding. Die beweging zie je ook buiten de telefoon, bijvoorbeeld bij EmbeddingGemma 2 van Google, dat foto’s en audio op het apparaat zelf doorzoekt, en bij de Surface Laptop Ultra met NVIDIA RTX Spark.
Wat betekent dit
Voor wie in 2026 een telefoon koopt, verandert er nog niets. Het verhaal van Amon gaat over 2028 en is een wensenlijst van klanten, geen productbelofte. Toch zegt het iets over de richting. Partijen als OpenAI willen niet langer alleen een app op andermans telefoon zijn, ze willen het hele apparaat. Lukt dat, dan wordt de vraag welk model je gebruikt net zo belangrijk als de vraag welk merk telefoon je koopt. De rekening voor het geheugen komt dan wel bij de consument terecht.
