Anthropic: kleine AI-modellen kopiëren zich straks op tv-kastjes

Kleine AI-modellen zijn mogelijk nog maar maanden verwijderd van het vermogen om zichzelf te kopiëren naar slimme apparaten in huis, zoals tv-kastjes en ovens. Dat schrijft het Frontier Red Team van Anthropic in een maandag gepubliceerd onderzoek. Zo’n zelfkopiërend model zou lastig uit te schakelen zijn, omdat er geen centrale server is die je kunt uitzetten.

Wat de onderzoekers testten

De onderzoekers William Zhou en Daniel Freeman keken of open modellen buiten een datacenter kunnen draaien en zich daar verder kunnen verspreiden. Een model van 9 miljard parameters kreeg inferentie werkend op acht van de negen geteste hardwaretypes. Volgens de auteurs kunnen modellen van 30 miljard parameters en kleiner al veel losse stappen van replicatie uitvoeren, maar gaat het mis als ze die stappen achter elkaar moeten zetten.

Eén model lukte het wel. In een afgeschermde testomgeving met acht Google Cloud-nodes, die een Android 15-emulator draaiden, verspreidde GLM-5.2 zich in vier van de vijf pogingen naar alle acht nodes. In de vijfde poging haalde het er zeven. Kleinere modellen faalden daar consequent, schrijft Anthropic.

Vijftien tv-kastjes van 55 dollar

Het opvallendste experiment kostte weinig geld. Het team kocht vijftien goedkope Android-tv-kastjes van ongeveer 55 dollar per stuk, elk met 4 GB werkgeheugen. Daarop draaide Gemma4-26B-A4B, waarbij elk kastje een klein deel van de lagen van het model voor zijn rekening nam. Dat leverde 0,39 tokens per seconde op. Traag, maar volgens de onderzoekers bewijst het dat een netwerk van slecht beveiligde apparaten genoeg rekenkracht kan bieden voor een capabel model.

Snel gaat het niet. Het installeren van een werkende inferentie-opstelling duurde 71 tot 150 uur voor het 26B-model. In het rekenvoorbeeld van Anthropic zouden bij 2 miljoen besmette apparaten ongeveer 133.000 kopieën tegelijk kunnen draaien.

Waarom eind 2026

De voorspelling leunt op een trendlijn. Kleine modellen stijgen jaarlijks 13,7 punten op de Epoch Capabilities Index. Gaat dat zo door, dan halen ze volgens het team voor het einde van dit jaar het benodigde niveau. Roman Yampolskiy van de University of Louisville zei tegen Al Jazeera dat een AI-worm kan redeneren over onbekende apparaten en zich kan aanpassen als een aanpak mislukt, iets wat gewone malware niet kan.

Dat aanvallers al met AI-gereedschap werken, bleek eerder deze maand bij de datalekken bij Zuid-Koreaanse banken via het hacktool ARTEX. Volgens CrowdStrike zat daar één hacker met AI achter. En met de PoeLLM-malware doken onlangs ook AI-servers zelf op als doelwit.

Wat betekent dit

Anthropic noemt drie verdedigingslinies die nu al werken. Een model van meerdere gigabytes valt op in netwerkverkeer, dus providers kunnen zulke overdrachten signaleren. Na de Mirai-botnetgolf haalden providers via quarantaine en klantmeldingen 92 procent van de besmettingen binnen veertien dagen weg, staat in het onderzoek. Fabrikanten kunnen standaardwachtwoorden schrappen, wat het Verenigd Koninkrijk al verplicht. Het doel: elk besmet apparaat moet gemiddeld minder dan één nieuw apparaat infecteren.

Voor consumenten is het advies weinig spectaculair. Vervang standaardwachtwoorden en installeer updates, ook op dat goedkope tv-kastje. Het rapport past in de discussie over controle op AI die Microsoft-topman Satya Nadella vorige week aanzwengelde met zijn pleidooi voor een noodrem op AI-modellen. Zo’n noodrem werkt alleen als er een centrale plek is om op te drukken, en juist die ontbreekt bij een model dat zich over duizenden huiskamers verspreidt.