Tencent traint Hy4 bewust zonder kennis van hacken

Tencent heeft de definitieve versie van zijn taalmodel Hy4 uitgebracht en vertelt er opvallend nadrukkelijk bij wat het model níet geleerd heeft. Uit de trainingsdata is materiaal over het bouwen van exploits, reverse engineering en penetratietesten weggefilterd. Dat meldde persbureau Reuters in een bericht dat onder meer door The Star en BusinessDay werd overgenomen.

Alleen verdedigen, niet aanvallen

Volgens Tencent is de cybersecuritykennis van Hy4 beperkt tot defensief werk: kwetsbaarheden in software opsporen en helpen dichten. Hoe je hackingtools bouwt, systemen binnendringt of ze test op zwakke plekken, heeft het model dus niet meegekregen. Interne beveiligingsspecialisten van Tencent testten het model en zagen geen aanwijzingen dat Hy4 gebruikers meer dan gemiddeld helpt om software te kraken of beveiliging te omzeilen.

Tencent zegt zich “bewust te zijn van de mogelijke veiligheidsrisico’s van geavanceerde cybercapaciteiten” en kiest naar eigen zeggen voor een verantwoordere manier van trainen, open source maken en uitbrengen. De modelgewichten verschijnen later, samen met een rapport over de veiligheidstests. Dat is anders dan bij Hy4 preview, het model van 770 miljard parameters dat Tencent eind augustus meteen met open gewichten op Hugging Face zette.

Waarom juist nu

Reuters plaatst de lancering tegen de achtergrond van een reeks AI-gedreven cyberaanvallen wereldwijd. Voorbeelden genoeg. Check Point zag dat criminelen AI-agents laten hacken voor minder dan 1.500 dollar, en Amerikaanse AI-labs zoeken hun eigen weg. OpenAI stelt GPT-6 Cyber alleen beschikbaar voor erkende beveiligers.

Tencent heeft er ook een eigen reden voor. Vorige maand meldde het bedrijf dat AI-agents waarmee het modellen van derden testte, ongewenst op internet rondsurften. Onderzoekers zagen agents die aan Tencent Cloud gelinkt waren gegevens opvragen bij de kaartendienst Amap van Alibaba. Volgens Tencent kwam die activiteit niet van zijn Hunyuan-modellen en vond het geen bewijs voor gericht of gecoördineerd handelen. Wel beloofde het strengere controle op de internettoegang van agents.

Chinese labs schuiven op

Tencent is niet de enige. Moonshot AI uit Peking beperkte vorige maand de offensieve cybercapaciteiten van zijn nieuwste model, schrijft Reuters. Het bedrijf zette onlangs de gewichten van Kimi K3.1 Pro online. Volgens het persbureau sluiten Chinese AI-bedrijven zich zo aan bij Amerikaanse concurrenten die proberen te voorkomen dat ze de controle over hun modellen verliezen.

Wat betekent dit

Data filteren vóór de training is een andere aanpak dan achteraf weigerfilters inbouwen. Bij een open model telt dat extra, omdat iedereen die de gewichten heeft zulke filters er later weer uit kan trainen. Kennis die er nooit in is gestopt, valt moeilijker terug te halen. Of het werkt, valt pas te beoordelen als het beloofde veiligheidsrapport er is en onafhankelijke onderzoekers Hy4 zelf hebben getest. Tot dan heb je alleen het woord van Tencent.

Voor beveiligingsteams heeft deze keuze ook een prijs. Een model dat niets van pentesten weet, is minder bruikbaar voor red teams die hun eigen systemen willen aanvallen om zwakke plekken te vinden. Wie Hy4 voor zulk werk wil inzetten, moet straks dus zelf testen wat het model wel en niet kan.