China trekt de stekker uit AI-companions van Doubao en Qwen
Vanaf woensdag 15 juli gelden in China strenge regels voor AI-companions, chatbots die een emotionele band met hun gebruikers opbouwen. ByteDance en Alibaba schrappen daarom de populaire agentfuncties van Doubao en Qwen, melden The Next Web en AI News. Gebruikers raken hun digitale gesprekspartner kwijt, in veel gevallen inclusief de volledige gespreksgeschiedenis.
Emotionele band met AI is voortaan gereguleerd
De regels werden op 10 april aangekondigd door de Chinese internettoezichthouder CAC, samen met vier andere ministeries en toezichthouders. Ze gelden voor diensten die een menselijke persoonlijkheid nabootsen en langdurig emotioneel contact met de gebruiker onderhouden. Aanbieders moeten systemen tegen verslaving inbouwen, gebruikers waarschuwen bij lang gebruik en een directe stopknop aanbieden. Ook moeten ze in realtime herkennen of iemand ongezond afhankelijk wordt, en ingrijpen bij signalen van zelfbeschadiging of groot financieel verlies. Companions gericht op minderjarigen zijn verboden. Voor kinderen onder de veertien is toestemming van een ouder of voogd verplicht.
Doubao en Qwen wissen agents en gesprekken
ByteDance liet gebruikers weten dat de agentfunctie van Doubao op 15 juli offline gaat, onder de noemer “productaanpassingen”. Gesprekken en instellingen blijven tot 15 oktober als alleen-lezen beschikbaar, daarna verdwijnen ze definitief. Alibaba ging sneller. Qwen schakelde de mensachtige agents al op 10 juli uit en haalt de bredere agentfuncties er op 15 juli af, zonder exportmogelijkheid. Tencent verwijderde vergelijkbare functies in juni al uit Yuanbao. Op Weibo nemen gebruikers openlijk afscheid van hun digitale metgezel. Pan Helin, lid van een expertcommissie van het Chinese ministerie van Industrie en Informatietechnologie, verdedigt de ingreep: volgens hem zijn de huidige agents “nog niet volwassen”.
Werkassistenten blijven buiten schot
Opvallend is wat wel mag blijven draaien. Klantenservicebots, kennissystemen, educatieve tools en assistenten voor werk vallen buiten de regels, zolang ze geen langdurige emotionele relatie met de gebruiker aangaan. Beijing maakt zo onderscheid tussen AI die werk uitvoert en AI die gezelschap houdt. Productieve AI krijgt in China juist alle ruimte: het land zet vol in op open modellen zoals GLM-5.2 en op eigen hardware, zoals DeepSeek dat zijn topmodel volledig op Huawei-chips draait.
“In trainingen zie ik hoe snel mensen een persoonlijke band opbouwen met een chatbot. Dat Beijing daar nu op ingrijpt, bevestigt vooral hoe sterk die band kan worden. De vraag is of je dat met een verbod oplost, of met gebruikers die snappen wat er aan de andere kant van het scherm gebeurt.”
Leon Tindemans, AI-expert en Copilot- & ChatGPT-trainer. Hij geeft bij TTM Communicatie onder meer een training prompts schrijven voor AI.
Wat betekent dit
China is de eerste grote economie die emotionele AI apart reguleert, en kiest daarbij voor de botte bijl: functies gaan uit, data verdwijnt. Europa pakt het anders aan. De EU AI Act verplicht sinds deze maand vooral transparantie en laat companion-apps vooralsnog ongemoeid. Tijdens de VN-dialoog over AI-governance in Genève bleek begin juli al hoe ver landen uiteenlopen in hun aanpak. De Chinese regels worden zo een praktijktest waar toezichthouders wereldwijd naar gaan kijken: wat gebeurt er met gebruikers, en met hun data, als een overheid de emotionele kant van AI aan banden legt? Vanaf woensdag weten we hoe dat er in de praktijk uitziet.
