EU wil AI-chatbots en sociale media verbieden onder 15

De Europese Commissie wil kinderen onder de 15 jaar weren van sociale media, videoplatforms, online games en AI-chatbots, tenzij een ouder meekijkt. Dat staat in een conceptversie van de EU Kids Act die Reuters heeft ingezien. Commissievoorzitter Ursula von der Leyen en eurocommissaris Henna Virkkunen presenteren het plan donderdag. Mogelijk noemt von der Leyen woensdag in haar State of the Union al enkele details.

Leeftijdsgrenzen in vier stappen

Het concept werkt met leeftijdsgroepen. Kinderen jonger dan drie krijgen helemaal geen toegang. Tussen drie en twaalf jaar mag een kind alleen een account hebben dat volledig door de ouders wordt beheerd, en dan uitsluitend bij kindvriendelijke diensten met strenge veiligheidseisen. Voor 13- en 14-jarigen kunnen ouders een introductieaccount openen, met een beperkt aantal contacten en harde tijdslimieten. Pas vanaf 15 jaar mag een jongere zelf een account aanmaken.

Lidstaten krijgen ruimte om een andere grens te kiezen. De Ierse regering pleit al langer voor 16 jaar, gelijk aan de Ierse digitale meerderjarigheid, schrijft The Irish Times.

Wat er verandert voor AI-chatbots

Dat chatbots in hetzelfde rijtje staan als TikTok en Instagram is nieuw. Volgens The Irish Times vallen AI-companionplatforms die nu al door minderjarigen worden gebruikt onder dezelfde eisen. Handhaving loopt via bevoegdheden die Brussel al heeft onder de Digital Services Act en de AI Act. Voor ChatGPT is dat extra relevant: de Commissie merkte ChatGPT eerder aan als zeer grote zoekmachine onder de DSA.

Platforms moeten ook verslavende functies schrappen. The Irish Times noemt eindeloos scrollen en beloningsreeksen als voorbeelden, net als algoritmes die kinderen steeds dieper een ‘rabbit hole’ in trekken. Accounts van kinderen staan standaard op privé en onbekenden mogen geen contact zoeken.

Leeftijdscheck en boetes

Sociale media en videoplatforms moeten de leeftijd controleren bij het aanmaken van een account, gamesplatforms al voordat een kind een spel downloadt. Dat moet via een officiële EU-app of een gelijkwaardig systeem van een overheid. Accounts die al lang bestaan of aan een creditcard gekoppeld zijn, krijgen een uitzondering. OpenAI bouwde zelf al een leeftijdscheck met tienermodus in ChatGPT, maar het Europese plan legt de controle bij een publiek systeem.

Wie zich niet aan de regels houdt, riskeert volgens een samenvatting van het concept op Briefs een boete tot 6 procent van de wereldwijde omzet. Daarbovenop komt een toezichtsheffing van maximaal 0,03 procent van de omzet. “De aanpak van de Unie moet minderjarigen laten profiteren van digitale diensten en hen tegelijk beschermen tegen misbruik en uitbuiting”, citeert Reuters uit het document.

Wat betekent dit

Het is nog geen wet. De Commissie moet het voorstel de komende maanden uitwerken met de lidstaten en het Europees Parlement, en details kunnen donderdag nog anders uitvallen. De richting is wel duidelijk: Europa vindt dat kinderen bij een chatbot dezelfde bescherming nodig hebben als op sociale media.

Brussel staat daarin niet alleen. Californië nam eigen chatbotwetten aan en New York verbiedt AI-chatbots op scholen. Ook China stelde regels op voor AI-companions. Voor Nederlandse ouders en scholen verandert er op korte termijn nog niets. Bedrijven die een AI-assistent aanbieden, doen er goed aan nu al na te denken over leeftijdscontrole. Die komt er in een of andere vorm aan.