Microsoft-regels voor AI op Amerikaanse scholen gaan in

Vanaf vandaag, 1 november, gelden in alle Amerikaanse schoolcontracten van Microsoft nieuwe regels voor AI. Leerlingdata mag niet meer worden gebruikt om AI-modellen te trainen, leerlingen mogen niet worden gevolgd en een AI-systeem neemt geen beslissingen zonder dat er een mens meekijkt. De afspraken komen uit onderhandelingen met de grote Amerikaanse lerarenbonden.

Wat er in de standaard staat

De afspraak heet de National AI Safety & Privacy Standard. Microsoft presenteerde hem op 9 september in New York samen met Randi Weingarten, voorzitter van de American Federation of Teachers (AFT), en Michael Mulgrew van de New Yorkse bond UFT. Volgens de aankondiging van Microsoft mogen gegevens van leerlingen en docenten ook niet worden verkocht of voor andere doelen worden hergebruikt. Scholen bepalen zelf hoe lang data bewaard blijft en wanneer die wordt gewist. Ouders en docenten krijgen in begrijpelijke taal uitleg over hoe de tools werken en welke gegevens ze verzamelen.

Het Noorse keuringsbedrijf Nemko zet de regels in een overzicht op een rij. Daarin valt één punt op: AI-companions en functies die erop gericht zijn emotionele binding te creëren of leerlingen langer dan nodig aan het scherm te houden, zijn verboden. Dat sluit aan bij de discussie over tieners die troost zoeken bij AI-chatbots.

Afdwingbaar via het contract

Een wet is het niet. De standaard is een contractueel kader: schooldistricten kunnen de bepalingen opnemen in hun klantovereenkomst met Microsoft, waarna ze juridisch afdwingbaar zijn. Mulgrew zei bij de presentatie dat districten daarmee contracten kunnen ontbinden en schadevergoeding kunnen eisen van “bad actors who break the rules”. Weingarten was stellig over het alternatief: “anything less than legally enforceable provisions is simply a wish list.” De bestaande privacywetten HIPAA en FERPA “never envisioned the advent of AI”, aldus de bondsvoorzitter.

Brad Smith, vicevoorzitter en president van Microsoft, beloofde de afspraak uit te breiden naar elk schooldistrict in de Verenigde Staten. Volgens Nemko zijn onafhankelijke audits onderdeel van het kader.

Wat doen OpenAI en Google?

Volgens persbureau AP praten OpenAI en Anthropic met de AFT over vergelijkbare afspraken. Google heeft nog niet gezegd of het iets soortgelijks gaat bieden. Josh Golin van de kinderrechtenorganisatie Fairplay zei tegen AP dat de standaard pas werkt als andere AI-bedrijven meedoen. Hij vindt ook dat de vraag of AI in de klas thuishoort, en vanaf welke leeftijd, buiten beeld blijft.

Die kritiek is terecht. Weingarten pleitte in mei zelf nog voor een verbod op AI voor leerlingen op de basisschool en op sociale chatbots voor kinderen onder de 16. Eind oktober ging New York al een stap verder met een wet die chatbots verbiedt de vriend van kinderen te spelen.

Wat betekent dit?

Voor Nederlandse scholen verandert er formeel niets: de afspraak geldt alleen voor Amerikaanse contracten. Toch is het een interessant model. Hier regelt de EU AI Act veel van deze onderwerpen per wet, maar de vraag of een leverancier leerlingdata voor training gebruikt, staat in de praktijk vaak gewoon in de verwerkersovereenkomst. De Amerikaanse bonden laten zien dat je daar als koper hard over kunt onderhandelen. Het principe van een menselijke beslisser zie je ook in Europa terug, bijvoorbeeld in Italië, waar ontslag door AI nietig is. Of Microsoft dezelfde voorwaarden ook buiten de VS gaat aanbieden, heeft het bedrijf niet gezegd.