Californië stuurt 26 AI-wetten naar Newsom

De Californische wetgever heeft in de slotweek van de zittingsperiode 26 wetsvoorstellen over AI en sociale media aangenomen, meldt NBC News. Gouverneur Gavin Newsom heeft tot en met 30 september om ze te tekenen of te blokkeren. Het pakket raakt vooral chatbots, kinderen en de zorg, en het gaat verder dan wat er tot nu toe in andere staten ligt.

Chatbots krijgen leeftijdscontrole en aansprakelijkheid

SB 1119 verplicht leeftijdsverificatie voor chatbots die door minderjarigen gebruikt worden en beperkt reclame richting kinderen. AB 2 gaat een stap verder: platforms en AI-chatbots worden financieel aansprakelijk als ze kinderen niet beschermen tegen schade. AB 1709 verbiedt verslavende functies zoals automatisch doorspelende video’s voor gebruikers onder de 16.

Senator Steve Padilla, een van de indieners, zei dat Californië “het regelgevende vacuüm opvult om onze kinderen te beschermen en te voorkomen dat de sociale-mediaramp zich herhaalt”. Dat frame keert in bijna elk voorstel terug: niet wachten tot het misgaat, maar vooraf een drempel leggen.

Zorg en onderwijs blijven mensenwerk

SB 903 beperkt therapie en psychotherapie tot bevoegde professionals en verbiedt daarmee chatbots als behandelaar. AB 1979 scherpt aan hoe zorgverleners AI en chatbots mogen inzetten, met nadruk op medisch beroepsgeheim. Dat sluit aan bij eerder onderzoek waarin chatbots patiënten te snel geruststelden bij serieuze klachten.

SB 928 legt vast dat docenten aan de California State University mensen moeten zijn. AI in de les mag wel, maar een model kan geen instructeur van record zijn. In Los Angeles ging het schoolbestuur eerder al een andere kant op met een verbod op AI-tools op schoolapparaten.

Werkvloer, prijzen en privacy

AB 1883 verbiedt werkgevers om AI-surveillance in te zetten die de “emotionele toestand” van werknemers meet. AB 2564 verbiedt winkeliers bepaalde vormen van surveillance pricing, waarbij prijzen per klant worden aangepast op basis van persoonlijke data. Die twee liggen naast de arbeidswet die eerder deze maand naar Newsom ging en ontslag op basis van alleen een algoritme verbiedt.

Advocatenkantoor Venable telt daarnaast negen privacy- en AI-voorstellen die eind augustus naar de gouverneur zijn gestuurd, waaronder SB 1000 over herkomstinformatie bij AI-content en AB 1609, dat chatbots verplicht zich als chatbot bekend te maken en een route naar een mens te bieden. De meeste bepalingen zouden op 1 januari 2027 ingaan.

Wat betekent dit

Californië huisvest OpenAI, Google, Anthropic en Meta, dus wat daar wordt getekend wordt in de praktijk het minimumniveau voor Amerikaanse producten. Voor Nederlandse organisaties telt vooral de richting: leeftijdscontrole, disclosure en een aanspreekbare mens achter het systeem zijn dezelfde eisen die uit de EU AI Act komen rollen. Wie een chatbot naar klanten of leerlingen stuurt, kan er beter van uitgaan dat die eisen binnen een jaar overal gelden. Newsom heeft er nog drie weken over te beslissen, en hij heeft in het verleden vaker de scherpste voorstellen teruggestuurd. Ook Massachusetts werkt aan eigen AI-regels, met stevige lobby van de grote labs.