Oud-Anthropic-onderzoeker: ‘We kunnen AI niet controleren’
Voor het eerst stonden bestuurders van Anthropic, OpenAI, Google en Meta onder ede tegenover een volledige gemeenteraad. De hoorzitting in het stadhuis van New York duurde maandag uren, maar de scherpste woorden kwamen van iemand zonder bedrijf achter zich: Jacob Coxon, die vorige maand bij Anthropic vertrok.
Coxon: “We weten nog niet hoe we AI moeten controleren”
Coxon verscheen op uitnodiging van raadsvoorzitter Julie Menin, die AI-klokkenluiders actief opriep om te komen getuigen. Volgens CNBC noemde hij de aanpak van de sector “extremely reckless”. Hij zei dat het op het huidige pad waarschijnlijker is dan niet dat de mensheid de controle over AI verliest, met uitsterven als mogelijk gevolg. “We do not know how to control any AI system yet”, citeert Bloomberg hem.
Zijn oplossing gaat verder dan wat de raad op tafel heeft. Een killswitch kan op korte termijn helpen, zei Coxon, maar is op de lange duur onvoldoende. Hij pleitte voor “some kind of slowdown” in de ontwikkeling van frontier-modellen. Opvallend genoeg vertrok hij in dezelfde periode als OpenAI-veiligheidsman David Robinson.
Wat de bedrijven zeiden
De vier bedrijven stuurden geen topbestuurders. Anthropic liet Logan Graham, hoofd van het Frontier Red Team, getuigen. OpenAI stuurde Morgan Dwyer (beleidsontwikkeling), Google beleidsdirecteur Alice Friend en Meta Shane Cahill, die over AI-wetgeving gaat. Dat ze er zaten was geen vanzelfsprekendheid. Eind september dreigde Menin met dagvaardingen, zoals wij eerder meldden in New York dwingt OpenAI en Anthropic naar hoorzitting.
Menin stelde de vraag waar het de raad om draait: als een frontier-model ontspoort en financiële schade, een datalek, letsel of doden veroorzaakt, is het bedrijf dan juridisch aansprakelijk? Volgens CBS New York kwamen de antwoorden vooral neer op algemene toezeggingen. Dwyer zei dat OpenAI “takes its responsibility for safety very seriously”. Cahill kon desgevraagd het risico niet kwantificeren, omdat hij het raamwerk van Meta “niet voor zich had”. Menin noemde dat “troubling at best”.
Het bedrijf van Elon Musk kwam helemaal niet opdagen. amNY meldde op 28 september dat de raad het een dagvaarding stuurde. Volgens CBS New York weigerde het bedrijf alsnog en stapt de stad nu naar de rechter.
Tien wetsvoorstellen op tafel
De hoorzitting hoort bij een pakket van inmiddels tien voorstellen. Het belangrijkste, van Menin zelf, verbiedt verkoop of inzet van een AI-model in de stad zolang een externe validator het niet heeft gekeurd en een mens het niet kan uitschakelen. Wij beschreven die plannen in New York eist keuring en killswitch voor AI. Andere voorstellen gaan over privacy bij chatbots en nepbeelden van ambtenaren.
“Een killswitch klinkt geruststellend, maar de meeste risico’s ontstaan veel eerder: bij medewerkers die niet weten wat een model met hun gegevens doet. Wie AI veilig wil inzetten, begint bij de mensen die er dagelijks mee werken.”
Leon Tindemans, AI-expert en Copilot- & ChatGPT-trainer. Lees meer over zijn ChatGPT-training.
Wat betekent dit
New York laat zien dat een gemeenteraad AI-bedrijven onder ede kan laten antwoorden. Dat contrast met Washington is groot. Daar koos het Witte Huis eerder voor zelfregulering door de AI-sector en een eigen Super Intelligence Force. Neemt de raad de keuringsplicht aan, dan moeten Anthropic en OpenAI voor het eerst een lokale toets doorstaan voordat hun modellen in de stad mogen draaien. Voor Europese bedrijven die al met de EU AI Act werken, is dat een bekend patroon.
