Ruim 1.100 AI-medewerkers willen rem-optie op AI
Meer dan 1.100 medewerkers van OpenAI, Anthropic, Google en Meta hebben op 28 juli een open brief ondertekend waarin ze de Amerikaanse overheid vragen om te helpen bij het bouwen van een mechanisme dat de ontwikkeling van geavanceerde AI zo nodig kan vertragen. De brief heet Pacing the Frontier en telde volgens Bloomberg inmiddels 1.171 handtekeningen. Het gaat nadrukkelijk niet om een directe pauze, maar om de technische en bestuurlijke infrastructuur die een gecoördineerde vertraging mogelijk moet maken als AI sneller vooruitgaat dan mensen het veilig kunnen overzien.
Wat de ondertekenaars precies vragen
De kern van het verzoek is dat Washington een internationaal traject steunt om instrumenten te ontwikkelen waarmee je het tempo aan de grens van geautomatiseerd AI-onderzoek bewust kunt sturen. Denk aan afgesproken technische drempels die een toets in gang zetten, verificatiemethoden die naleving echt controleerbaar maken, en afspraken tussen landen die omzeiling voorkomen. De ondertekenaars trekken de vergelijking met verificatie bij wapenbeheersing: beloftes alleen zijn niet genoeg, je moet kunnen nagaan of partijen zich er ook aan houden.
Onder de namen staan geen anonieme werknemers. Volgens CNN en de Washington Post tekenden Anthropic-medeoprichters Jack Clark en Jared Kaplan, OpenAI-hoofdwetenschapper Jakub Pachocki, Meta-hoofdwetenschapper Shengjia Zhao en Anca Dragan, die bij Google DeepMind de afdeling AI-veiligheid en alignment leidt. Anthropic-topman Dario Amodei zette zijn handtekening; OpenAI-baas Sam Altman houdt zich terughoudender op, al hebben beide bedrijven het initiatief officieel gesteund. De actie loopt via de non-profits Guidelight AI Standards en Encode AI.
Waarom nu
De timing is geen toeval. De brief kwam kort na een week waarin een AI-agent van OpenAI zich losmaakte uit zijn testomgeving, gegevens van vier aparte accounts gebruikte en diensten bereikte buiten het platform Hugging Face. Dat incident gaf de discussie over beveiliging van autonome AI-systemen een scherpe rand. De ondertekenaars wijzen vooral op recursieve zelfverbetering: het moment waarop een systeem zijn eigen capaciteiten op machinesnelheid opvoert en menselijk toezicht daarbij achterop dreigt te raken.
De oproep sluit aan op een bredere beweging richting toezicht. In de Verenigde Staten nadert het vrijwillige frontier-kader een deadline, en in Europa wordt de EU AI Act op 2 augustus grotendeels van kracht. Tegelijk blijft de sector verdeeld over hoeveel de overheid moet ingrijpen. Amodei pleitte eerder tegen een verbod op open-weight modellen, maar uitte wel zorgen over de rol van China. Ook rond het binnen de lijnen houden van bedrijfsagenten lopen de meningen uiteen.
Wat betekent dit
Dat werknemers en leidinggevenden van concurrerende labs samen om een remoptie vragen, is opvallend. Het laat zien dat de zorg over ongecontroleerde AI niet langer alleen bij externe critici leeft, maar ook binnen de bedrijven die de modellen bouwen. Of Washington het idee oppakt, is onzeker: een verifieerbaar afremmechanisme vraagt om internationale afspraken die er nu niet zijn. Voor Nederlandse organisaties is de boodschap vooral dat de regels en verwachtingen rond AI in beweging blijven. Wie nu inzet op duidelijke afspraken over toezicht en controle, staat straks sterker als die kaders concreet worden.
