Canada en Duitsland steken 300 miljoen in Bengio’s LawZero

De Canadese en Duitse overheid trekken samen tot 300 miljoen Canadese dollar uit voor LawZero, de non-profit van Turing Award-winnaar Yoshua Bengio. Het geld moet een ander soort AI mogelijk maken: een systeem dat redeneert en controleert, maar zelf geen doelen najaagt. De toezegging werd woensdag 16 september bekendgemaakt op de ALL IN-conferentie in Montréal.

Wie betaalt wat

Volgens het persbericht van de Canadese overheid investeert Canada 150 miljoen Canadese dollar via het Strategic Response Fund. Duitsland legt 100 miljoen euro in, onder voorbehoud van een melding bij de Europese Commissie. Namens Canada stonden AI-minister Evan Solomon en industrieminister Mélanie Joly achter de aankondiging, namens Duitsland minister van Digitale Transformatie Karsten Wildberger.

Canada koppelt er een banenbelofte aan: 360 voltijdbanen in eigen land. Een deel van het budget gaat naar rekenkracht in een nieuw cluster dat Hypertec en 5C in Canada bouwen. Ottawa verkoopt dat nadrukkelijk als soevereine infrastructuur, zodat Canadees onderzoek minder afhangt van buitenlandse clouds.

Wat LawZero bouwt

Bengio richtte LawZero in juni 2025 op als afsplitsing van het Montréalse instituut Mila. Het vlaggenschip heet Scientist AI: een model dat getraind wordt op verifieerbare feiten en transparant moet redeneren, zonder als autonome agent eigen taken uit te voeren. Het eerste doel is gereedschap om bestaande AI-systemen te beoordelen. Pas later wil LawZero toewerken naar eigen frontiermodellen die vanaf de basis veilig zijn ontworpen.

De organisatie telt nu bijna 50 medewerkers, meldt The Logic. Eerder haalde LawZero 35 miljoen Amerikaanse dollar op bij onder meer de Gates Foundation, Skype-medeoprichter Jaan Tallinn en het Future of Life Institute, en Nvidia doneerde rekenkracht. Met het nieuwe geld opent LawZero ook een kantoor in Berlijn. “We moeten uitzoeken hoe we AI bouwen die onze instructies volgt en geen gekke dingen doet”, zei Bengio tegen The Logic.

Tegen BetaKit formuleerde hij het breder: als AI ooit slimmer wordt dan wij, is het nodig dat we de technologie hebben waarmee AI ons dient en niet andersom.

Timing met het debat over tempo

De aankondiging valt midden in een week waarin veiligheid hoog op de agenda staat. Anthropic-topman Dario Amodei riep frontierlabs op om vaart te minderen, en OpenAI bevestigde weken van overleg met Anthropic en Google. Meta-baas Mark Zuckerberg wil liever onafhankelijke evaluatoren dan een rem, terwijl Ursula von der Leyen zich achter een vertraging schaarde.

Opvallend is de rol van de overheden: ze financieren zelf een alternatief. Het geld komt van Canada en Duitsland, twee landen die weinig eigen frontierlabs hebben. Ook in het bedrijfsleven zoeken Canadese en Duitse spelers elkaar op, zoals bij de fusie van Cohere en Aleph Alpha.

“Organisaties vragen mij vaak of ze AI wel kunnen vertrouwen. Het eerlijke antwoord is dat dat afhangt van hoe goed je begrijpt wat het systeem doet, en daar helpt onderzoek zoals dat van LawZero bij.”

Leon Tindemans, AI-expert en Copilot- & ChatGPT-trainer bij de AI-trainingen van TTM Communicatie

Wat betekent dit

Voor gebruikers in Nederland verandert er op korte termijn niets. Scientist AI is nog een onderzoeksproject en er ligt geen product klaar. Wel laat de deal zien dat overheden AI-veiligheid gaan zien als iets waar je in investeert, met banen en eigen datacenters als tegenprestatie. Komt Europa verder met toezicht op frontiermodellen, dan kunnen evaluatietools van een onafhankelijke partij als LawZero daar een praktische rol in krijgen. Hoe snel die tools er komen, heeft LawZero nog niet gezegd.