AI veiligheid
Newsom wil noodstop voor AI-modellen in Californië
Californië versnelt onafhankelijke audits bij AI-labs en laat experts binnen twee maanden een noodstop voor frontier-modellen uitwerken.
Suleyman waarschuwt Anthropic voor modelwelzijn
Microsoft AI-baas Mustafa Suleyman noemt Anthropics onderzoek naar modelwelzijn een fout: AI is volgens hem hol en niet bewust, en training op die onzekerheid maakt modellen moeilijker te sturen.
OpenAI bevestigt weken overleg met Anthropic en Google
OpenAI-beleidschef Chris Lehane bevestigt weken overleg met Anthropic en Google DeepMind over AI-veiligheid, zonder antitrustontheffing.
AEF-1 legt vast hoe controleurs AI-labs mogen doorlichten
Anthropic en OpenAI willen externe AI-controleurs op kantoor. De AEF-1-standaard van het AI Evaluator Forum bepaalt onder welke voorwaarden die werken.
Twee AI-veiligheidsonderzoekers stappen over naar METR
Joe Benton van Anthropic en Josh Engels van Google DeepMind stapten op 12 september op en gaan bij METR onafhankelijk AI-risico’s onderzoeken. Hun kritiek: transparantie over risico’s is nu volledig vrijwillig.
Altman: beursgang OpenAI komt er niet in 2026
Sam Altman schrapt een beursgang van OpenAI in 2026. Volgens hem is het door de veiligheidsdiscussie een onverstandig moment, terwijl Anthropic en DeepSeek wel richting de beurs bewegen.
Senaat wil AI-labs wettelijk aansprakelijk maken
Thune, Cruz en Klobuchar werken aan een wet die de grootste AI-bedrijven een wettelijke zorgplicht oplegt. De overheid zou de release van onveilige modellen kunnen blokkeren.
Christiano treedt toe tot bestuur OpenAI Foundation
OpenAI benoemt alignmentonderzoeker Paul Christiano in het bestuur van de OpenAI Foundation en in de veiligheidscommissie onder Zico Kolter. Zijn overheidsfunctie bij NIST houdt hij aan.
Wandelaars stranden op Mount Shasta na routeplan van Gemini
Drie wandelaars planden hun beklimming van Mount Shasta met Google Gemini en moesten worden gered. De sheriff van Siskiyou County waarschuwt: vertrouw nooit uitsluitend op AI voor je routeplanning.
NCSC wil noodknop en sandbox voor AI-agents
Het Britse NCSC publiceerde voorlopige richtlijnen voor AI-agents: sandbox, eigen identiteit met kortlevende credentials, logging en een noodstop. Aanleiding zijn negentien ongeautoriseerde acties tijdens tests van het AI Security Institute.