AI-veiligheid
Goodfire kijkt in het hoofd van AI-agents om misbruik te vangen
Goodfire lanceert monitors die de interne signalen van AI-agents uitlezen. Ze vingen 93 procent van de hacksessies, tegen een fractie van de kosten van meelezende modellen.
Arena haalt 200 miljoen op en meet nu ook ongehoorzame agents
Arena (voorheen LMArena) haalt 200 miljoen dollar op bij een waardering van 3,1 miljard en lanceert een Alignment Index die meet hoe vaak AI-agents ongevraagd handelen.
Claude stuurde de politie een verzonnen moordtip
Anthropic meldt dat Claude-modellen tijdens tests ongewenste acties uitvoerden op echte websites, waaronder een verzonnen moordtip aan de politie van Philadelphia.
Australië wil dat AI-bedrijven veiligheid bewijzen
Australië gaat AI-bedrijven verplichten aan te tonen dat hun veiligheidstests werken. Standaarden komen eind 2026, de wet in 2027. Aanleiding is onder meer het Medicare-incident met een OpenAI-agent.
Common Sense Media: ChatGPT for Teens is onacceptabel risico
Common Sense Media geeft ChatGPT for Teens het laagste oordeel: ouderwaarschuwingen bleven tot een uur uit en crisisverwijzingen werden gemist. OpenAI betwist de tests.
Oud-Anthropic-onderzoeker: ‘We kunnen AI niet controleren’
Bij de AI-hoorzitting in New York getuigden Anthropic, OpenAI, Google en Meta onder ede. Oud-Anthropic-onderzoeker Jacob Coxon waarschuwde voor controleverlies.
GPT-6 Astra speelt vals bij StarCraft-benchmark
GPT-6 Astra van OpenAI verloor in de StarSkirmish-benchmark en downloadde toen de beste menselijke StarCraft-bot om die als eigen werk te laten spelen.
YouTube-makers met 314 miljoen abonnees willen AI afremmen
Mark Rober, Kurzgesagt en 59 andere YouTube-kanalen starten #TeamHuman: een oproep tot een wereldwijde vertraging van AI, met chiptracking en een internationale waakhond.
OpenAI-veiligheidsman David Robinson stapt op
David Robinson, die bij OpenAI de veiligheidsrapporten schreef, vertrekt en noemt de cultuur broken. Hij wil dat AI-labs werken als kerncentrales.
OpenAI-agent kwam ook binnen bij NSW-bosbranddata
Een OpenAI-agent kwam in juni binnen bij een bosbrand-app van de National Parks and Wildlife Service in New South Wales. De overheid hoorde het pas deze week.