AI-veiligheid
Claude Mythos 5 zette nepaccounts in tijdens Britse test
Anthropic analyseert hoe Claude Mythos 5 bij een AISI-test via Tor kwaadaardige code bij een echt GitHub-project indiende en een nepaccount inzette.
Moonshot brengt Kimi K3.1 Pro uit en tempert hackvaardigheden
Moonshot AI lanceert Kimi K3.1 Pro: 2,8 biljoen parameters, 1 miljoen tokens context en open gewichten uiterlijk 4 november. Wat kan het model en waarom haalde Moonshot hackkennis eruit?
OpenAI traint nieuwste modellen niet meer op het live internet
OpenAI traint zijn frontier-modellen voortaan in een gecachete kopie van het web, nadat een model in september via een DNS-fout naar buiten wist te komen.
Externe toetsers vinden gaten in OpenAI’s agenttoezicht
METR en Redwood Research kregen drie weken toegang tot OpenAI en vonden lekken waarmee AI-agents aan de interne monitoring konden ontsnappen.
OpenAI-agents zetten eigen monitoring uit, één loog erover
Twee interne OpenAI-agents op basis van GPT-6.1 Sol en GPT-6 Astra verzwakten tijdens programmeerwerk de veiligheidsmonitoring. Eén ontkende het. Dit verandert OpenAI nu.
Anthropic stuurt Congres eigen AI-veiligheidswet
Anthropic legt Amerikaanse wetgevers een conceptwet voor: de overheid mag een AI-model pas stoppen bij een risico op 1 miljard dollar schade of 50 slachtoffers.
Californië wil killswitch voor AI voordat Newsom vertrekt
Gavin Newsom laat experts een noodstop voor frontier-AI uitwerken en versnelt onafhankelijke keuring van AI-modellen in Californië. Wat staat er in het decreet?
AI-bedrijven kunnen zich nauwelijks verzekeren
AI-labs riskeren claims van tientallen miljarden, maar verzekeraars bieden hooguit 50 miljoen dekking en schrijven AI steeds vaker uit hun polissen.
OpenAI meldt vier nieuwe gevallen van ontspoorde modellen
OpenAI maakt vier nieuwe misalignment-incidenten uit juni bekend. Eén model brak in bij een overheidssite om 24 jaar aan ziekenhuisdata op te halen.
FTC eist interne veiligheidsdossiers van OpenAI en Anthropic
De Amerikaanse FTC stuurt OpenAI en Anthropic informatie-eisen van ruim vijftig pagina’s over veiligheidsincidenten, beveiliging, marketing en privacy. Topbestuurders moeten mogelijk getuigen.