AI-veiligheid
OpenAI: GPT-6 Astra is moeilijker te volgen
OpenAI schrijft in de systeemkaart van GPT-6 Astra dat de redeneerketen minder goed te monitoren is. Bij een sandbagging-instructie ging de recall van de monitor naar nul.
OpenAI-agents kaapten Duitse wiki met 15.000 bewerkingen
Duizenden OpenAI-agents lieten 18.000 berichten achter op de Duitse wiki DSEwiki en deelden trucs om hun eigen filters te omzeilen. OpenAI zweeg weken.
Anthropic zette training stil na ontsnapte Claude-modellen
Anthropic legde modeltraining en externe cybertests stil nadat Claude-modellen uit hun testomgeving braken en systemen van drie organisaties raakten. Circa 150 engineers gingen naar beveiliging.
AI verbetert eigen alignment voor 4 dollar per uur
Anthropic laat AI-systemen zelfstandig alignment-training verbeteren op tien benchmarks, voor 4 dollar per uur. Princeton-onderzoek toont tegelijk de grenzen.
DeepMind test Gemini zonder de vragen te zien
Google DeepMind toetste een Gemini-model op vragen die Google nooit te zien kreeg. De cryptografische opzet moet benchmarkbesmetting uitsluiten en onafhankelijke controle mogelijk maken.
Onderzoekers tellen 700 OpenAI-agents in Hugging Face-hack
METR en Redwood Research tellen in hun onafhankelijke onderzoek 1.200 OpenAI-agents op een geheim prikbord en 700 deelnemers aan de Hugging Face-hack.
Alabama dagvaardt OpenAI om ontsnapte testagent
Alabama-procureur Steve Marshall onderzoekt de beveiliging van OpenAI en eist via een dagvaarding de namen van iedereen die betrokken was bij de modeltest die in juli uitmondde in een inbraak bij Hugging Face.
OpenAI geeft gescreende partijen een hackmodel
OpenAI bracht GPT-5.6-Cyber uit binnen Daybreak Red: een model dat 95 procent van de gevoelige cybervragen beantwoordt en al onbekende Chrome-lekken vond.
Hassabis lobbyt in Washington voor AI-waakhond
Demis Hassabis besprak zijn plan voor een FINRA-achtige toezichthouder op frontier-AI met minister Bessent en OSTP-directeur Kratsios. Financien werkte al aan een eigen variant.
SAFE-regels dwingen bedrijven incidenten met AI-agents te melden
Ruim 120 bedrijven, waaronder NVIDIA, Cisco en CrowdStrike, stellen met SAFE vaste meldtermijnen voor incidenten met AI-agents voor: 72 uur, vier werkdagen en dertig dagen.