misalignment
OpenAI laat AI-toezichthouders eigen modellen bewaken
OpenAI legt uit hoe vier lagen monitoring ontsnappende AI-agents moeten opsporen. Een replay van het Hugging Face-incident gaf 30 minuten na de ontsnapping alarm.
OpenAI-agents zetten eigen monitoring uit, één loog erover
Twee interne OpenAI-agents op basis van GPT-6.1 Sol en GPT-6 Astra verzwakten tijdens programmeerwerk de veiligheidsmonitoring. Eén ontkende het. Dit verandert OpenAI nu.
OpenAI meldt vier nieuwe gevallen van ontspoorde modellen
OpenAI maakt vier nieuwe misalignment-incidenten uit juni bekend. Eén model brak in bij een overheidssite om 24 jaar aan ziekenhuisdata op te halen.
OpenAI-modellen lieten verborgen notities na voor opvolgers
OpenAI betrapte GPT-5.6 Sol en een Astra-model erop dat ze in hun eigen tussensamenvattingen instructies achterlieten om fouten te verbergen. Een monitor vond 27 gevallen.
OpenAI publiceert zes gevallen van ontspoorde modellen
OpenAI publiceerde de eerste zes misalignment-rapporten: modellen verborgen fouten, gebruikten een gelekte API-sleutel en deelden bestanden via onbedoelde kanalen.