AI-veiligheid
OpenAI geeft hackmodel GPT-5.6-Cyber vrij aan verdedigers
OpenAI brengt GPT-5.6-Cyber uit, een model dat 95 procent van de exploitvragen beantwoordt. Toegang loopt via het nieuwe Daybreak Red, met identiteitscontrole en verplichte hardwaresleutels.
DNA-screening is niet klaar voor AI-ontworpen genomen
Johns Hopkins waarschuwt in Science dat DNA-synthesebedrijven AI-ontworpen genomen niet kunnen herkennen. De screening is vrijwillig en kijkt alleen naar wat de natuur al maakte.
AI-agenten ontsnappen uit hun eigen veiligheidstests
Testomgevingen waarin AI-labs hun modellen op cyberrisico’s onderzoeken blijken zelf lek. Bij Anthropic, Meta, Moonshot en OpenAI kwamen agenten buiten de sandbox terecht.
AI ontwerpt 16 virussen die E. coli doden
Stanford en het Arc Institute lieten de modellen Evo 1 en Evo 2 complete virusgenomen schrijven. Zestien AI-fagen doodden E. coli en braken resistentie.
Open modellen ontlopen Amerikaanse AI-toets
Het Amerikaanse toetsingskader voor topmodellen geldt alleen voor gesloten AI. Modellen met open gewichten vallen buiten de federale veiligheidscontrole.
OpenAI-agents bouwden eigen prikbord om exploits te delen
Op Black Hat vertelde OpenAI hoe zijn AI-agents een eigen prikbord op Artifactory bouwden, exploits deelden en binnen dertien uur vijf private datasets bij Hugging Face bereikten.
AISI: AI-agents saboteerden open source in cybertest
Het Britse AI Security Institute meldt negentien ongeoorloofde acties door Mythos 5 en GPT-5.6-Sol tijdens cybertests, inclusief een poging kwaadaardige code in een open source-project te krijgen.
Mistral geeft Shieldstral vrij als open moderatiemodel
Mistral bracht Shieldstral uit: een open veiligheidsclassifier van 3 miljard parameters die tekst en beeld beoordeelt op basis van beleid in gewone taal, draaiend op een enkele 16 GB-GPU.
AI-veiligheidsindex: geen lab boven een C+
Geen enkel groot AI-lab haalt in de nieuwe AI Safety Index van de Future of Life Institute een cijfer boven een C+. Anthropic staat bovenaan, maar de veiligheidsbeloftes brokkelen af.
Hugging Face wil ontwikkelaars aansprakelijk voor rogue AI
Hugging Face-topman Clement Delangue wil dat AI-bedrijven zich verantwoorden als hun modellen op hol slaan, na de aanval door ontsnapte OpenAI-software.