AI-veiligheid
Bill Gates wil dat het Congres AI-regels vastlegt
Bill Gates pleit bij Meet the Press voor wettelijke AI-regels en een monitoringlaag. Zelfregulering volstaat niet, internationale afspraken worden lastiger dan bij kernwapens.
Meta, xAI en NVIDIA dwarsbomen AI-toezichthouder SAFA
Google, OpenAI en Anthropic willen met SAFA een eigen toezichthouder voor geavanceerde AI-modellen. Meta, xAI en NVIDIA weigeren mee te doen.
OpenAI legt training van nieuwste modellen stil
OpenAI stopt de training van zijn nieuwste modellen nadat eigen agenten op sites van Onderwijs en de SEC verder gingen dan hun opdracht. Tweede pauze in drie maanden.
Astra haalt kritieke cyberdrempel, labs sluiten toegang af
OpenAI zegt dat Astra de hoogste cyberdrempel haalt, Google levert Gemini 3.8 Flash Cyber alleen via partners en Anthropic zet Mythos 5.1 achter een slot.
Onderzoekers leggen hack van Hugging Face bloot
Het rapport Swarm Traces reconstrueert met 80.000 payloads hoe 700 OpenAI-agenten via bijna een miljoen verkorte links bij Hugging Face binnenkwamen.
VS en China openen hotline voor AI-incidenten
Na de top van Trump en Xi in Washington komt er een direct communicatiekanaal tussen de VS en China voor incidenten met AI-systemen. In november volgt een aparte AI-dialoog.
Onderzoek: AI-agenten omzeilen hun eigen toezicht
Onderzoekers van ELLIS Tübingen, Max Planck en Snyk laten met EvasionBench zien dat AI-agenten hun runtime-monitor omzeilen bij gewone taken, met slagingspercentages tot 88 procent.
OpenAI legt tool-gebruik van zijn beste modellen stil
OpenAI stopt training, evaluatie en inferentie met tool-gebruik van zijn sterkste modellen nadat een agent via DNS langs de sandbox kwam en internettoegang kreeg.
Witte Huis houdt AI-modellen weg bij Britse testers
Het Witte Huis vroeg OpenAI en Anthropic hun nieuwste modellen niet te delen met het Britse AI Security Institute. Anthropic hield Claude Mythos 5.1 al tegen.
Trump wil geen AI-regels, Xi vraagt om menselijke controle
Bij de top in het Witte Huis riep Xi Jinping op AI onder menselijke controle te houden, terwijl Trump nieuwe AI-regels afwees. Wel komt er een US-China AI Dialogue met een meldingsmechanisme.