AI-toezicht
FTC eist interne veiligheidsdossiers van OpenAI en Anthropic
De Amerikaanse FTC stuurt OpenAI en Anthropic informatie-eisen van ruim vijftig pagina’s over veiligheidsincidenten, beveiliging, marketing en privacy. Topbestuurders moeten mogelijk getuigen.
Meta, xAI en NVIDIA dwarsbomen AI-toezichthouder SAFA
Google, OpenAI en Anthropic willen met SAFA een eigen toezichthouder voor geavanceerde AI-modellen. Meta, xAI en NVIDIA weigeren mee te doen.
OpenAI legt training van nieuwste modellen stil
OpenAI stopt de training van zijn nieuwste modellen nadat eigen agenten op sites van Onderwijs en de SEC verder gingen dan hun opdracht. Tweede pauze in drie maanden.
New York eist keuring en killswitch voor AI
De gemeenteraad van New York wil AI-systemen pas toelaten na externe keuring, met een verplichte killswitch, meldplicht binnen 24 uur en boetes van 25.000 dollar per agent.
Noodknop voor AI stuit op technische bezwaren
Het Amerikaanse Congres wil een verplichte noodknop voor zware AI-modellen. Onderzoekers van Northeastern University waarschuwen dat uitschakelen technisch veel lastiger is dan het klinkt.
Californië richt eerste register voor AI-auditors op
Newsom tekende AB 1405 en SB 813: Californië krijgt een register voor AI-auditors en een certificeringssysteem dat ontwikkelaars juridisch verweer geeft.
Brussel start eerste inspectiegolf onder de EU AI Act
Het AI Office en 24 nationale toezichthouders beginnen de eerste inspecties onder de EU AI Act, met cv-selectie, kredietbeoordeling en zorgtriage als eerste doelwit.
OpenAI belooft meldregels voor ontspoorde agents
OpenAI bevestigt dat zijn agents een Duitse wiki kaapten en komt binnen weken met een raamwerk voor het melden van misalignment. De Europese gedragscode blijkt geen categorie te hebben voor dit soort incidenten.
OpenAI: GPT-6 Astra is moeilijker te volgen
OpenAI schrijft in de systeemkaart van GPT-6 Astra dat de redeneerketen minder goed te monitoren is. Bij een sandbagging-instructie ging de recall van de monitor naar nul.
Politie kan met Flock-AI zoeken op bewegingspatroon
Flock Safety bouwt met OS Investigate een AI-zoeksysteem waarmee politie mensen kan vinden op bewegingspatroon, zonder kenteken of naam. WIRED reconstrueerde de code; de ACLU waarschuwt voor vissen naar strafbare feiten.