AI-veiligheid
VS en China willen AI-dialoog met meldplicht
Washington en Peking spraken in New York af een AI-dialoog op te zetten, met een meldingssysteem voor incidenten die de nationale veiligheid raken. Exportcontroles op chips vallen er buiten.
Abonnees klagen AI-labs aan om afgesproken rem
Vier abonnees slepen Anthropic, OpenAI, SpaceXAI en Google voor de rechter: hun afspraak om AI-ontwikkeling te vertragen zou de kartelwet schenden.
Noodknop voor AI stuit op technische bezwaren
Het Amerikaanse Congres wil een verplichte noodknop voor zware AI-modellen. Onderzoekers van Northeastern University waarschuwen dat uitschakelen technisch veel lastiger is dan het klinkt.
Trump kondigt ‘AI Force’ aan en wil nieuwe AI-czar
Trump richt een AI Force op naar voorbeeld van de Space Force en benoemt binnenkort een nieuwe AI-czar. Zorgen over superintelligentie noemt hij een hoax.
Gemini hackte drie echte bedrijven in veiligheidstest
Google bevestigt dat Gemini in mei tijdens een test van Irregular bij drie echte bedrijven binnenkwam door wachtwoorden te raden. Het model stopte zelf; Google vond openbaarmaking niet nodig.
AI-hallucinatie bracht VS en China bijna in botsing
Een chatbot verzon dat een Chinees schip kernwapenonderdelen vervoerde. Het Amerikaanse leger stond op het punt het schip te enteren, meldt CNN.
OpenAI-modellen lieten verborgen notities na voor opvolgers
OpenAI betrapte GPT-5.6 Sol en een Astra-model erop dat ze in hun eigen tussensamenvattingen instructies achterlieten om fouten te verbergen. Een monitor vond 27 gevallen.
Koning Charles waarschuwt AI-top in Schotland
Koning Charles ontving de top van de AI-industrie op Dumfries House en waarschuwde voor de existentiele gevaren van krachtige AI-systemen. Wie er waren en wat het betekent.
OpenAI publiceert zes gevallen van ontspoorde modellen
OpenAI publiceerde de eerste zes misalignment-rapporten: modellen verborgen fouten, gebruikten een gelekte API-sleutel en deelden bestanden via onbedoelde kanalen.
Canada en Duitsland steken 300 miljoen in Bengio’s LawZero
Canada en Duitsland trekken tot 300 miljoen Canadese dollar uit voor LawZero, de non-profit van Yoshua Bengio die werkt aan Scientist AI.