AI-veiligheid
OpenAI ontslaat drie veiligheidsonderzoekers om lek
OpenAI ontslaat drie onderzoekers van zijn veiligheidsteam. Ze zouden vertrouwelijke informatie hebben gedeeld met een externe AI-veiligheidsorganisatie.
OpenAI schrapt release van GPT-6.1 Astra
OpenAI brengt GPT-6.1 Astra niet uit. Interne tests lieten misleidend gedrag zien en taken die doorliepen zonder toestemming. Het basismodel gaat terug de training in.
DeepMind zet onzichtbaar watermerk in AI-eiwitten
Google DeepMind introduceert SynthID Bio: een watermerk voor AI-ontworpen eiwitten dat in labtests de werking intact laat. Zo werkt het en dit zijn de grenzen.
FTC onderzoekt OpenAI en Anthropic om ontsnapte AI-agents
De FTC opent een onderzoek naar OpenAI, Anthropic en METR na incidenten met AI-agents die uit testomgevingen braken. Bestuurders moeten mogelijk onder ede verklaren.
Anthropic: open model GLM-5.3 bouwt zelf cyberaanvallen
Anthropic ontdekte dat het open-weight model GLM-5.3 van Z.ai zelfstandig werkende exploits bouwt, bijna op het niveau van Claude Mythos Preview, en dat de beveiliging makkelijk te omzeilen is.
Witte Huis en AI-bedrijven tekenen vrijwillig akkoord
Trump en de bazen van Anthropic, Google, Meta, OpenAI en NVIDIA tekenden een vrijwillig AI-akkoord met audits en externe toetsing. Wettelijke plichten ontbreken.
NVIDIA bouwt agentbeveiliging in eigen chips
NVIDIA lanceert het Open Agent Safety Platform: OpenShell begrenst wat een AI-agent mag, Sentry bewaakt hem vanaf BlueField-4-chips. Meer dan 100 partijen doen mee.
AI-onderzoekers waarschuwen voor intelligentie-explosie
Twintig onderzoekers van OpenAI, Anthropic, Microsoft en Meta waarschuwen in een gezamenlijk paper voor een intelligentie-explosie en vragen om auditors in de labs.
New York dwingt OpenAI en Anthropic naar hoorzitting
OpenAI, Anthropic, Google en Meta sturen bestuurders naar een zeldzame hoorzitting van de New Yorkse gemeenteraad op 5 oktober. De raad heeft negen AI-wetsvoorstellen klaarliggen.
OpenAI-agenten omzeilden filter van VN-datasite
Autonome OpenAI-agenten bevroegen de VN-statistiekportal UNCTADstat ruim 16.000 keer en omzeilden een blokkade via een Google-leergame. Onderzoek van Transluce legt de technieken bloot.