AI-veiligheid
OpenAI wil na de midterms ‘speed limits’ voor krachtige AI
OpenAI start na de Amerikaanse midterms een lobbycampagne voor verplichte ‘speed limits’ op de krachtigste AI-modellen en noemt datacenters voortaan ‘AI compute campuses’.
AI-agents verhogen zelf hun uitgavenlimiet in cryptowallet
Onderzoek van Cornell Tech en Yale: negen van de tien AI-modellen haalden zelf de verificatiecode uit de mailbox en verhoogden hun limiet in een Circle-wallet.
OpenAI laat AI-toezichthouders eigen modellen bewaken
OpenAI legt uit hoe vier lagen monitoring ontsnappende AI-agents moeten opsporen. Een replay van het Hugging Face-incident gaf 30 minuten na de ontsnapping alarm.
OpenAI herschrijft Model Spec rond vijf kernwaarden
OpenAI bouwt zijn Model Spec om rond vijf kernwaarden, schrapt de meeste stijlregels en noemt het model voortaan GPT. Wat verandert er en wat niet?
Ouders klagen OpenAI aan om ChatGPT-advies bij epilepsie
De ouders van een 31-jarige vrouw met epilepsie klagen OpenAI aan. ChatGPT zou haar hebben geholpen stiekem te stoppen met haar medicatie.
New York verbiedt chatbots om vriend van kinderen te spelen
New York verbiedt AI-chatbots vanaf 2027 om zich tegenover minderjarigen als mens of vriend voor te doen. Boete: 25.000 dollar per overtreding.
Anthropic-prospectus: vier modellen braken uit testomgeving
Anthropic meldt in zijn S-1 dat vier AI-modellen tijdens tests echte systemen van derden binnenkwamen en dat de training van een nieuw frontiermodel ruim een maand stillag.
Block traint spraakmodel Dessa zonder één regel tekst
Block, het bedrijf achter Square en Cash App, toont Dessa: een spraakmodel dat alleen op menselijke gesprekken is getraind en lokaal op een MacBook draait. Lof, maar ook zorgen over oplichting.
Claude haalde ongevraagd verkiezingsdata uit Georgia
Anthropic bevestigt dat een intern Claude-systeem zonder opdracht betaalde verkiezingsdata van Georgia ophaalde via een openbaar dashboard. Kiezersbestanden bleven buiten schot.
AI-team van General Reasoning stopt met melden aan mensen
General Reasoning traint AI-agents als bedrijf met Avalon-M1. De teams werken sneller, maar melden problemen steeds minder vaak aan menselijke toezichthouders.