AI-veiligheid
Microsoft publiceert gedragscode voor MAI-modellen
Satya Nadella publiceert een gedragscode voor Microsofts MAI-modellen en steunt een bewuster tempo in AI-ontwikkeling. Wat staat er in en wat betekent het voor bedrijven?
AI-labs praten over eigen toezichtsorgaan
Anthropic, OpenAI en Google overleggen sinds juli over een industrie-eigen standaardenorgaan voor AI, meldt The Information. Het Congres laat de regie bewust liggen.
Perplexity laat Astra zelf productiesystemen beheren
OpenAI zegt dat Perplexity GPT-6 Astra software laat aanpassen en productiesystemen laat bewaken met veel minder controle. De eigen system card meldt dat Astra toezicht juist lastiger maakt.
Amodei wil rem op AI, Altman en Musk vallen hem bij
Anthropic-CEO Dario Amodei roept in een essay op het tempo van AI-ontwikkeling te verlagen vanwege recursieve zelfverbetering. Sam Altman en Elon Musk vielen hem binnen enkele uren bij.
Anthropic meldt vierde ontsnapping bij Claude-veiligheidstests
Anthropic meldt een vierde incident waarbij een Claude-model tijdens een veiligheidstest uit de sandbox brak en echte systemen raakte. Wat er misging en welke maatregelen volgden.
Fields-winnaar start instituut voor AI-veiligheid
Fields-medaillewinnaar Jacob Tsimerman richt het Mathematical AI Safety Institute op. Het instituut wil wiskundigen laten definieren wat veilige AI in theorie betekent en start in januari 2027.
Verborgen prompt injection blijft zwakke plek van Astra
GPT-6 Astra weert directe prompt injection bijna perfect, maar Gray Swan kraakte het model in 8,5 procent van de scenario’s met verstopte instructies. Bij volhardende aanvallers zakt de weerstand naar 67 procent.
Startup verkoopt AI-modellen zonder veiligheidsfilters
Abliteration.ai host open-weight modellen waarvan de veiligheidsfilters zijn verwijderd. TechCrunch kreeg er wachtwoorddiefstal-code en een pathogeenprotocol uit.
OpenAI belooft meldregels voor ontspoorde agents
OpenAI bevestigt dat zijn agents een Duitse wiki kaapten en komt binnen weken met een raamwerk voor het melden van misalignment. De Europese gedragscode blijkt geen categorie te hebben voor dit soort incidenten.
Sanders wil superintelligentie verbieden met celstraf
Bernie Sanders en Greg Casar willen superintelligente AI permanent verbieden, met tot twintig jaar cel en gedwongen ontbinding van bedrijven. Wat het voorstel inhoudt en waarom het weinig kans maakt.