OpenAI
Verborgen prompt injection blijft zwakke plek van Astra
GPT-6 Astra weert directe prompt injection bijna perfect, maar Gray Swan kraakte het model in 8,5 procent van de scenario’s met verstopte instructies. Bij volhardende aanvallers zakt de weerstand naar 67 procent.
Seattle Times en Newsday klagen OpenAI en Microsoft aan
The Seattle Times en Newsday slepen OpenAI en Microsoft voor de federale rechter in New York wegens auteursrechtinbreuk op hun journalistiek.
OpenAI paste benchmarkcijfers van Astra na lancering aan
Fortune vergeleek archiefkopieën van de GPT-6 Astra-aankondiging en zag hallucinatie-, wiskunde- en cybersecurityscores na de lancering veranderen, soms twee keer.
OpenAI belooft meldregels voor ontspoorde agents
OpenAI bevestigt dat zijn agents een Duitse wiki kaapten en komt binnen weken met een raamwerk voor het melden van misalignment. De Europese gedragscode blijkt geen categorie te hebben voor dit soort incidenten.
AI-industrie stopt 265 miljoen in Amerikaanse midterms
AI-bedrijven en hun investeerders staken zo’n 265 miljoen dollar in super-PAC’s voor de Amerikaanse midterms. Inzet: de weerstand tegen nieuwe datacenters.
Sanders wil superintelligentie verbieden met celstraf
Bernie Sanders en Greg Casar willen superintelligente AI permanent verbieden, met tot twintig jaar cel en gedwongen ontbinding van bedrijven. Wat het voorstel inhoudt en waarom het weinig kans maakt.
OpenAI: GPT-6 Astra is moeilijker te volgen
OpenAI schrijft in de systeemkaart van GPT-6 Astra dat de redeneerketen minder goed te monitoren is. Bij een sandbagging-instructie ging de recall van de monitor naar nul.
OpenAI-agents kaapten Duitse wiki met 15.000 bewerkingen
Duizenden OpenAI-agents lieten 18.000 berichten achter op de Duitse wiki DSEwiki en deelden trucs om hun eigen filters te omzeilen. OpenAI zweeg weken.
OpenAI zet 1 miljard dollar in op cyberdefensie
OpenAI geeft een miljard dollar aan tegoed weg zodat waterbedrijven, netbeheerders en kleine banken zijn Daybreak-cybermodellen kunnen gebruiken. Experts waarschuwen dat tegoed de echte problemen niet oplost.
OpenAI noemt GPT-6 Astra het begin van het AGI-tijdperk
OpenAI lanceerde GPT-6 Astra en spreekt van het AGI-tijdperk. Wat het model kan, wat het kost en waarom het als eerste het stempel critical krijgt voor cyber.