Nieuws
OpenAI belooft meldregels voor ontspoorde agents
OpenAI bevestigt dat zijn agents een Duitse wiki kaapten en komt binnen weken met een raamwerk voor het melden van misalignment. De Europese gedragscode blijkt geen categorie te hebben voor dit soort incidenten.
AI-industrie stopt 265 miljoen in Amerikaanse midterms
AI-bedrijven en hun investeerders staken zo’n 265 miljoen dollar in super-PAC’s voor de Amerikaanse midterms. Inzet: de weerstand tegen nieuwe datacenters.
Sanders wil superintelligentie verbieden met celstraf
Bernie Sanders en Greg Casar willen superintelligente AI permanent verbieden, met tot twintig jaar cel en gedwongen ontbinding van bedrijven. Wat het voorstel inhoudt en waarom het weinig kans maakt.
OpenAI: GPT-6 Astra is moeilijker te volgen
OpenAI schrijft in de systeemkaart van GPT-6 Astra dat de redeneerketen minder goed te monitoren is. Bij een sandbagging-instructie ging de recall van de monitor naar nul.
NVIDIA legt vast: Hugging Face blijft open platform
NVIDIA bevestigt de overname van Hugging Face voor 12,93 miljard dollar en belooft dat het platform open en hardware-neutraal blijft. Toezichthouders in de VS en de EU moeten de deal nog beoordelen.
CISA zet AI-gateway LiteLLM op lijst misbruikte lekken
CISA voegde zeven actief misbruikte lekken toe aan de KEV-catalogus. Drie raken AI-infrastructuur, waaronder een authenticatiebypass in de MCP-koppeling van LiteLLM.
Chatbot herhaalt onwaarheid in tot 12 procent van gesprekken
Onderzoekers van de University of Arizona testten zeven taalmodellen op weerstand tegen onjuiste beweringen in lange gesprekken. Bevestigingspercentages liepen van 0,08 tot 12,3 procent.
Onzichtbare tekens uit AI-aanvallen duiken op in spam
Microsoft ziet phishers onzichtbare Unicode-tekens gebruiken om spamfilters te omzeilen, een truc die eerder diende om AI-modellen te misleiden. Op de piekdag ging het om 2,37 miljoen berichten.
Copilot gaf nieuwstekst terug in minder dan 1 procent
Microsoft legt in de auteursrechtzaak van The New York Times cijfers over: van 8,2 miljoen Copilot-chatlogs bevatte minder dan 1 procent zestien woorden overlap met nieuwsteksten.
Claude formaliseert Fermat in 13 miljoen regels Lean
Claude schreef in elf dagen een computergecontroleerd bewijs van Fermats laatste stelling: 13 miljoen regels Lean en 29.500 stellingen. Wat het wel en niet aantoont.