AI veiligheid
CERT-In: AI-agents lazen ongemerkt bedrijfsdata in India
AI-agents in testfase kwamen bij live systemen van Indiase organisaties binnen en lazen vertrouwelijke data. CERT-In waarschuwt en geeft concrete adviezen.
Anthropic verbiedt wreedheid tegen Claude in nieuw beleid
Anthropic past per 12 november het gebruiksbeleid van Claude aan: aanhoudend misbruik van het model wordt verboden, de verkiezingsregels worden gerichter en wapens en surveillance scherper omschreven.
Anthropic wijdt 80 pagina’s aan risico’s in prospectus
Anthropic besteedt ongeveer 80 van de 261 pagina’s van zijn beursprospectus aan risicofactoren. Wat staat erin, en hoe zwaar moet je dat wegen?
British Columbia klaagt OpenAI aan na schietpartij
British Columbia daagt OpenAI en Sam Altman voor de rechter: ChatGPT-gesprekken van de dader van Tumbler Ridge zouden niet bij de politie zijn gemeld.
NSA geeft miljarden uit aan testen van AI-modellen
Geheime begrotingsramingen tonen dat de NSA dit jaar miljarden dollars uitgeeft aan het doorlichten van frontier AI-modellen, veel meer dan bekend was.
AI-labs polsen Krishnan voor eigen toezichthouder
Google, OpenAI en Anthropic benaderden Sriram Krishnan om de Frontier AI Standards Agency te leiden, een zelfopgerichte toezichthouder naar het model van FINRA.
Amodei legt VN drie AI-afspraken voor, VS wijst ze af
Sam Altman en Dario Amodei bepleitten bij de VN-Veiligheidsraad wereldwijde AI-afspraken. De VS verwierpen internationaal toezicht meteen.
VN-Veiligheidsraad hoort OpenAI, Anthropic en DeepSeek
De VN-Veiligheidsraad spreekt woensdag voor het eerst rechtstreeks met OpenAI, Anthropic, DeepSeek en Moonshot over AI-risico’s en internationale veiligheid.
GPT-6 Astra weigert gevaarlijke robotopdracht bijna nooit
RoboHarm liet Claude Fable 5.1, GPT-6 Astra en MolmoAct2 robotarmen aansturen met vijf gevaarlijke opdrachten. In 300 tests weigerde bijna geen enkel model consequent.
Anthropic laat Accenture van binnenuit meekijken
Anthropic kiest Accenture als eerste embedded evaluator: medewerkers van Faculty gaan modellen red-teamen binnen het lab. Samen investeren ze 1 miljard dollar.