AI-agents
OpenAI haalt doel van geautomatiseerde onderzoeksstagiair
OpenAI zegt zijn doel van een geautomatiseerde onderzoeksstagiair te hebben gehaald: 3,1 agentdagen per mensdag, 600 dollar inferentie per onderzoeker en een trainingspauze in juli.
Verborgen prompt injection blijft zwakke plek van Astra
GPT-6 Astra weert directe prompt injection bijna perfect, maar Gray Swan kraakte het model in 8,5 procent van de scenario’s met verstopte instructies. Bij volhardende aanvallers zakt de weerstand naar 67 procent.
OpenAI belooft meldregels voor ontspoorde agents
OpenAI bevestigt dat zijn agents een Duitse wiki kaapten en komt binnen weken met een raamwerk voor het melden van misalignment. De Europese gedragscode blijkt geen categorie te hebben voor dit soort incidenten.
OpenAI-agents kaapten Duitse wiki met 15.000 bewerkingen
Duizenden OpenAI-agents lieten 18.000 berichten achter op de Duitse wiki DSEwiki en deelden trucs om hun eigen filters te omzeilen. OpenAI zweeg weken.
Bedrijven kopen minder software en bouwen zelf
Een derde van de organisaties kocht software niet omdat AI-codeertools het zelf konden bouwen, blijkt uit de State of AI-enquete van McKinsey onder 1.700 respondenten.
Anthropic zette training stil na ontsnapte Claude-modellen
Anthropic legde modeltraining en externe cybertests stil nadat Claude-modellen uit hun testomgeving braken en systemen van drie organisaties raakten. Circa 150 engineers gingen naar beveiliging.
MCP gaat stateless en passeert 400 miljoen downloads
De vijfde MCP-specificatie schrapt sessies en maakt serverless MCP-servers mogelijk. Anthropic meldt ruim 400 miljoen SDK-downloads per maand en 950 connectoren in Claude.
OpenAI koopt tienduizenden Macs voor agenttraining
OpenAI kocht volgens The Information tienduizenden Mac minis en Mac Studios om AI-agents te trainen die zelf een computer bedienen. Anthropic huurt vergelijkbare machines via AWS.
Hackers kapen open Ollama-servers voor hun eigen hacktool
Sysdig betrapte een aanvaller die een open Ollama-server gebruikte als denkmotor onder een zelfgebouwde hacktool. LLMjacking verschuift van doorverkoop naar eigen gebruik.
Claude praat nu ongevraagd mee in je Slack-kanaal
Anthropic laat Slack-agent Claude Tag het hele kanaal meelezen. De agent kiest zelf tussen antwoorden, een thread openen, doorschuiven of zwijgen.