OpenAI wil misbruik zien zonder data te bewaren

OpenAI heeft een systeem aangekondigd dat misbruik van zijn modellen moet opsporen zonder dat medewerkers de prompts van klanten kunnen lezen. Het heet Private Safety Processing en is bedoeld voor API-klanten die werken onder een zero data retention-afspraak. De uitrol staat gepland voor september, samen met een technisch whitepaper, meldde Help Net Security op 20 augustus.

Patronen in plaats van losse prompts

Bestaande veiligheidscontroles beoordelen elk verzoek apart. Dat schiet tekort bij misbruik dat zich over meerdere gesprekken uitspreidt, zoals iemand die stap voor stap de grenzen van een model aftast of activiteit die over verschillende accounts is verdeeld. OpenAI schrijft dat de ernstigste risico’s niet altijd zichtbaar zijn in een enkele interactie. Private Safety Processing kijkt daarom naar samenhangende interacties en levert alleen een smal signaal op over het type activiteit, niet over de inhoud.

De data blijft in dat model op infrastructuur van de klant staan, of op servers van OpenAI versleuteld met sleutels die de klant zelf beheert. Materiaal dat wordt herkend als kindermisbruik is de uitzondering en gaat wel naar handmatige beoordeling. Microsoft, Databricks, Glean en Abridge testen mee, schrijft CSO Online. Zach Powers, CISO bij zorgbedrijf Abridge, zei tegen Help Net Security dat dit niveau van samenwerking rond vertrouwen en beveiliging ongebruikelijk is.

Anthropic koos de andere afslag

De timing valt op, want de belangrijkste concurrent deed eerder precies het omgekeerde. Anthropic voerde 30 dagen dataretentie in voor zijn Mythos-modellen, met als redenering dat je logs nodig hebt om aanvallen te herkennen die over meerdere verzoeken lopen. Het bedrijf erkende destijds dat de maatregel slecht zou vallen bij klanten die inmiddels nulretentie gewend zijn. Beide leveranciers benoemen hetzelfde risico en komen op tegengestelde oplossingen uit.

De onderzoekslast verschuift naar de klant

Sanchit Vir Gogia van Greyhound Research vat het in CSO Online samen als een meningsverschil over hoeveel ruwe inhoud je nodig hebt naast het signaal dat je bewaart. Een tweede analist in datzelfde artikel wijst op de keerzijde: zero data retention haalt de forensische last niet weg, het verplaatst die. Komt er een melding binnen over verdachte activiteit, dan moet de klant zelf in eigen logs uitzoeken wat er precies gebeurde. Apeksha Kaushik van Gartner ziet wel winst in gereguleerde sectoren, waar privacyvriendelijke veiligheidsmodellen de drempel voor AI-gebruik in financiële dienstverlening en zorg kunnen verlagen.

Dat de inhoud van prompts gevoelig ligt, bleek deze zomer meermaals. Onderzoekers lieten zien dat versleutelde redeneersporen van LLM’s alsnog leesbaar te maken zijn, en Microsoft had acht maanden nodig om een lek in Copilot te dichten waarmee data uit gesprekken kon weglekken.

Wat betekent dit

Voor Nederlandse organisaties die AI in gevoelige processen zetten, verandert vooral de vraag die je aan een leverancier stelt. Niet langer alleen of data bewaard wordt, maar wie bij een incident kan reconstrueren wat er gebeurde en met welk bewijs. Dat sluit aan op de transparantieverplichtingen uit de AI Act, waar veel bedrijven nog niet klaar voor zijn. Wie nu contracten sluit met OpenAI of Anthropic, doet er goed aan de eigen logging op orde te hebben. De leverancier levert straks het signaal, het onderzoek doe je zelf.