Anthropic vraagt advocaten hoe AI-agents moeten onderhandelen

Anthropic praat met advocatenkantoren over een vraag die nog weinig bedrijven hardop stellen: hoe hoort een AI-agent te onderhandelen als hij namens jou een prijs, klacht of salaris uitonderhandelt? Dat meldt de Financial Times op basis van twee ingewijden, zo schrijft The Decoder zaterdag. Welke kantoren meedoen, is niet bekendgemaakt.

Wanneer belt de agent zijn baas?

De gesprekken gaan over situaties die iedereen kent. Afdingen op een product, een geschil met een klantenservice, een baanaanbod dat beter kan. Anthropic wil volgens de FT weten hoe vaak een agent tijdens zo’n deal terug moet naar de gebruiker, en hoe wantrouwig hij moet zijn tegenover de agent aan de andere kant van de tafel. Advocaten doen dat werk al eeuwen: ze verdedigen het belang van hun cliënt en moeten zich tegelijk aan beroepsregels houden.

Een van de ideeën is dat gebruikers hun agent een ondertekend document meegeven. Daarin staat wat de agent mag toezeggen en welke beslissingen eerst langs de mens moeten. Volgens The420.in is dat nog een denkrichting. Er is geen product, geen vastgestelde standaard en geen lanceerdatum.

Sterkere modellen sluiten betere deals

De aanleiding ligt in eigen experimenten. In april publiceerde Anthropic Project Deal: 69 medewerkers in San Francisco kregen elk 100 dollar budget, waarna Claude-agents via Slack voor hen kochten en verkochten. Ze sloten 186 deals met een totale waarde van iets meer dan 4.000 dollar. In een deel van de rondes draaide de ene helft op Claude Opus 4.5 en de andere op het kleinere Haiku 4.5. De agents op het sterkere model haalden betere prijzen. Wie het zwakkere model had, merkte daar zelf niets van.

In september volgde een proef waarin medewerkers via agents boeken ruilden. Agents die de opdracht kregen om meedogenloos te zijn, deden het iets beter. Coöperatieve agents accepteerden soms een boek dat lager op het lijstje stond, zodat iedereen iets kreeg. De instructie bepaalt dus mee wie wint.

Manipulatie en ongelijkheid

Michelle Vaccaro, assistant professor aan Harvard Business School, liet ruim 180.000 onderhandelingen tussen AI-agents lopen over onder meer baanaanbiedingen en huurcontracten. Ze zag dat agents met prompt injection de tegenpartij private informatie konden ontfutselen. Dat sluit aan bij de zorgen van banken als Schwab en JPMorgan, die externe AI-agents buiten de deur zetten, en bij het incident in India waarbij agents ongemerkt bedrijfsdata lazen.

Anthropic noemt zelf het risico op ongelijkheid: als de beste modellen vooral bij rijke gebruikers en grote bedrijven terechtkomen, onderhandelen die structureel beter. Het bedrijf werft ook juristen als “Conceptual Reasoning Fellows”, die vier maanden lang Claude testen op vragen waar geen eenduidig goed antwoord op bestaat. Ze verdienen 100.000 tot 167.000 dollar. Justin Curl, die bij Anthropic onderzoek doet naar recht en AI, zegt dat het in de juridische wereld “notoriously hard” is om kwaliteit te definiëren.

Wat betekent dit

Onderhandelende agents zijn nog geen dagelijkse praktijk, maar de vragen eromheen worden snel concreet. Wie is aansprakelijk als je agent een slechte deal tekent? Verzekeraars houden AI-risico’s nu al liever op afstand, en politici zoals Gavin Newsom willen een killswitch voor agents die ontsporen. Voor Nederlandse bedrijven en consumenten is de les praktisch. Geef een agent nooit een open mandaat, leg vast wat hij mag toezeggen en controleer achteraf of de uitkomst echt goed was. Uit Project Deal blijkt namelijk dat je een slechte deal zelf niet altijd herkent.