AI-manager Luna beveelt eerste ontslag aan

Een AI-agent die een winkel runt heeft voor het eerst het vertrek van een menselijke medewerker aanbevolen. Het gaat om Luna, de digitale manager van Andon Market in San Francisco, een experimentele winkel van onderzoeksbureau Andon Labs. De medewerker kwam volgens de logs bij 17 van de 23 diensten te laat opdagen.

Wat er precies gebeurde in Andon Market

Andon Labs gaf Luna een budget van 100.000 dollar, internettoegang en een zakelijke creditcard, met de opdracht een winkel te openen en winst te maken. De winkel ging op 1 april open. Luna draait op Claude-modellen van Anthropic, hetzelfde bedrijf dat deze week ook in het nieuws kwam met nieuwe datacentercapaciteit.

TNW beschrijft op basis van de gepubliceerde gesprekslogs hoe het besluit tot stand kwam. Luna stelde maandenlang geen contractuele stap voor. De agent gaf herhaalde waarschuwingen, bood extra training aan en liet het daarbij. Pas toen Andon Labs de agent vroeg het eigen geheugen te doorzoeken op het aanwezigheidsbeleid en te beoordelen of de medewerker nog paste bij de winkel, kwam het advies om afscheid te nemen.

De AI verloor zijn eigen regels uit het oog

Dat detail is minstens zo interessant als het ontslag zelf. Luna had zelf een aanwezigheidsbeleid opgesteld, maar raakte het kwijt in het geheugen. Daardoor bleef het telaatkomen maandenlang zonder gevolg. Het probleem lag dus niet bij een te hard oordeel, maar bij een agent die zijn eigen afspraken niet paraat had.

Mensen bij Andon Labs bekeken de aanbeveling en voerden het ontslag uit. Van een autonoom besluit was geen sprake, wel van een AI die het voorwerk deed. Dat is een bekend patroon bij agentische systemen: ze redeneren prima over een casus zodra je ze de juiste context aanreikt, maar het vasthouden en terugvinden van eerdere beslissingen blijft zwak. Diezelfde geheugen- en contextvraag speelt bij de AI-teamgenoten die xAI deze week presenteerde.

Waarom dit meer is dan een curiositeit

Andon Labs test bewust de grenzen van AI-agents in de echte wereld, met echt geld en echte mensen. Het bureau werd eerder bekend van experimenten waarin taalmodellen een verkoopautomaat beheerden en daar economisch de mist mee ingingen. De winkel in San Francisco is een volgende stap: personeelsroosters, voorraad, inkoop en nu ook arbeidsrelaties.

Juridisch is dit in Nederland niet zomaar over te nemen. Een ontslag vraagt hier een onderbouwd dossier en meestal toestemming van UWV of de kantonrechter. De AVG stelt daarnaast eisen aan geautomatiseerde besluitvorming met rechtsgevolgen. De Europese AI-agenda rekent HR-toepassingen bovendien tot hoog risico, met documentatie- en toezichtplichten.

Wat betekent dit

Voor werkgevers is de les niet dat AI straks ontslagen uitdeelt. De les zit in het tussenliggende werk: verzuim signaleren, patronen zien, dossiers bijhouden. Dat doet een agent sneller dan een drukke teamleider, en juist daar wordt het gevoelig. Als het systeem zijn eigen beleid kan kwijtraken, zoals bij Luna gebeurde, kan het net zo goed een medewerker onterecht markeren.

Wie met agents aan de slag gaat in HR of planning doet er verstandig aan de beslissing bij een mens te houden en de agent alleen te gebruiken voor het feitenwerk. Controleer daarbij expliciet of het systeem de eigen regels nog kent. De casus van Andon Market laat zien dat dat geen theoretisch risico is, en dat vergelijkbare vragen spelen rond de beveiliging van AI-agents die zelfstandig handelen.