Anthropic vindt een werkruimte in het brein van Claude

Onderzoekers van Anthropic hebben een manier gevonden om te zien wat Claude van plan is te zeggen, nog voordat het model een woord uitspreekt. In het onderzoek Verbalizable Representations Form a Global Workspace in Language Models, gepubliceerd op de researchpagina van Anthropic, beschrijft het team een kleine interne ruimte waarin het model informatie klaarzet voor later gebruik. Ze noemen die ruimte de J-space.

Wat de Jacobian-lens laat zien

De techniek heet de Jacobian-lens, kortweg J-lens. Voor elk woord in de woordenschat van Claude stelt de lens dezelfde vraag: welk intern activiteitspatroon maakt het waarschijnlijker dat het model dat woord straks zegt, niet nu meteen, maar beschikbaar om uit te spreken. Pas je die lens laag voor laag toe, dan krijg je een leesbare lijst met woorden die verandert terwijl Claude een prompt verwerkt. Het gaat om een verrassend compacte ruimte: ongeveer 25 actieve concepten, samen goed voor minder dan tien procent van de variatie in de activaties.

Dat maakt zichtbaar hoe een taalmodel intern vooruit plant. Het onderwerp sluit aan bij eerder werk over de binnenkant van modellen, zoals het onderzoek van NVIDIA naar snellere tekstgeneratie.

Een parallel met de neurowetenschap

De naam J-space verwijst naar de global workspace theory. Die theorie komt van psycholoog Bernard Baars en is later uitgewerkt door de neurowetenschappers Stanislas Dehaene en Lionel Naccache. Het idee: informatie wordt bewust bruikbaar zodra ze wordt uitgezonden naar de rest van een verder opgedeeld brein. Anthropic testte de vijf functionele eigenschappen die deze theorie voorspelt, en vond ze alle vijf terug in de J-space van Claude. Belangrijk detail: het team claimt niet dat het model bewustzijn heeft. Het gaat om een functionele gelijkenis, geen uitspraak over ervaring. Wie de vergelijking met de hersenen interessant vindt, kan ook kijken naar het onderzoek van Meta dat zinnen uit het brein leest.

Open broncode en onafhankelijke controle

Anthropic zette de implementatie op 2 juli online onder de Apache 2.0-licentie, te vinden op github.com/anthropics/jacobian-lens, met een interactieve demo op neuronpedia.org/jlens. Het team van Neel Nanda bij Google DeepMind herhaalde de kern van de bevindingen zelfstandig op open modellen, wat de resultaten van buitenaf onderbouwt. Zulke transparantie past bij de discussie over betrouwbaarheid die dit jaar speelt, denk aan de AI Safety Index 2026, waarin Anthropic met een C+ bovenaan eindigde. Het lab investeert stevig in dit soort werk en trekt er talent voor aan, iets wat terugkomt in het verhaal over Anthropic als talentmagneet.

Wat betekent dit

Voor de praktijk is de winst vooral controle. Als je kunt zien welke concepten een model klaarzet voordat het antwoordt, wordt het makkelijker om ongewenst gedrag vroeg te herkennen en bij te sturen. Dat is nog geen kant-en-klaar veiligheidsinstrument, maar het geeft onderzoekers een concreet aangrijpingspunt in een systeem dat vaak als een black box wordt beschreven. De echte test komt zodra andere labs de J-lens loslaten op hun eigen modellen en kijken of dezelfde interne werkruimte overal opduikt.