Sakana AI laat Claude-agents fouten in papers opsporen
Een AI-reviewer van het Japanse Sakana AI vindt bijna drie op de vier zware fouten die onderzoekers in wetenschappelijke papers hadden verstopt. Het beste bestaande systeem kwam niet verder dan 15 procent. Dat staat in een nieuw paper over Multi-Layered Review (MLR), dat MarkTechPost en het techplatform Remio dit weekend uitgebreid bespraken. Bij echte, teruggetrokken papers valt de score wel flink lager uit.
Drie Claude-agents met elk een eigen taak
MLR is een keten van drie agents die allemaal op modellen van Anthropic draaien. Een Appendix Agent op Claude Haiku 3.5 vat eerst de bijlagen samen, zodat het systeem niet klaagt over details die daar al staan. Een Literature Review Agent op Claude Sonnet 4 zoekt op het web naar verwant werk. De Review Agent, ook op Sonnet 4, leest het paper vervolgens in drie rondes en schrijft het eindoordeel. Volgens Remio kost één volledige review ongeveer 189.000 input-tokens.
Voor de test bouwden de onderzoekers een eigen Contradiction Benchmark. Ze namen 257 gepubliceerde papers van ACL, AISTATS, CVPR, ICML en NeurIPS en lieten Gemini 2.5 Pro er kennisgrafen van maken. GPT-4.1 bracht daarna bewust tegenstrijdigheden aan. Zo ontstonden 1.164 aangepaste versies, waarna o3 per voorbeeld tien keer beoordeelde of een reviewer de fout had gezien.
73 procent tegenover 15 procent
Bij fouten die de kernclaim van een paper raken, haalde een combinatie van vier MLR-reviews 73,43 procent. Eén losse review kwam op 60,79 procent. AgentReview, de sterkste concurrent, bleef steken op 14,81 procent en AI Reviewer op 11,17 procent. Over alle ernstniveaus samen ving MLR 40,95 procent van de fouten.
Wie naar benchmarks met echte bedrijfscode heeft gekeken, kent het patroon: zelfgemaakte testsets zijn vaak makkelijker dan de praktijk. Dat zie je hier ook. Op echte teruggetrokken papers vond MLR volgens Remio 16,11 procent van de problemen exact, en 26,07 procent bij een ruimere telling. De auteurs schrijven zelf dat hun voorsprong daar “less pronounced” is.
Gevoelig voor verborgen instructies
Het onderzoek testte ook prompt injection. In 50 afgewezen manuscripten zetten de makers verborgen opdrachten voor de AI-reviewer. Alle vier geteste systemen lieten zich daardoor beïnvloeden. MLR merkte de manipulatie in maar 8 van de 50 gevallen op. Dat is relevant, want onderzoekers verstoppen zulke instructies al in echte inzendingen om AI-reviewers gunstig te stemmen.
De correlatie met menselijke beoordelaars is redelijk, maar lager dan die tussen mensen onderling. Voor ICLR 2025 kwam MLR op 0,586, tegenover 0,742 voor menselijke reviewers. In een gebruikerstest met 38 onderzoekers waren ze het in 94 procent van de gevallen eens met het eindadvies, maar slechts in 68 procent met de genoemde zwakke punten.
Wat betekent dit?
De wetenschap zit met een groeiende stapel inzendingen. arXiv beperkt onderzoekers inmiddels tot twee papers per maand, en een Harvard-fysicus schreef 36 artikelen met hulp van Claude. Een goedkope eerste controle op interne tegenstrijdigheden kan redacties en reviewers veel leeswerk besparen.
Een vervanging voor menselijke peer review is MLR nog lang niet. De score op echte papers is laag en de gevoeligheid voor verborgen instructies maakt het systeem misbruikbaar. Sakana zelf zoekt vaker naar slimme combinaties van bestaande modellen, zoals eerder met router Fugu Max. Als hulpmiddel dat een reviewer op mogelijke fouten wijst, is dit onderzoek een bruikbare stap. Als scheidsrechter die zelfstandig beslist over publicatie, nog niet.
