DNA-screening is niet klaar voor AI-ontworpen genomen

Generatieve AI kan complete virusgenomen schrijven. Dat is deze maand aangetoond in een peer-reviewed studie. De vraag die daarop volgt gaat over toezicht, en daar loopt het spaak. In een commentaar in Science van 6 augustus schrijven Thomas Inglesby en Moritz Hanke van het Johns Hopkins Center for Health Security dat de regels achterlopen op wat de modellen inmiddels doen.

Het onderzoek dat de discussie losmaakte

Aanleiding is het werk van Stanford-onderzoeker Brian Hie met het genoommodel Evo 2. Zijn team nam de bacteriofaag phiX174, met een genoom van minder dan 6.000 baseparen, als startpunt en liet het model nieuwe DNA-sequenties voorstellen. Van de bijna 300 gesynthetiseerde fagen werkten er zestien uitzonderlijk goed tegen E. coli die al resistent was geworden tegen natuurlijke fagen. Wij schreven eerder over de zestien AI-ontworpen virussen die E. coli doden. Evo 2 zelf staat vrij te downloaden onder een Apache 2.0-licentie, via de GitHub van het Arc Institute en het BioNeMo-platform van NVIDIA.

Screening kent alleen wat de natuur al maakte

Tussen een digitaal genoom en een buisje fysiek DNA staat in de praktijk één drempel: de controle die synthesebedrijven op bestellingen uitvoeren. Die vergelijkt bestelde sequenties met databases van bekende ziekteverwekkers en toxinen. Een sequentie die geen enkel levend organisme ooit heeft gedragen, staat in zo’n database per definitie niet.

Hoe kwetsbaar dat is liet Microsoft in oktober 2025 zien, ook in Science. Het team rond Eric Horvitz herontwierp 72 gereguleerde eiwitten, waaronder ricine en botulinetoxine, tot ruim 70.000 varianten. Bij twee grote aanbieders kwam tot 100 procent van de ricine-achtige varianten ongezien door de controle heen. Microsoft hield de publicatie tien maanden tegen terwijl het samen met synthesebedrijven een verbeterde detectie uitrolde. In de Verenigde Staten is die screening trouwens nergens wettelijk verplicht; bedrijven doen het vrijwillig.

Wat Johns Hopkins voorstelt

Inglesby en Hanke willen die vrijblijvendheid eruit. Ze pleiten voor een wettelijke plicht waarbij synthesebedrijven zowel de bestelde sequentie als de identiteit van de besteller controleren. “The ability to compose viral genomes using generative AI now exists; the governance to safely steer it does not”, schrijven ze. Pogingen om nieuwe virussen te ontwerpen die ziekte kunnen veroorzaken, horen wat hen betreft helemaal niet thuis in de wetenschap. Simon Clarke, microbioloog aan de University of Reading, noemde het Stanford-onderzoek in een reactie een bron van serieuze vragen over regelgeving en veiligheid.

Het contrast met de aandacht voor taalmodellen is groot. Amerikaanse toezichthouders werkten deze zomer nog aan een frontier-AI-review met een deadline van 1 augustus, en Demis Hassabis pleitte eerder voor onafhankelijk toezicht op frontier-modellen. Biologische modellen vallen buiten vrijwel al die kaders, terwijl ze de fysieke wereld directer raken.

Wat betekent dit

Voor Nederlandse labs en biotechbedrijven verandert er op korte termijn weinig, want de Amerikaanse wetgeving beweegt traag en de EU heeft nog geen apart spoor voor biologische AI-modellen. Wel wordt zichtbaar waar de discussie heen gaat. Modellen die eiwitten en genomen ontwerpen zijn inmiddels net zo bruikbaar voor medicijnonderzoek als de systemen waarmee farmabedrijven werken, zoals Claude Science van Anthropic, maar de controle zit bij bio-AI aan het einde van de keten, bij de leverancier van het DNA. Zolang die controle vrijwillig blijft en alleen naar bekende sequenties kijkt, is de zwakke schakel geen model maar een bestelformulier.