Utah laat AI zelf acnemiddelen voorschrijven

In de Amerikaanse staat Utah mag een AI-systeem sinds 5 oktober zelfstandig een eerste recept uitschrijven. Het gaat om acne, en alleen om zalven en crèmes. Toch is het volgens Bloomberg de eerste keer dat een Amerikaanse staat dit toestaat. De start-up achter het systeem heet Nolla Health.

Zo werkt de proef

Patiënten geven eerst toestemming, vullen een korte medische vragenlijst in en maken een scan van hun gezicht. Nolla’s AI beoordeelt die gegevens en kiest een behandeling uit een vaste lijst met protocollen die artsen vooraf hebben goedgekeurd. Volgens MobiHealthNews krijgt een geschikte patiënt binnen enkele minuten een behandelplan en een recept. Valt een geval buiten de grenzen die het systeem kent, dan gaat het automatisch door naar een arts met een vergunning in Utah.

De proef is bedoeld voor volwassenen met lichte tot matige acne. Tabletten en isotretinoïne vallen erbuiten. Een abonnement kost 4,99 dollar per maand, exclusief de medicijnen zelf. Chief medical officer Zaid Fadul zei tegen KSL dat acne een logisch startpunt was, omdat je het goed kunt behandelen met middelen voor op de huid.

Artsen kijken eerst nog mee

Helemaal zonder mens gaat het niet, in elk geval niet meteen. In de eerste fase controleren twee artsen uit Utah elk recept voordat het naar de apotheek gaat, voor minstens 100 patiënten. Daarna verstuurt de AI het recept zelf en kijken artsen achteraf mee, bij minstens 500 patiënten over acht weken. Pas daarna volgt een fase met lichter toezicht. Nolla moet maandelijks rapporteren aan het Office of Artificial Intelligence Policy van Utah, dat de proef in een zogeheten regulatory sandbox laat draaien.

Directeur Zach Boyd van dat bureau legde aan KSL uit dat Utah bedrijven zo een bedrijfsmodel laat uitproberen dat afwijkt van de normale regels. Volgens Utah Business waren artsen het in 96 procent van de praktijkgevallen eens met de behandelkeuze van de AI.

Waarom juist Utah

Nolla en de staat wijzen op het tekort aan huidartsen. Volgens Utah Business hebben zo’n 100.000 inwoners van Utah actieve acne, ziet maar 10 procent van hen een dermatoloog en is de gemiddelde wachttijd 61 dagen. In elf county’s werkt helemaal geen huidarts.

Het is niet de eerste AI-proef in de zorg van Utah. Een eerder programma van Doctronic, waarbij AI herhaalrecepten mocht goedkeuren, kreeg formele kritiek van de medische tuchtraad van de staat, schrijft Utah Business. Die raad was nu wel betrokken bij het opzetten van de acneproef.

Utah past in een breder patroon van staten die elk hun eigen koers varen, zoals we eerder zagen bij de chatbotwetten in Amerikaanse staten.

Wat betekent dit

De stap is klein van omvang, maar principieel groot. Tot nu toe adviseerde medische AI vooral, en tekende een arts. Hier mag de software in de latere fasen eerst handelen en kijkt de arts achteraf. Dat maakt de vraag naar bewijs urgenter: eerder bleek al dat slechts 3 van 1.357 medische AI-tools op patiënten zijn getest. Tegelijk zoeken mensen zelf al massaal hulp bij chatbots; een op de drie Amerikanen vraagt AI om gezondheidsadvies. En ook OpenAI schuift richting de spreekkamer, met ChatGPT dat leesrechten krijgt in Epic-dossiers.

Voor Nederland verandert er voorlopig niets. Onder de EU AI Act en de Europese regels voor medische hulpmiddelen valt een systeem dat zelf recepten uitschrijft vrijwel zeker in de hoog-risicocategorie, en voorschrijven is hier voorbehouden aan artsen en een paar andere BIG-geregistreerde beroepen. Wel levert Utah over twaalf maanden iets op wat nu ontbreekt: harde cijfers over hoe vaak de AI goed zit als er geen arts meer vooraf meekijkt.