ChatGPT krijgt leesrechten in Epic-dossiers

OpenAI heeft ChatGPT gekoppeld aan Epic, het patiëntendossier dat in Amerikaanse ziekenhuizen bijna overal draait. Zorgorganisaties kunnen hun Epic-omgeving sinds 1 september verbinden met ChatGPT for Healthcare. Het gaat om dossiers van ruim 325 miljoen patiënten.

Wat een arts er nu mee kan

Een clinicus stelt in het chatvenster vragen over het geautoriseerde dossier van een patiënt, zonder eerst door consultverslagen, labuitslagen, medicatielijsten en brieven van specialisten te bladeren. TechCrunch beschrijft toepassingen als het voorbereiden van een consult, het bouwen van een klinische tijdlijn en het nagaan wat er sinds het vorige bezoek veranderd is. In sommige implementaties zit ChatGPT ingebouwd in de Epic-schermen zelf, zodat de arts het dossier niet hoeft te verlaten.

Er kwam een tweede koppeling bij. Een plug-in voor publieke gezondheidsdata haalt gestructureerd materiaal op uit onder meer PubMed, DailyMed, RxNorm, ClinicalTrials.gov en de vergoedingsregels van CMS. Daarmee kan een team nagaan of een patiënt in aanmerking komt voor een studie, of een middel identificeren.

Lezen mag, schrijven niet

De toegang is read-only. ChatGPT schrijft in geen enkele configuratie iets terug naar de chart, benadrukt OpenAI. Zorgorganisaties die een Business Associate Agreement tekenen, de Amerikaanse contractvorm voor het verwerken van medische gegevens, mogen ChatGPT Work, Codex, apps en connectors binnen die afspraken inzetten.

OpenAI liet artsen 27 klinische toepassingen beoordelen en verzamelde 4.363 beoordelingen. Daarvan kreeg 99,1 procent het label veilig. Het bedrijf erkent er zelf bij dat ook een klein restant schade kan aanrichten. Bij een systeem dat over miljoenen dossiers gaat, is bijna één op de honderd antwoorden een fors aantal.

De chart raakt vol

Fierce Healthcare en Becker’s Hospital Review wijzen op een praktisch probleem. Veel ziekenhuizen betalen al voor de AI-functies die Epic zelf levert, en daarbovenop voor een tool die consulten automatisch uitschrijft. ChatGPT komt er als derde laag bij, en de IT-directie mag uitzoeken waar de overlap zit en wie waarvoor verantwoordelijk is. Ondertussen lopen er in de Verenigde Staten rechtszaken tegen OpenAI over gezondheidsadvies van ChatGPT, waaronder een claim van een dominee uit Florida die zegt bijna te zijn overleden na een advies van de chatbot.

Wat dit betekent

De aankondiging gaat over Amerikaanse zorgorganisaties, dus een Nederlandse huisarts krijgt dit morgen niet in beeld. De richting is wel duidelijk. Een algemene chatbot schuift op naar het primaire zorgsysteem, de plek waar tot nu toe gespecialiseerde software zat. We schreven eerder dat Mayo Clinic al 150 AI-modellen in gebruik heeft en dat bijna geen AI-hulpmiddel in de zorg op patiënten is getest. Die twee lijnen komen hier samen: de schaal groeit harder dan het bewijs.

Patiënten lopen intussen vooruit op hun zorgverlener. Uit Pew-cijfers bleek dat een op de drie Amerikanen AI al om gezondheidsadvies vraagt, en Google liet met AMIE zien dat een model een videoconsult op huisartsniveau kan voeren. De vraag voor bestuurders is niet meer of AI het dossier in komt, maar wie er aansprakelijk is als het systeem een keer de verkeerde samenvatting geeft.