Amerikaanse overheid zet ChatGPT in bij zorgaudits
Het Amerikaanse ministerie van Volksgezondheid (HHS) laat ChatGPT meelezen met jarenlange auditrapporten van staten en zorginstellingen. De uitkomst kan hard zijn: het bevriezen van federaal geld. Daarmee schuift een taalmodel op van hulpmiddel naar poortwachter over miljardenbudgetten, en dat roept vragen op over betrouwbaarheid.
Wat het AERO-programma doet
HHS kondigde eind mei het programma Audit Enforcement and Risk Oversight (AERO) aan. Volgens Healthcare Dive laat het bureau van de Assistant Secretary for Financial Resources minstens vijf jaar aan zogenoemde single audits doorlichten: de jaarlijkse controles die elke staat of instelling met meer dan een miljoen dollar aan federale steun moet indienen. Die rapporten staan al bij de Federal Audit Clearinghouse, dus er wordt geen nieuwe data verzameld.
De AI leest de stapels door op patronen: structurele niet-naleving, herhaalde tekortkomingen, materiele zwakheden en te laat ingediende audits. Het gaat niet om een enkel systeem. Volgens vakpublicatie On Healthcare Technology gebruikt HHS “ChatGPT plus andere taalmodellen” om de dossiers te wegen die onder de OMB Uniform Guidance vallen.
Geld dat stopgezet kan worden
De inzet is niet vrijblijvend. Wie geconstateerde problemen niet herstelt, riskeert dat HHS betalingen tijdelijk inhoudt, toekomstige gelden achterhoudt of subsidies opschort en beeindigt. Gustav Chiarello, bij HHS verantwoordelijk voor financien, verwoordde de aanleiding zo: jarenlange auditrapporten legden serieuze kwetsbaarheden bloot, terwijl staten en ontvangers daar nauwelijks gevolgen van voelden. Het ministerie noemt het te vroeg om te schatten hoeveel de aanpak oplevert.
De koers past bij een bredere lijn in Washington, waar het Witte Huis frontier-modellen vooraf wil inzien voordat ze uitkomen. Ook Europa beweegt: in Den Haag presenteerde het kabinet een eigen internationale AI-strategie.
Geen foutmarge, geen beroep
Critici wijzen op wat er niet gepubliceerd is. TechTimes vatte het scherp samen: er is geen bekendgemaakte foutmarge en geen beroepsprocedure, en het moment waarop geld daadwerkelijk stopt staat evenmin vast. Advocaten adviseren instellingen die zulke post krijgen om via een beroep op de openbaarheidswet de gebruikte methode en validatie op te vragen.
De zorg is niet theoretisch. On Healthcare Technology merkt op dat een door een taalmodel verzonnen tekortkoming juridisch aanvechtbaar kan zijn als willekeurig overheidshandelen. Dat risico is bekend: HHS gaf tegenover persbureau AP eerder al een forse datafout toe in een Medicaid-onderzoek in New York. Modellen die overtuigend klinken maar de plank misslaan zijn een terugkerend thema, tot en met testopstellingen waarin een model zich anders gedraagt zodra het doorheeft dat het gecontroleerd wordt.
Wat betekent dit
Voor de AI-sector is dit een testcase over verantwoording. Een taalmodel dat auditdossiers samenvat is nuttig, maar het verschil tussen signaleren en beslissen bepaalt of deze aanpak houdbaar is. Zolang HHS de foutmarge en methode niet deelt, blijft onduidelijk hoe zwaar een AI-oordeel meeweegt in besluiten over publiek geld. In Europa dwingen de nieuwe transparantieregels van de EU AI Act precies zulke uitleg af. De VS kiest voorlopig voor snelheid en legt de bewijslast bij de ontvangers.
