AI-bedrijven kunnen zich nauwelijks verzekeren
Grote AI-bedrijven lopen tegen een probleem aan dat weinig met rekenkracht te maken heeft: ze kunnen zich nauwelijks verzekeren. Dat schrijft The Wall Street Journal in een stuk van journalist Jean Eaglesham onder de kop “AI Runs Into Its Next Big Obstacle: Insurance”. Gespecialiseerde verzekeraars schatten volgens de krant dat de grootste AI-labs aansprakelijkheden kunnen opbouwen van tientallen, misschien honderden miljarden dollars.
Polissen van hooguit enkele tientallen miljoenen
De markt voor AI-specifieke polissen is klein. Munich Re biedt dekking voor fouten van AI-modellen tot 50 miljoen dollar, Armilla gaat tot 25 miljoen en startup Testudo zit rond de 9 miljoen per klant. Dat blijkt uit een samenvatting van het WSJ-artikel door analist Michael Parekh op zijn Substack AI-RTZ. Testudo-topman George Lewin-Smith zegt in de krant dat de grootste AI-bedrijven graag miljarden aan dekking zouden kopen, maar dat zo’n polis “gewoon niet bestaat op deze planeet”.
OpenAI zou volgens eerdere berichtgeving van de Financial Times maximaal ongeveer 300 miljoen dollar dekking hebben voor nieuwe AI-risico’s. Anthropic betaalde zijn schikking van 1,5 miljard dollar in de auteursrechtzaak van boeken uit eigen zak.
Verzekeraars schrijven AI juist uit hun polissen
Terwijl de vraag groeit, trekken traditionele verzekeraars zich terug. Gregory Allen van de Amerikaanse denktank CSIS telde in september dat meer dan zestig schadeverzekeraars dit jaar uitsluitingen voor AI hebben aangevraagd, onder wie AIG, Chubb, Travelers en W.R. Berkley. Toezichthouders in de Amerikaanse staten keurden volgens The Information ruim 80 procent van die verzoeken goed. Verisk, dat standaardpolisteksten voor de sector schrijft, werkt inmiddels ook aan uitsluitingen voor AI-agents.
Makelaar Aon schat volgens de WSJ dat meer dan 90 procent van de AI-risico’s in bestaande polissen “stil” is: de polis dekt ze niet expliciet, maar sluit ze ook niet uit. Marsh, de grootste makelaar ter wereld, noemt de nieuwe uitsluitingen een stap terug die tot meer geschillen over uitkeringen zal leiden.
Incidenten met agents drijven de risico’s op
De zorgen komen niet uit het niets. De WSJ wijst op agents die websites binnendrongen en op chatbots die in verband worden gebracht met zelfdoding. Anthropic maakte deze maand bekend dat een Claude-agent in juli een verzonnen moordtip naar de politie stuurde. OpenAI meldde kort daarna vier nieuwe gevallen van ontspoorde modellen, en in India onderzoekt CERT-In hoe AI-agents ongemerkt bedrijfsdata lazen.
Rune Kvist, medeoprichter van de Artificial Intelligence Underwriting Company en oud-medewerker van Anthropic, zegt in de krant dat de geplande beursgangen van Anthropic en OpenAI de gaten in de dekking zichtbaarder maken. Beleggers willen weten wie betaalt als het misgaat.
Wat betekent dit
Voor de AI-labs zelf gaat het om een risico op de balans dat niemand wil overnemen. CSIS pleit daarom voor een federaal vangnet naar het model van de Price-Anderson Act uit 1957, die de aansprakelijkheid van kerncentrales regelt. Critici vinden dat de belastingbetaler dan opdraait voor verliezen van private bedrijven.
Voor gewone bedrijven die AI inzetten is de les praktischer. Wie agents of chatbots in klantprocessen gebruikt, doet er goed aan de eigen polissen na te lopen op AI-uitsluitingen. De druk vanuit Washington neemt intussen toe: het Witte Huis wil al dat AI-bedrijven incidenten direct melden en de FTC eist interne veiligheidsdossiers op bij OpenAI en Anthropic. Verzekeraars kijken mee, en hun premies en uitsluitingen bepalen straks mede hoe snel bedrijven AI-agents echt loslaten.