Substack gaat AI-tekst opsporen met Pangram

Substack heeft een functie toegevoegd die lezers laat zien hoeveel van een tekst waarschijnlijk door AI is geschreven. Het platform werkt daarvoor samen met Pangram, een bedrijf gespecialiseerd in het herkennen van machinetekst. Engadget en Dataconomy melden dat de tool sinds 21 juli beschikbaar is op het web en in de iOS-app, met Android later. De analyse draait alleen op stukken langer dan 100 woorden.

Hoe de detectie werkt

Lezers zien bij een verdachte publicatie een label dat een inschatting geeft van het aandeel AI-tekst. Substack presenteert dat als een signaal voor de lezer, niet als een hard oordeel. In zijn eigen aankondiging geeft het platform toe dat er grenzen zitten aan wat Pangram kan zien, en het hint op vervolgfuncties rond AI-content en voorkeuren van schrijvers. Die nuance is terecht, want de techniek achter AI-detectie is minder betrouwbaar dan de labels suggereren.

Voor uitgevers op het platform verandert er iets in de praktijk. Een schrijver die AI als hulpmiddel gebruikt en de tekst grondig herschrijft, valt anders op dan iemand die een prompt rechtstreeks plakt. Dat verschil is precies waar detectors moeite mee hebben.

Waar detectors de mist in gaan

Onderzoek dat Epoch AI en The Decoder beschrijven, legt de zwakke plek bloot. Als een taalmodel vijf voorbeelden van een specifieke auteur krijgt en de opdracht die stijl na te bootsen, glipte gemiddeld 13 procent van de teksten (38 van de 297 passages) langs de detector. Bij wetenschappelijk schrijven liep het misspercentage op tot 48 procent. Pangram herkende bijvoorbeeld bijna de helft van de door Gemini gegenereerde academische passages niet als machinetekst.

Dat is ongemakkelijk, want juist bij formele en academische teksten wordt dit soort controle het vaakst ingezet. Detectors zijn sterk in het niet ten onrechte beschuldigen van menselijke schrijvers, maar zwak zodra een model bewust een menselijke stijl imiteert. Wie de uitkomst wil beïnvloeden, kan de tekst laten herschrijven; datzelfde patroon zagen we eerder bij tools die scholieren helpen om AI-detectie te omzeilen.

Detectie versus herkomst

De bredere discussie draait niet alleen om detectie achteraf, maar ook om herkomst vooraf. Technieken rond content provenance, waarbij een bestand zelf vastlegt hoe het is gemaakt, gelden als een steviger fundament dan het achteraf raden of iets van een mens komt. Ook de transparantieregels van de EU AI Act die op 2 augustus 2026 ingaan, verplichten aanbieders om AI-content te markeren in plaats van gebruikers te laten gokken.

Wat betekent dit

Voor Substack is de Pangram-integratie een manier om lezers houvast te geven zonder schrijvers keihard te bestraffen. Wie de cijfers uit het onderzoek leest, ziet meteen de valkuil: een detector die de helft van goed nagebootste teksten mist, is een hulpmiddel en geen bewijs. Voor redacties, docenten en schrijvers blijft menselijke beoordeling nodig, zeker in het onderwijs, waar een fout label meteen iemands reputatie raakt. De richting is duidelijk: markeren bij de bron wint het op termijn van detecteren achteraf.