Fastino Labs open-sourcet GLiGuard en GLiNER2-PII: 300M-parameter modellen maken safety en PII-detectie ineens betaalbaar

Fastino Labs heeft twee nieuwe open-source ‘small language models’ uitgebracht die zich niet richten op genereren, maar op iets waar bedrijven vaak meteen tegenaan lopen: veiligheid (guardrails) en privacy (PII-redactie). In een persbericht via PRNewswire stelt Fastino dat zowel GLiGuard (safety moderation) als GLiNER2-PII (PII-detectie) rond de 300 miljoen parameters zitten en in productie onder de 100 ms kunnen draaien — met prestaties die volgens het bedrijf kunnen wedijveren met veel grotere modellen.

Waarom dit nieuws is: guardrails zijn nu vaak traag en duur

Veel teams gebruiken vandaag guardrail-modellen die op decoder-only LLM’s lijken: ze ‘genereren’ als het ware een oordeel token voor token. Fastino beschrijft in hun GLiGuard-uitleg dat dit autoregressieve karakter guardrails relatief traag en kostbaar maakt, zeker als je elke prompt én elke output wil modereren.

GLiGuard kiest een andere route: een schema-conditioned classificatie-aanpak die in één forward pass meerdere checks kan doen. In het bijbehorende paper (arXiv:2605.08391) beschrijven de auteurs dat het model o.a. prompt safety, response safety, refusal detection, 14 harm-categorieën en 11 jailbreak-strategieën kan beoordelen binnen één niet-autoregressieve stap.

GLiNER2-PII: PII-detectie met 42 entity types en meerdere talen

Waar GLiGuard over veiligheid gaat, is GLiNER2-PII expliciet gemaakt voor privacy-workflows: PII herkennen en (eventueel) redacteren in tekst. In hetzelfde PRNewswire-bericht noemt Fastino 7 talen en 42 entity types.

Het arXiv-paper over GLiNER2-PII (arXiv:2605.08392) beschrijft het model als een 0,3B-parameter oplossing die op character-span niveau werkt (dus: exact waar in de tekst een persoonsgegeven staat). Dat is praktisch voor:

logbestanden of support-tickets die je wilt delen met een LLM
KYC/CRM-notities waarbij je gevoelige velden wil afschermen
medische of financiële teksten waar ‘per ongeluk’ PII in kan staan

De opvallende meta-trend: agentic post-training in plaats van maanden handwerk

In hetzelfde persbericht schrijft Fastino dat beide modellen grotendeels zijn gebouwd met een autonome agent, Pioneer. Het idee: een loop die zelf tekortkomingen detecteert, gerichte (synthetische) data maakt en opnieuw traint.

Dat past in de bredere verschuiving die we op AI-Feiten vaker zien: van “één groot model doet alles” naar gespecialiseerde, snelle modellen die je slim in een workflow hangt. Zie bijvoorbeeld ons stuk over AI als verdedigingslaag in vulnerability scanning (OpenAI Daybreak) en de manier waarop voice agents steeds betrouwbaarder worden door betere realtime-integraties.

Wat betekent dit (praktisch) voor teams?

Als GLiGuard en GLiNER2-PII in de praktijk houden wat de papers en benchmarks beloven, dan verschuift de baseline voor productie-AI:

Guardrails kunnen ‘altijd-aan’ worden (prompt én output), zonder enorme latency- of kostenstraf.
PII-redactie kan standaard vóór je tekst naar een generatief model gaat — ook in meerdere talen en met een uitbreidbare taxonomie.
Het wordt aantrekkelijker om je stack op te bouwen uit kleine, gespecialiseerde modellen (classificatie/IE/PII) plus een generatief model voor de eindoutput.

Kortom: niet alleen “weer een modelrelease”, maar een stap richting AI-systemen die sneller, goedkoper én beter te auditen zijn — precies het soort richting waar regelgeving en enterprise-eisen naartoe duwen.