TypeSafe laat Jev beslissen in plaats van praten

Vrijwel elk taalmodel geeft tekst terug, ook als een applicatie eigenlijk maar één ding wil weten: welke categorie, welk cijfer, ja of nee. Het Amerikaanse TypeSafe AI probeert die omweg te schrappen met Jev, een model dat direct een getypeerd antwoord teruggeeft met een kansverdeling erbij. Het bedrijf kwam op 15 september uit twee jaar stealth, met 40 miljoen dollar aan financiering onder leiding van DCVC. MarkTechPost publiceerde vandaag een uitgebreide analyse van de API.

Drie soorten vragen, één antwoord

Jev werkt anders dan een chatmodel. Een applicatie stuurt de huidige toestand mee plus een set vragen in drie vormen: een keuze uit maximaal 255 opties, een score op een geordende schaal, of een stelling waarvan het model de waarschijnlijkheid inschat. Alle vragen worden in één verzoek parallel beantwoord tegen dezelfde toestand. Bij elk antwoord zit een confidence-waarde tussen 0 en 1, afgeleid uit de vorm van de kansverdeling.

Die confidence is het punt waar het voor bouwers interessant wordt. Je kunt hoge zekerheid automatisch afhandelen, het middengebied laten nakijken en lage zekerheid doorzetten naar een mens. Dat is lastiger met een model dat losse tekst produceert die je eerst moet parsen.

De cijfers komen van de leverancier zelf

TypeSafe noemt een end-to-end responstijd van 70 tot 500 milliseconden. In een eigen vergelijking deed Jev er 0,114 seconde over een taak waar GPT-5.6 Terra 8,566 seconde voor nodig had, wat het bedrijf vertaalt naar 193,6 keer sneller en 444,6 keer goedkoper. De prijs staat op 0,042 dollar per miljoen invoertokens, met gratis uitvoertokens.

Daar hoort een waarschuwing bij. Het zijn metingen van de leverancier op zijn eigen workflows, en MarkTechPost wijst erop dat niet te controleren valt in hoeverre die prijs gesubsidieerd is. TypeSafe publiceert geen gewichten en geen parameteraantal, en zelf hosten kan niet. De API zit in early access via een wachtlijst, met SDK’s voor Python en JavaScript. The Register schreef op 16 september over de lancering en liet het model onder meer Doom spelen, als demonstratie van beslissen op hoge snelheid.

Achter Jev zit Diogo Almeida, die bij OpenAI meewerkte aan RLHF en InstructGPT. De trainingsmethode noemt het bedrijf Reinforcement Learning for Calibrated Decisions.

Wat betekent dit

De markt beweegt al een tijd richting kleiner en goedkoper voor afgebakende taken, van de prijsverlaging van Alibaba voor audio-input tot modellen die vanaf een SSD draaien. Jev duwt die lijn door tot het uiterste: geen tekst meer, alleen de beslissing. Voor wie agents in productie draait en per stap betaalt aan routering en classificatie, kan dat de rekening merkbaar drukken, zeker nu de totale AI-uitgaven hard oplopen.

Voorlopig blijft het een belofte op papier van de maker. Zonder onafhankelijke metingen, zonder gewichten en met een wachtlijst ervoor is het vooral een signaal dat de eenvormigheid van chatmodellen barsten vertoont. Wie nu een agent bouwt, doet er goed aan te bekijken welke stappen eigenlijk helemaal geen tekst nodig hebben.