TypeSafe selger en modell som svarer med sannsynligheter, ikke tekst
Jev returnerer ingen setninger, bare tall med usikkerhet, og koster 0,042 dollar per million tokens inn. Alle ytelsestallene er selskapets egne, noe selskapet selv sier tydelig.
Av H. S. Pettersen · 2 min lesing
Begreper i denne artikkelen
Selskapet TypeSafe AI slapp 15. september en modell som bryter med formatet resten av bransjen bruker: den tar imot tekst, men gir ingen tekst tilbake. Jev returnerer sannsynligheter for svaralternativer utvikleren har definert på forhånd, sammen med et mål på hvor sikker modellen er.
Hva modellen faktisk returnerer
Utvikleren sender inn en tilstand, typisk en tekst eller noen navn og verdier om en kunde eller en søknad, og stiller ett eller flere spørsmål. Spørsmålene er av tre slag: ja eller nei med en sannsynlighet mellom null og én, valg mellom opptil 255 alternativer, eller en poengsum på en skala utvikleren selv beskriver. Alle spørsmål besvares samtidig, ikke ett ord av gangen, og derfor ligger svartiden mellom 70 og 500 millisekunder. Modellen kan ikke hallusinere, altså finne på innhold, fordi den ikke har noe rom å finne på noe i.
| Jev | Vanlige språkmodeller | |
|---|---|---|
| Pris inn, per million tokens | 0,042 dollar | 0,20 til 10 dollar |
| Pris ut | Gratis | Rundt fem ganger prisen inn |
| Svartid | 70 til 500 millisekunder | 3 til 329 sekunder |
| Utdata | Tall med sannsynlighet | Tekst som må tolkes |
| Begrunnelse | Ingen | Kan bes om, men er ikke etterprøvbar |
Tallene for fart og pris kommer fra selskapet selv
Forsiden lover 193,6 ganger raskere og 444,6 ganger billigere, og tallene stammer fra TypeSafes egne arbeidsflyttester. Selskapet er uvanlig åpent om svakhetene: referansesvarene er gjennomsnittet av GPT-6 Astra og Fable 5.1, som trekker resultatene mot OpenAI og Anthropic. Testene er laget av selskapets egen fagavdeling, og selskapet skriver at «noe skjevhet kan finnes». Null prosent hallusinering er ikke målt, det følger av at feil format er matematisk umulig. Prisen på 0,042 dollar per million tokens inn ligger under OpenAIs billigste modell, som koster 0,05.
Ingen begrunnelse følger med svaret
Det er her innvendingen sitter. En språkmodell kan i det minste bes om å forklare seg, selv om forklaringen ikke nødvendigvis stemmer med det som skjedde inne i den. Jev gir bare tallet. Utvikleren Simon Willison, som har testet modellen til å sortere søketreff, håper ingen bruker den til å rangere jobbsøkere, siden et desimaltall kan skjule skjevheter ingen får se. Advarselen er relevant i Europa, der KI-forordningen stiller ekstra krav til systemer som sorterer mennesker. Innen en uke kom kopier bygget på åpne vekter, blant dem Kev, som bruker Qwen 3.5. Modellen heter Jev etter økonomen William Stanley Jevons, som beskrev hvordan billigere kull ga høyere forbruk, ikke lavere.
