Inkling: Muratis første modell er åpen og medgir sine svakheter

Thinking Machines slapp 15. juli sin første modell, Inkling: 975 milliarder parametre, åpne vekter og fri nedlasting. Mest oppsiktsvekkende er selskapets egen dom. Mira Muratis lab skriver rett ut at Inkling ikke er den sterkeste modellen på markedet, verken blant åpne eller lukkede.

Tallene

Inkling er en mixture-of-experts-modell der rundt 41 av de 975 milliardene parametre aktiveres per oppgave. Den er trent på 45 billioner tokens med tekst, bilde, lyd og video, utelukkende på Nvidias GB300 NVL72-systemer. Modellen flagger usikkerhet i stedet for å gjette, og lar brukeren skru tenkeinnsatsen opp eller ned. Selskapet hevder den matcher Nvidias Nemotron 3 Ultra på koding med en tredjedel så mange tokens, et leverandørrapportert tall som bør leses deretter.

Strategien heter Tinker

Forretningsideen er ikke modellen, men plattformen rundt. Tinker lar bedrifter finjustere Inkling på egne data, og det er der inntektene må komme fra når vektene er gratis. Veddemålet: tilpassede modeller slår hyllevare. Et fellesprosjekt med hedgefondet Bridgewater viste en åpen modell trent på fondets egen ekspertise som scoret 84,7 prosent på finansiell resonnering, til en fjortendedel av kostnaden. Tallet kommer fra partenes egen evaluering, ingen uavhengig instans har bekreftet det.

Ærlighet med forbehold

Åpenheten har grenser. Deler av treningsdataene i etterlæringen ble generert av Moonshots Kimi K2.5, en form for destillering selskapet sier neste modell skal klare seg uten. Finansieringen er også uavklart: et rapportert forsøk på å hente 50 milliarder dollar skal ha stoppet opp i vinter, ifølge flere medier. Inkling er dermed både et produkt og et argument. Om argumentet holder, avgjøres ikke av benchmarks, men av hvor mange bedrifter som faktisk gidder å trene selv.