Fable 5 er tilbake. Prisen var en avtale med staten.
Etter 19 dager i mørket er Anthropics kraftigste modell global igjen. Til gjengjeld gir selskapet myndighetene forhåndstilgang til alt som kommer.
Begreper i denne artikkelen
Claude Fable 5 kom tilbake for brukere over hele verden 1. juli, 19 dager etter at amerikanske myndigheter tvang Anthropic til å stenge den. Handelsdepartementet opphevet eksportkontrollen 30. juni. Men gjenåpningen kom ikke gratis: Anthropic forpliktet seg til å gi myndighetene forhåndstilgang til framtidige frontmodeller før bred lansering.
Hva som utløste det
Utløseren var et jailbreak. Amazon-forskere fant en prompt som fikk Fable 5 til å omgå sikkerhetsfiltrene og, i ett tilfelle, skrive kode som demonstrerte hvordan en sårbarhet kunne utnyttes. Anthropics egen testing viste at samme demonstrasjon kunne fremkalles fra så godt som alle andre modeller på markedet, inkludert selskapets egne eldre versjoner og konkurrentenes. Funnet var med andre ord ikke unikt for Fable 5. Reaksjonen ble likevel den kraftigste myndighetsstyrte modellrestriksjonen til nå.
Klassifisereren og prisen for den
For å komme tilbake trente Anthropic en ny klassifiserer, et filter som gjenkjenner nettopp den teknikken Amazon beskrev. Selskapet oppgir at den stopper teknikken i over 99 prosent av forsøkene. Haken er falske positiver: legitime kodings- og feilsøkingsforespørsler som ligner på angrepet, blir blokkert og rutet til den svakere Opus 4.8, med beskjed til brukeren. Sikkerheten er strammet. Presisjonen led litt under det.
Avtalen bak gjenåpningen
Det som virkelig endret seg, er forholdet mellom Anthropic og staten. Selskapet forpliktet seg til fire ting: forhåndstilgang for myndighetene til framtidige frontmodeller og sikkerhetstiltak, rask varsling om alvorlige jailbreaks, deling av trusseletterretning før publisering, og et felles rammeverk med Amazon, Microsoft og Google for å skåre hvor farlig et jailbreak faktisk er. Mythos 5 er foreløpig bare gjenåpnet for godkjente amerikanske organisasjoner.
Fra motstander til medspiller
Skiftet er bemerkelsesverdig for et selskap som i januar saksøkte Pentagon etter å ha blitt stemplet som en risiko i forsyningskjeden. Anthropic kaller prosessen et skritt i riktig retning og ber om at reglene kodifiseres og gjelder likt for alle frontlaboratorier. Det er en rimelig ambisjon. Det er også en erkjennelse av at et selskap som bygger modeller myndighetene frykter, ikke kan bygge dem alene lenger.
