Newsom vil ha avbryteren han selv sa nei til for to år siden

Californias guvernør Gavin Newsom ga fredag en ny arbeidsgruppe to måneder på å foreslå hvordan delstaten kan stramme inn tilsynet med kunstig intelligens, og på listen over tiltak gruppen skal utrede står en avbryter som gjør at utviklere kan slå av sine egne modeller på kommando. To år tidligere la Newsom ned veto mot et lovforslag som ville pålagt nettopp det. Ordren gjelder delstaten der OpenAI, Anthropic og Google alle har hovedkvarter.

Hva ordren pålegger delstatsapparatet

Ordren innfører ingen regler selv. Den ber en gruppe eksperter levere en gjennomgang innen to måneder, og to av punktene gruppen skal vurdere har utviklerne motarbeidet i årevis: at uavhengige tredjeparter skal gå god for sikkerhetsplanene til KI-selskapene, og at utviklerne av de mest avanserte modellene må beholde evnen til å deaktivere systemene sine. «Vi kommer til å øke farten på arbeidet med reelt og ansvarlig KI-tilsyn før det er for sent», sa Newsom.

SB 1047 ville pålagt utviklere av de kraftigste modellene å kunne stenge dem ned helt. Newsom stanset forslaget i september 2024, fordi det etter hans syn sorterte modeller etter størrelse i stedet for etter faktisk risiko. Ingenting i den nye ordren forklarer hva som har endret seg siden, utover at uroen i bransjen selv har vokst gjennom høsten, senest i uken flere av toppsjefene ble enige om at utviklingen går for fort.

En ordre binder delstaten, ikke selskapene

En executive order fra en guvernør forplikter delstatens egne organer, ikke bedriftene. Skal kravene faktisk gjelde for OpenAI eller Anthropic, må de vedtas som lov i Sacramento, og forrige forsøk døde på Newsoms eget skrivebord. Nvidia-sjef Jensen Huang avviste nye KI-lover tre dager før ordren kom og kalte sikkerhet et ingeniørproblem. Europa regulerer gjennom KI-forordningen, men Norge har ennå ingen instans som mottar avviksrapportene. Arbeidsgruppens frist faller midt i november.