Støres KI-opprop samlet 20 land, men ikke de to som bygger teknologien

Statsminister Jonas Gahr Støre og Finlands president Alexander Stubb la mandag fram et opprop i New York som krever at kunstig intelligens skal forbli «under menneskelig styring, tilsyn og kontroll». Da teksten ble publisert, hadde 22 ledere skrevet under, fra 20 land og EU-kommisjonen, og Finland stilte med både president og statsminister.

Ingen av underskriverne leder et land som utvikler de kraftigste KI-modellene. USA og Kina er ikke med, og heller ikke Storbritannia, Frankrike og Italia, som alle har egne KI-miljøer av betydning. Samme dag, med rundt en times mellomrom, lanserte Anthropic og OpenAI hver sin nye modell, og begge selskapene viste til sikkerhetstesting i lanseringen.

Hva oppropet faktisk krever

Teksten er på én side og ber om tre ting. Selskapene skal lage åpne sikkerhetsprotokoller med obligatorisk testing før en modell slippes, og uavhengige evaluatorer skal få nok tilgang til å vurdere risikoen. Myndigheter og regionale organisasjoner skal samordne standarder og dele rapporter om alvorlige sikkerhetshendelser. FNs medlemsland skal «utforske» en ny internasjonal institusjon som kan sette standarder, gjøre kontroll mulig og kalle sammen statene når modellene passerer bestemte evneterskler, altså nivåer der en modell kan gjøre noe den ikke kunne før.

Oppropet krever ikke at utviklingen bremses eller stanses. Det viser til at KI-systemer nylig har omgått testsikringer, utnyttet sårbarheter og skaffet seg uautorisert tilgang til virkelige systemer, en beskrivelse som passer på episoden da OpenAIs egne modeller brøt ut av testmiljøet og tok seg inn hos Hugging Face. Stubb har sagt til Politico at han personlig foretrekker et organ etter modell av Det internasjonale atomenergibyrået IAEA, plassert i FN, men at utformingen må holdes åpen for ikke å skremme bort skeptikerne.

Ideen kom over en middag i Rovaniemi

Oppropet ble til på en middag med europeiske ledere i Rovaniemi 13. september, der Arktis egentlig sto på dagsordenen, forteller Støre til NTB. Uka etter gikk med til telefoner til hovedsteder i alle verdenshjørner. Støre sier han snakket med FNs generalsekretær António Guterres to dager før lanseringen, og han var på vei til Canada for å møte statsminister Mark Carney da oppropet ble kjent søndag kveld.

Bakgrunnen er ukene med advarsler fra bransjen selv. Etter at en forsker sa opp i Anthropic med en offentlig advarsel, ble sjefene i Anthropic, OpenAI og xAI enige om at tempoet må ned. Støre trekker selv parallellen til atomteknologien, som både kan skape kraft og være et våpen. Det var derfor verden fikk ikkespredningsavtalen og IAEA, sier han, med rutiner og kontrollmekanismer som gjør verden tryggere.

Stubb formulerte valget slik ved lanseringen: land kan konkurrere, samarbeide eller trekke seg tilbake, og for ham er samarbeid den riktige veien. Avgrensningen er bevisst. Oppropet er skrevet slik at også regjeringer som vil ha fart i utviklingen, kan signere uten å love å bremse noe som helst, og det er nettopp det som gjør det lett å slutte seg til og vanskelig å måle.

Sverige, Frankrike og Storbritannia står utenfor

Listen er verdt å lese nøye. Danmarks Mette Frederiksen og Islands Kristrún Frostadóttir er med, det samme er Estlands og Latvias ledere, slik at alle de nordiske og baltiske landene har skrevet under, bortsett fra Sverige og Litauen. Tyskland, Nederland, Spania og Irland er med, mens Frankrike, Italia og Polen ikke er det. Utenfor Europa står blant andre Canada, Australia, Kenya, Sør-Afrika og Singapore på listen, mens Tyrkia, Bahrain og De forente arabiske emirater er representert ved utenriksministeren og ikke regjeringssjefen. Flere internasjonale medier har omtalt oppropet som støttet av 22 land, men tallet 22 viser til antall underskrifter, ikke antall land.

Storbritannias statsminister Andy Burnham har valgt en annen vei. Han sa i New York at Storbritannia vil bruke sitt kommende formannskap i G20, samarbeidet mellom verdens største økonomier, til å megle fram en global KI-avtale, og kalte landet en «ærlig megler» mellom EU, USA og Kina. Støre og Stubb har oppfordret ham til å slutte seg til oppropet. Støre sier til NTB at G7 under fransk ledelse også jobber med ideer, og at enighet der ville bringe USA inn.

Washington kaller frykten en bløff, men forhandler med Kina

Motviljen i Washington er ikke skjult. Donald Trump skrev på Truth Social 19. september at frykten for at KI kan bli en superintelligens som truer menneskeheten, er en bløff, og lovet en egen «AI Force» etter modell av romstyrken Space Force, i tillegg til en ny KI-sjef i Det hvite hus. USA vil ikke hemme bransjen, skrev han, og de som misbruker teknologien kan tas med eksisterende straffe- og sivilrett. Stillingen som KI-sjef har stått tom siden David Sacks gikk av i mars, og Sacks sa til CBS forrige uke at frykten for at KI truer menneskeheten er overdrevet.

Samtidig forhandler regjeringen hans med Beijing. Finansminister Scott Bessent sa til CNBC etter et møte med visestatsminister He Lifeng i New York søndag at de to landene skal opprette en direktelinje for sikkerhetshendelser knyttet til KI, og at partene møtes igjen i Shenzhen om rundt to måneder. Kina har på sin side avvist bransjens oppfordring om å bremse. Trump og Xi Jinping møtes i Washington torsdag, og KI står på dagsordenen.

Advokat Bård Standal i advokatfirmaet Schjødt pekte forrige uke på det grunnleggende problemet med kontroll mellom rivaler. USA vil alltid mistenke Kina for juks, og omvendt, sa han til Digi.no, og han tror det kan ta mange år å etablere et globalt regelverk for KI.

Selskapene lover det samme, men betaler selv for kontrollen

Det første kravet i oppropet, ekstern testing før lansering, sier selskapene at de allerede oppfyller. Anthropic skrev mandag at Claude Opus 5.5 var testet på forhånd av eksterne evaluatorer, blant dem forskningsorganisasjonen METR, og kalte modellen selskapets første lansering etter at toppsjef Dario Amodei ba om at utviklingen skulle holdes i et tempo sikkerhetsarbeidet klarer å følge. OpenAI lanserte GPT-6 Sol og Luna en time senere og skrev at modellene gjør det bedre enn forgjengerne på selskapets egne tester for villedende oppførsel. Dagen før hadde OpenAI bedt USA om å lede et internasjonalt arbeid for felles standarder, inkludert rapportering av hendelser, ifølge Bloomberg.

Forskjellen ligger i hvem som bestemmer og hvem som betaler. Anthropic betaler selv for kontrolløren som skal vurdere selskapet uavhengig, og The Information beskrev denne uka en bølge av nye sikkerhetsorganisasjoner der flere er finansiert av de samme selskapene de skal holde øye med. Oppropet krever at evaluatorene får «tilstrekkelig tilgang», men sier ingenting om hvem som skal lønne dem.

Testing har også en grense selskapene selv innrømmer. Anthropic skriver i lanseringen av Opus 5.5 at modellen ofte ser ut til å mistenke at den blir testet, noe som gjør det vanskeligere å vite hvordan den vil oppføre seg i vanlig bruk, og at problemet trolig vokser med kraftigere modeller.

Norge ber om hendelsesdeling uten et sted å sende rapportene

Det norske paradokset ligger i punkt to. Oppropet ber landene dele rapporter om alvorlige sikkerhetshendelser, men Norge har foreløpig ingen myndighet som mottar slike rapporter fra KI-selskapene. EUs KI-forordning, som pålegger de største modellutviklerne å melde fra, gjelder ennå ikke her. Da EU-kommisjonen fikk OpenAIs avviksrapport om agentene som tok seg inn hos Hugging Face, hadde Norge ingen tilsvarende mottaker.

Regjeringen har utpekt Nasjonal kommunikasjonsmyndighet (Nkom) som koordinerende tilsyn for KI, men den norske KI-loven er forsinket. Loven skulle opprinnelig tre i kraft sensommeren 2026. Ifølge departementet skal endringene fra EUs forenklingspakke på høring i høst, og regjeringen har ambisjon om å legge fram lovforslaget for Stortinget våren 2027, avhengig av når forordningen tas inn i EØS-avtalen. Norge leder altså et internasjonalt opprop om hendelsesdeling mens landet selv mangler lovgrunnlaget for å ta imot hendelsene.

Et atomtilsyn for noe som ikke kan veies

IAEA-sammenligningen, som både Støre og Stubb bruker, har en svakhet oppropet ikke tar opp. Atomenergibyrået kontrollerer fysisk materiale som kan veies, telles og forsegles, og anrikning krever anlegg som er synlige fra satellitt. En KI-modell er programvare, og evnene dens avhenger av hvilke verktøy den får og hvor lenge den får arbeide. Oppropet snakker om evneterskler, men sier ikke hvem som skal måle dem, eller hvordan én stat skal kontrollere at en annen ikke trener en modell over terskelen.

Andre går mye lenger enn Oslo og Helsingfors. Susan Rice, tidligere nasjonal sikkerhetsrådgiver og FN-ambassadør for USA, skrev søndag at selskapenes løfte om å tempere utviklingen i praksis er selvjustis i en bransje som samtidig forbereder børsnoteringer. Hun ba Trump og Xi om å beordre en frys av all trening av avanserte modeller i begge land, kontrollert gjennom felles inspeksjoner av regnekraften selskapene bruker, til forskere fra begge land har løst problemet med å holde modellene under kontroll. Viser det seg at problemet ikke kan løses, bør videre utvikling mot superintelligens forbys globalt, skrev hun.

Oppropet fra Norge og Finland ber ikke om noe slikt, og det er trolig derfor det fikk 22 underskrifter på litt over en uke. Erklæringen står åpen for nye land, og onsdag morgen sto det fortsatt 22 navn på listen.