Støre har tatt kontakt med andre statsledere etter KI-advarslene
Statsministeren sammenligner KI-selskapenes egne advarsler med våpenprodusenter som mister kontrollen. Han har kontaktet kolleger i andre land og tar saken til FN neste uke.
Av H. S. Pettersen · 2 min lesing
Begreper i denne artikkelen
Statsminister Jonas Gahr Støre har tatt kontakt med regjeringssjefer i andre land for å samordne et politisk svar på advarslene som nå kommer fra KI-selskapenes egne ledere og forskere. Sammenligningen han bruker er hentet fra forsvarsindustrien: hadde tre toppsjefer der sagt at de var i ferd med å miste kontrollen over det de produserte, ville myndighetene grepet inn.
Hva Støre sier han vil gjøre
Til NTB sier Støre at han finner det tankevekkende at lederne for de største amerikanske KI-selskapene advarer mot utviklingen i sine egne bedrifter, og at han nå har nær kontakt med kolleger i andre land om hvordan de politisk skal svare. Temaet tas opp under FNs generalforsamling neste uke. Noe konkret virkemiddel nevner han ikke. Ansvaret han peker på for norsk del er digital sikkerhet for kritiske samfunnsfunksjoner, ikke regulering av modellene.
Advarslene kom innenfra, og de kom med tall
Evan Hubinger, som leder arbeidet med alignment i Anthropic, altså forskningen på å få en modell til å gjøre det utviklerne faktisk mener, anslo 9. september mer enn ti prosents sannsynlighet for at KI utsletter alle mennesker i løpet av det neste tiåret. Anslaget er hans personlige, ikke selskapets, og det kom dagen etter at en kollega sluttet av samme grunn. I juli signerte over 1100 ansatte i OpenAI, Anthropic, Google DeepMind og Meta AI oppropet Pacing the Frontier, som ber amerikanske myndigheter bygge verktøy for å kunne styre farten.
En norsk forsker ber ham se på motivene
KI-forsker Ishita Barua kaller utspillene fryktretorikk og mener det er grunn til å stille spørsmål ved motivene bak dem, siden selskapene i prinsippet kan stoppe seg selv. Nvidia-sjefen Jensen Huang sa tirsdag at KI-sikkerhet er et ingeniørproblem bransjen løser selv, og Beijing har avvist bremsetanken i klartekst. Selv bruker Støre KI omtrent som han tidligere brukte Google, opplyser han, og i snitt 2,5 timer daglig på mobilen.
