Hassabis vil ha KI-vakthund etter Wall Street-modellen
DeepMind-sjefen foreslår et USA-ledet organ som skal teste frontier-modeller før lansering. Bransjen skal betale for sin egen vokter. Innen nyttår.
Demis Hassabis publiserte tirsdag manifestet «A Framework for Frontier AI and the Dawning of a New Age». Forslaget: et USA-ledet tilsynsorgan med makt til å granske verdens mest avanserte modeller før lansering, og til å koordinere en bransjebrems hvis farene vokser. DeepMind-sjefen vil ha organet operativt før nyttår.
FINRA, ikke et statlig tilsyn
Modellen er hentet fra finans. FINRA er den private, bransjefinansierte vakthunden som overvåker Wall Street under tilsyn av det statlige SEC. Hassabis ser for seg et tilsvarende organ for KI: et styre med uavhengig flertall, besatt med Turing-vinnere og andre meritterte eksperter, ved siden av representanter for industri, myndigheter og åpen kildekode-miljøet.
Mekanikken er tostegs. Først deler frontier-labene modellene sine frivillig med organet inntil 30 dager før lansering, for testing på områder som cybersikkerhet og biologi. Når protokollen har vist seg robust, formaliseres den: modeller må bestå for å slippes på det amerikanske markedet. Frivillighet først, portvakt etterpå.
Tredje sjef, tredje modell
Hassabis er ikke først i køen. Anthropic-sjef Dario Amodei har argumentert for bindende, lovfestet regulering. EU-kommisjonen kunngjorde samme uke at cybersikkerhetsbyrået ENISA skal teste modeller før deployering i kritiske sektorer, med en plattform klar innen utgangen av 2026. Alle tre konvergerer på samme premiss: frontier-modeller skal vurderes før de slippes. Uenigheten handler om hvem som eier testen, og hvem som betaler for den.
| Hassabis (DeepMind) | Amodei (Anthropic) | EU-kommisjonen | |
|---|---|---|---|
| Hvem tester | Bransjefinansiert organ under statlig oppsyn | Statlig, bindende regulering | ENISA, EUs cybersikkerhetsbyrå |
| Når | Inntil 30 dager før lansering | Løpende, lovfestede krav | Før deployering i kritiske sektorer |
| Tvang | Frivillig først, deretter markedskrav | Bindende fra start | Påbudt, plattform innen utgangen av 2026 |
| Status | Manifest, foreslått operativt før nyttår | Essay og politiske innspill | Kunngjort, under bygging |
Timingen forklarer forslaget
Future of Life Institute publiserte sin sikkerhetsindeks 7. juli. Beste karakter var C+, til Anthropic. OpenAI og Google DeepMind fikk C, flere aktører strøk. Ekspertpanelet dokumenterte at selskaper har svekket eller forlatt sine egne røde linjer for når utvikling skal stanses. Selvregulering fikk med andre ord nettopp strykkarakter. Svaret fra Hassabis er mer selvregulering, men med uavhengig styre og statlig oppsyn i ryggen.
Forslaget er ikke improvisert. Hassabis har ifølge Axios brukt måneder på å forankre planen hos Trump-administrasjonen, andre lab-ledere og europeiske tjenestemenn før han gikk ut offentlig. «Lydene jeg hører er veldig positive», sier han til Axios.
Hvem vokter vokterens finansiering
Forbeholdene er åpenbare. Hassabis leder et av selskapene organet skal granske, og DeepMind fikk selv C på indeksen som begrunner behovet. FINRA-modellen har dessuten kjente svakheter: et organ betalt av dem det skal overvåke, må bevise uavhengigheten sin i praksis, ikke i organisasjonskartet. Og et USA-ledet organ som portvakt for det amerikanske markedet gjør i realiteten amerikansk politikk til global standard, noe europeiske regulatorer neppe har tenkt å outsource.
Spørsmålet er ikke lenger om frontier-modeller skal testes før lansering. Det er alle forslagene enige om. Spørsmålet er hvem som eier fasiten.
