KI-rapport sendte amerikanske kampfly mot et kinesisk skip
Rapporten hevdet at skipet fraktet atomvåpenkomponenter, og soldater gjorde seg klare til å borde det. En kontroll rett før operasjonen viste at en chatbot hadde tatt feil.
Av H. S. Pettersen · 2 min lesing
Begreper i denne artikkelen
En etterretningsrapport som hevdet at et kinesisk skip i Midtøsten fraktet komponenter til atomvåpen, fikk det amerikanske forsvaret til å planlegge en bordingsoperasjon i vår, mens USAs angrep mot Iran pågikk. Rapporten var laget med kunstig intelligens, og chatboten analytikeren brukte hadde identifisert lasten feil. CNN meldte saken torsdag, basert på fire kilder som kjenner hendelsen.
Hvor langt operasjonen var kommet
To av kildene sier at bevæpnede amerikanske soldater forberedte seg på å gå om bord, og kampfly var sendt på vingene, ifølge én av disse og en fjerde kilde. Like før operasjonen skulle gjennomføres, dobbeltsjekket tjenestemenn rapporten og oppdaget hvordan den var blitt til. En av kildene beskriver den som helt uriktig og sier den nær hadde startet en krig.
Hvordan feilen oppsto
Rapporten var skrevet av en analytiker ved en spesialoperasjonskommando. Chatboten kombinerte åpent tilgjengelig informasjon med hemmelig signaletterretning fra statlige databaser, og konkluderte med at lasten hørte til et atomvåpenprogram. Analytikeren brukte deretter KI på nytt for å pakke funnene inn i standardformatet for etterretningsrapporter, den typen militæret behandler som etterprøvd. Det er nettopp dette leddet, der en modells resonnement blir vanskelig å ettergå, som utviklerne selv har flagget i de nyeste modellene. CNN skriver at kanalen ikke har fått klarlagt hva lasten faktisk besto av.
Hvor opplysningene kommer fra
Hele fremstillingen kommer fra CNNs anonyme kilder, og ingen amerikansk myndighet har bekreftet forløpet offentlig. Det som er dokumentert uavhengig, er retningen: amerikansk forsvar og etterretning innfører KI-verktøy i nærmest alle deler av arbeidet sitt, samtidig som sentrale bransjestemmer mener at sikkerhet er et ingeniørproblem som løser seg underveis. Feilen ble fanget opp fordi noen leste rapporten en gang til. Ingen av kildene sier at det var rutine.
