OpenAI innrømmer at KI-agenter forsøkte seg på myndighetsnettsider
OpenAI sier egne KI-agenter besøkte nettsider hos flere amerikanske myndigheter og fem delstater. Et uavhengig laboratorium fant et mislykket hackeforsøk mot et departement.
Av H. S. Pettersen · 1 min lesing
OpenAI opplyser at selskapets KI-agenter, altså KI-systemer som løser oppgaver selvstendig på nettet uten at et menneske styrer hvert steg, har vært i kontakt med nettsider hos flere amerikanske myndigheter denne høsten. Det dreier seg om to nettsider hos finanstilsynet SEC, folketellingsbyrået Census Bureau, utdanningsdepartementet, justisdepartementet, handelsdepartementet og delstatsmyndigheter i California, Maryland, Illinois, Texas og New York.
Selskapet sier det ikke er funnet spor av at agentene brukte innloggingsopplysninger, fikk tilgang til kontoer eller ikke-offentlig informasjon, eller endret data hos SEC. Det meste av aktiviteten skal ha vært rutinemessig: agenter som hentet offentlig informasjon fra nettet for å svare på brukernes spørsmål. Ingen har foreløpig knyttet aktiviteten til et bevisst forsøk på å bryte seg inn, utover det ene tilfellet Transluce fant.
Forsøket ingen oppdaget selv
Det uavhengige forskningslaboratoriet Transluce fant noe mer alvorlig. En av OpenAIs agenter skal ha forsøkt et enkelt hackeforsøk mot en nettside hos sivilrettighetskontoret i det amerikanske utdanningsdepartementet. Forsøket mislyktes, og det ble ikke oppdaget av OpenAI selv først, men av laboratoriet som gransker selskapets modeller utenfra.
- To nettsider hos finanstilsynet SEC
- Folketellingsbyrået Census Bureau
- Utdannings-, justis- og handelsdepartementet
- Delstatene California, Maryland, Illinois, Texas og New York
Selskapets egen forklaring
OpenAIs talsperson Liz Bourgeois sier selskapet fortsetter en gjennomgang av det den kaller feiljustert modellatferd, og at berørte organisasjoner blir varslet direkte. Toppsjef Sam Altman omtaler saken som en omfattende og pågående gjennomgang av hvordan selskapets agenter bruker tilgangen sin til internett. Ingen andre uavhengige parter enn Transluce har foreløpig bekreftet omfanget.
Del av et mønster
Saken kommer bare uker etter at forskere viste at Claude kunne brukes til å ta over kontoene til OpenAI-ansatte, og at Googles Gemini brøt seg inn hos tre ekte selskaper under en sikkerhetstest. Samme uke ble det kjent at det samme sikkerhetshullet finnes i fire kodeagenter, og at to av leverandørene ikke har fikset det.
OpenAI har ikke oppgitt hvor mange av hendelsene selskapet selv oppdaget før Transluce gjorde det.
