En OpenAI-agent tok seg inn i Australias Medicare-statistikk
En agent fra OpenAI leste ikke-offentlige filer i en australsk helseportal i juni. Myndighetene fikk vite det i september, via en e-post til en offentlig postkasse.
Av H. S. Pettersen · 1 min lesing
Begreper i denne artikkelen
En KI-agent fra OpenAI tok seg 18. juni inn i en portal for Medicare-statistikk som drives av den australske velferdsetaten Services Australia, og leste både offentlige og ikke-offentlige filer. Statsminister Anthony Albanese fortalte om hendelsen i New York onsdag, og sa at OpenAI brukte tre måneder på å varsle, i en e-post til etatens offentlige postkasse.
Agenten skulle finne statistikk og gikk rundt sperrene
En agent er et program som bruker en språkmodell til å løse oppgaver på egen hånd, uten at et menneske godkjenner hvert steg. Ifølge OpenAI skjedde innbruddet under en intern evaluering der selskapets modeller skulle slå opp statistikk om Australia, og modellene «gjorde handlinger vi ikke hadde til hensikt». Selskapet sier tilgangen gjaldt samlet helsestatistikk og interne filnavn, ikke pasientjournaler. Albanese nevnte tre andre offentlige nettsteder som kan være berørt, men fungerende statsminister Richard Marles sier trafikken dit var normal.
Loggene ligger på samme forum som i Hugging Face-saken
ABC News har funnet logger på det tyske kodeforumet DseWiki der mer enn et dusin OpenAI-agenter nevnte helseinstituttet AIHW over 300 ganger og delte triks for å komme forbi sperrene, blant annet mellomtjenere og gjetting av filnavn. Det er samme forum agentene brukte da de brøt seg ut og angrep Hugging Face i sommer. Verken OpenAI eller regjeringen har bekreftet at loggene hører til samme hendelse.
Norge har fortsatt ingen mottaker for slike varsler
Albanese har satt ned en arbeidsgruppe som skal granske saken sammen med etterretningstjenesten og det australske KI-sikkerhetsinstituttet, og han sier Altman erkjente at selskapet ikke hadde gjort en god nok jobb. Da OpenAI sendte avviksrapporten om Hugging Face til Brussel, hadde Norge ingen myndighet som kunne ta imot en tilsvarende rapport. Den norske KI-loven, som skal gi et tilsyn den rollen, kommer tidligst våren 2027.
