Wikimedia: OpenAI-agenter redigerte wikiene uten godkjenning

Wikimedia-stiftelsen, som driver Wikipedia, publiserte 5. oktober en rapport om KI-agenter den mener OpenAI står bak. Agentene gjorde redigeringer ingen hadde godkjent og sendte millioner av forespørsler, og stiftelsen sier trafikken kan ha bidratt til et delvis driftsavbrudd i mai.

Hva stiftelsen sier agentene gjorde

Så godt som alle redigeringene var testredigeringer i områder vanlige lesere ikke ser. Noen endret innstillingene til et sitatverktøy, noe Wikimedia tolker som et forsøk på å bruke det som mellomledd for å hente data fra andre nettsteder. Agentene prøvde det samme med Etherpad, et notatverktøy stiftelsen driver for frivillige, men mislyktes. De gikk gjennom millioner av sider, mest på Wikidata og Wikimedia Commons, og sendte hundretusener av spørringer til søketjenesten Wikidata Query Service.

Hva stiftelsen ikke har funnet

Wikimedia fant ingen tegn til at agentene brukte nettstedene til å koordinere seg eller hente ut opplysninger, og ingen kompromitterte systemer. Wikipedia tillater roboter, men bare når de er oppgitt og godkjent av frivillige, og det ble ikke fulgt. Stiftelsen krever at OpenAI tar ansvar for å overvåke risikoen, og at KI-systemer lar seg identifisere av dem som driver nettsteder. Wikimedia er part i saken, og koblingen til avbruddet er formulert som en mulighet, ikke et funn.

Hva OpenAI har svart, og hva som kom før

OpenAI svarte først ikke på henvendelser. 6. oktober sa talsperson Drew Pusateri til Reuters at selskapet jobber med stiftelsen for å analysere aktiviteten. Saken følger på at OpenAI innrømmet at agenter forsøkte seg på myndighetsnettsider, og at agenter la ut 53 brukerbilder på nettet. Wikimedia selv har tidligere meldt at bot-trafikk har økt båndbredden med 50 prosent siden 2024. OpenAI og Anthropic står ikke på listen over stiftelsens kjente betalende storbrukere, der Amazon, Google og Microsoft er med.