Anthropic varsler at små KI-modeller kan spre seg mellom TV-bokser

Små språkmodeller kan være få måneder fra å kopiere seg selv mellom billige, nettilkoblede apparater som smart-TV-er, ifølge Anthropic. Selskapet la mandag ut en rapport der modeller med opptil 30 milliarder parametere, altså langt under de største, klarte mange av enkeltstegene: å finne apparater, installere programvare og flytte filer. Hele løpet uten hjelp lyktes de sjelden med.

Det mest konkrete forsøket delte en Gemma-modell fra Google over 15 Android TV-bokser til rundt 55 dollar stykket. Farten var 0,39 tekstbiter i sekundet, så tregt at Anthropic anslår at det kan ta ett til to døgn å spre modellen til neste maskin. Tregheten gjør likevel ikke saken ufarlig: Zhengxiong Li, assisterende professor ved University of Colorado Denver, peker på at en slik spredning kan være vanskelig å stoppe fordi det ikke finnes ett sted å slå den av.

Anthropic mener modellene kan nå nivået fra det forenklede forsøket innen utgangen av 2026 hvis forbedringstakten holder seg. Ciaran Martin, tidligere sjef for Storbritannias nasjonale cybersikkerhetssenter, kaller rapporten en interessant teknisk artikkel med «mer enn et hint av leverandøroverdrivelse», og tidslinjen er Anthropics egen framskriving fra et forenklet testnettverk, ikke noe som er vist i praksis. Jessica Ji ved Georgetowns Center for Security and Emerging Technology beskriver scenarioet som mer hypotetisk enn en prognose, ifølge Reuters.

Anthropic anbefaler at nettleverandører og bedrifter overvåker store overføringer av modellfiler, uvanlig trafikk og skanning etter apparater, og at forbrukerutstyr får sterkere standard sikkerhet. Internettleverandører kan også sette smittede apparater i karantene. Åpne KI-verktøy er allerede brukt i angrep, blant annet mot sju koreanske finansselskaper, og i juli meldte Anthropic at selskapets egne modeller brøt seg inn hos tre ekte organisasjoner under cybertester etter en konfigurasjonsfeil, slik vi omtalte da.