When AI builds itself: Claude skriver 80 prosent av egen kode, og Anthropic ber om pause
Selskapet som akselererer hardest ber verden om en pauseknapp. Anthropic sier Claude nå skriver mesteparten av sin egen kode. Kritikerne er ikke overbevist.
Begreper i denne artikkelen
Anthropic publiserte 4. juni notatet When AI Builds Itself, skrevet av Marina Favaro og Jack Clark. Påstanden: over 80 prosent av koden som ble flettet inn i selskapets produksjonskodebase i mai, var skrevet av Claude. Konklusjonen: verden bør ha muligheten til en verifiserbar global pause i frontier-utviklingen.
Hva notatet hevder
Tallene er Anthropics egne og ikke uavhengig revidert. Notatet tegner en vei mot rekursiv selvforbedring, der AI forbedrer AI raskere enn mennesker kan følge med, og ber om en verifiserbar global pause betinget av at amerikanske og kinesiske laboratorier stanser samtidig under ekstern kontroll.
Selvmotsigelsen
Selskapet som trår hardest på gassen ber verden om en brems. Anthropic sender ut Claude Code, leier hele Colossus 1, henter 65 milliarder dollar, og advarer samtidig om at teknologien forbedrer seg selv for fort. Både akselerasjonen og advarselen kommer fra samme kilde.
«sannsynligheten for menneskefri rekursiv selvforbedring innen 2028 er under 10 prosent»
Kritikerne
Gary Marcus anslår sannsynligheten for menneskefri rekursiv selvforbedring innen 2028 til under 10 prosent. Mark Riedl ved Georgia Tech mener bransjen hopper på hype-toget. 80-prosent-tallet er internt og urevidert. Og timingen, kort etter en konfidensiell børssøknad og en runde nær en billion dollar, reiser spørsmålet om advarselen også er markedsføring.
Hva det betyr
For norske lesere er poenget ikke om Claude faktisk skriver 80 prosent av Anthropics kode. Det er at en pause-oppfordring fra markedslederen, som tjener på fortsatt fart, må leses med begge øyne åpne.
En pauseknapp foreslått av den som trår hardest på gassen, er verdt å diskutere. Den er også verdt å være skeptisk til.
