USA sa superintelligens i Sikkerhetsrådet mens KI-sjefene ba om regler
Amerikanske diplomater har fått ordre om å si SI i stedet for AI etter Trumps FN-tale. Samme dag som ordet ble tatt i bruk, ba Altman og Amodei FN om internasjonale regler.
Av H. S. Pettersen · 2 min lesing
Begreper i denne artikkelen
USAs representanter i FNs sikkerhetsråd sa onsdag «superintelligens» i stedet for kunstig intelligens, på det samme møtet der Sam Altman og Dario Amodei ba FNs mektigste organ om felles regler for teknologien. Ordbyttet kom fra president Donald Trump, som dagen før avviste internasjonal kontroll med KI som et «globalistisk» opplegg i talen til generalforsamlingen.
En e-post fra utenriksdepartementet endret ordbruken
Trump sa at ordet kunstig får intelligensen til å høres falsk ut, og at amerikanske dokumenter heretter skal bruke «super intelligence», forkortet SI. Rett etter talen sendte Michael Drager, visestatssekretær i utenriksdepartementets avdeling for internasjonale organisasjoner, en e-post med emnet «Change in Nomenclature AI to SI» til de ansatte, ifølge nyhetsbyrået AP. Avdelingen styrer alle USAs delegasjoner til FN og andre internasjonale organer, men det er ikke kjent om resten av statsforvaltningen har fått samme beskjed.
Altman og Amodei ba om det Trump avviste
Møtet var organisert av Frankrike og handlet om misbruk av KI og faren for å miste kontrollen over avanserte modeller. Amodei foreslo på video smale globale avtaler, som et forbud mot KI til biologiske våpen, ordninger der land kan kontrollere hverandres løfter, og felles standarder for testing med varsling av sikkerhetshendelser. Altman sa at viktige avgjørelser ikke kan tas i laboratorier i San Francisco. Yoshua Bengio, som leder FNs uavhengige vitenskapspanel for KI, sa at farene er reelle og nær forestående.
| Hvem | Hva de sa | |
|---|---|---|
| Donald Trump, USAs president | Avviste internasjonal KI-kontroll og døpte teknologien om til superintelligens | |
| Dario Amodei, Anthropic | Smale globale avtaler, kontroll av løfter, felles testing og hendelsesvarsling | |
| Sam Altman, OpenAI | Avgjørelsene må tas av ansvarlige regjeringer, ikke laboratorier | |
| Yoshua Bengio, FNs vitenskapspanel | Farene er reelle og nær forestående |
Selskapene som ber om regler, konkurrerer om å bygge teknologien
Kravet om kontroll kommer fra de samme selskapene som kjemper hardest om å bygge de kraftigste modellene, og Anthropic forbereder en børsnotering. Trumps linje er ikke ny: han kalte frykten for superintelligens en bløff etter at bransjetoppene ble enige om å bremse, og Beijing har også avvist bremsen. Trump og Kinas president Xi Jinping skal møtes denne uka, og KI ventes å stå på dagsordenen.
Gjelder ordren hele statsapparatet, må Trumps nye KI-styrke «AI Force» trolig hete «SI Force», påpeker AP.
