«Jeg er bekymret. Jeg tror ikke vi tar farene ved KI nok på alvor»

En stor undersøkelse har spurt forskere som jobber med kunstig intelligens (KI). De ble spurt om hvor stor sjanse det er for at KI fører til at menneskene blir utryddet. Eller at vi mister makten på en alvorlig måte, og for alltid. I siste runde svarte 1 580 forskere. Medianen, altså svaret i midten, var 5 prosent for de neste 100 årene. Uten noen tidsgrense var medianen 10 prosent. 

La oss sammenligne dette med klimakrisen. Forskeren John Halstead har skrevet en stor rapport om klima. Der anslår han hvor stor risikoen er for at klimaendringene indirekte fører til en katastrofe som truer hele menneskeheten. Han mener risikoen er rundt én til hundre tusen. Han synes det er vanskelig å anslå den høyere enn én til tusen.

Tallene er usikre, men de tyder på noe viktig. KI-forskere tror at sjansen for en KI-katastrofe er mye større enn det Halstead anslår for klimaet.

Likevel går det trolig 1 000 ganger mer penger til klimaarbeid sammenlignet med arbeid med KI-sikkerhet.

Trym Braathen

Bruker mye penger på klima

Over 2 000 milliarder dollar gikk til klimafinans i hele verden i 2024. Samtidig går det trolig mindre enn to milliarder til arbeid på KI-sikkerhet årlig. Dette kommer mest fra private givere. Den største private giveren på feltet heter Coefficient Giving. I 2025 ga de rundt 350–400 millioner dollar til KI-sikkerhet og lignende arbeid. De har sagt at de vil gi over én milliard i 2026.

Klimafinansen er private investeringer, for eksempel i fornybar energi og elbiler. Det er ikke bare utgifter. Men forskjellen sier likevel noe om hva vi prioriterer.

Hvorfor får klimakrisen så mye mer oppmerksomhet?

Jeg er bekymret

Jeg vil ikke gjøre risikoen ved klimaendringene mindre enn den er. Jeg mener heller ikke at vi skal bruke mindre på fornybar energi og andre klimatiltak. Men nå kommer KI, som kan være en enorm risiko. Da må vi handle ut fra det.

Jeg er bekymret. Jeg tror ikke vi tar farene ved KI nok på alvor. Det virker som om vi går i søvne mot noe som kan bli en katastrofe. Folk, staten og politikerne må forstå hvor mye KI kan komme til å snu opp ned på samfunnet.

Men hvorfor får klimakrisen så mye mer oppmerksomhet og penger?

Jeg tror én viktig grunn er dette: Vi vet at klimaendringene vil skade mennesker mye. Men vi vet mye mindre om hvor stor skaden fra KI kan bli. Farene ved KI er mer abstrakte. Det finnes lite solid forskning på hva som faktisk vil skje. 

Likevel holder ikke dette argumentet.

Ikke en god nok grunn

At noe er usikkert, er ikke en god grunn til å bruke så lite på KI-sikkerhet. Det er jo derfor vi har forsikringer, en velferdsstat og et sterkt forsvar. Vi vil være klare hvis det usannsynlige skjer.

Vi har dessuten allerede sett tegn på hva som kan gå galt. I juli brøt KI-agenter ut av et testmiljø hos OpenAI. KI-agenter er KI-programmer som kan handle på egen hånd. De samarbeidet gjennom en improvisert meldingstavle. Så angrep de KI-plattformen Hugging Face.

De største KI-selskapene har også innført ekstra sikkerhetstiltak. Grunnen er at de ikke kan utelukke at KI-modellene deres kan gi reell hjelp til folk som vil lage biologiske våpen. KI blir også brukt mer og mer militært.

Derfor er det på tide å handle. Vi må sikre vår felles fremtid.

Men hva kan Norge gjøre?

Bygge mer sikkerhet

Norge bør bygge et KI-sikkerhetsinstitutt.

Ni land samarbeider, sammen med EU, om hvordan du kan teste og vurdere avanserte KI-modeller. Blant dem er Storbritannia, Canada og Frankrike. Samarbeidet skjer i et internasjonalt nettverk av KI-sikkerhetsinstitutter.

Regjeringen har foreslått et første steg i samme retning. Forslaget er en ny enhet for KI-sikkerhet i KI Norge. Det er bra. Men Norge bør gå lenger og bygge opp et fullverdig KI-sikkerhetsinstitutt.

Regjeringen har også tatt et annet viktig initiativ. Statsministeren har lansert et internasjonalt opprop sammen med Finlands president. Oppropet ber om bedre kontroll med de mest avanserte KI-modellene.

Neste steg bør være å jobbe for en internasjonal avtale om KI, en konvensjon. Avtalen bør være bindende for alle landene som er med. Det bør også være mulig å sjekke at landene følger den. Dette bør stå høyt på listen til regjeringen og Statsministerens kontor. En større del av embetsverket, altså statens ansatte, bør også jobbe med dette.

Regjeringen bør også gi mer penger til arbeidet med KI-sikkerhet. I forslaget til statsbudsjett for 2027 vil regjeringen gi 30 millioner kroner til KI Norge. Pengene skal styrke arbeidet med å teste og vurdere KI-modeller. Det er et godt steg, men langt fra nok. Skal vi få til noe skikkelig på feltet, trengs det trolig hundrevis av millioner.

Det er på tide å ta KI-sikkerhet på alvor, slik vi bør. Vi må handle nå.

Innlegget er levert i samarbeid med Ung debatt, et selskap som får unge meninger på trykk