KI trenger ikke å ta makten for å bli farlig

Frykten for at kunstig intelligens skal utslette menneskeheten har igjen fått stor plass i debatten. Forskningen peker mot en mer konkret fare: Dagens KI kan ikke overta kontrollen over samfunnet, men systemene blir raskt bedre til å arbeide selvstendig, finne sikkerhetshull og løse avanserte oppgaver innen biologi og kjemi. Foreløpig er mennesket den viktigste risikofaktoren.

Når forskere sier at det kan være fem eller ti prosent risiko for at avansert KI en dag fører til menneskehetens undergang, høres det ut som statistikk.

Det er det ikke.

En stor undersøkelse blant 2778 KI-forskere viste betydelig uro for utviklingen. Mange ga framtidige katastrofale utfall en sannsynlighet på ti prosent eller mer. Men svarene sprikte kraftig. Dette er forskernes vurderinger av en ukjent framtid, ikke risiko beregnet fra observerte hendelser.

Det skillet er avgjørende.

International AI Safety Report 2026, utarbeidet med bidrag fra mer enn hundre eksperter, slår fast at dagens systemer ikke har kapasiteten som kreves for å ta kontrollen fra mennesker. De klarer ikke pålitelig å gjennomføre lange og kompliserte planer, holde virksomheten skjult og samtidig hindre mennesker i å gripe inn.

Men utviklingen går fort.

Det britiske AI Security Institute har testet mer enn 30 avanserte KI-modeller. De beste systemene løser nå cyberoppgaver som for få år siden lå langt utenfor det språkmodeller kunne gjennomføre. På enkelte avgrensede oppgaver har modeller også klart problemer som krever betydelig erfaring innen datasikkerhet.

Her blir trusselen konkret.

En KI trenger ingen egen vilje for å gjøre skade. Den kan få et oppdrag av et menneske, lete etter svakheter i programvare, skrive kode og hjelpe til med et dataangrep. Den internasjonale sikkerhetsrapporten dokumenterer allerede bruk av generell KI i cyberoperasjoner.

Det samme gjelder biologi og kjemi. Avanserte modeller kan forklare kompliserte laboratorieprosesser, foreslå framgangsmåter og hjelpe forskere når eksperimenter mislykkes.

Det betyr ikke at hvem som helst kan be en chatbot lage et pandemivirus.

National Academies of Sciences, Engineering and Medicine i USA peker på at biologiske våpen fortsatt krever laboratorier, materialer, praktisk erfaring og betydelig biologisk kompetanse. Men KI kan gjøre avansert kunnskap lettere tilgjengelig og gradvis senke noen av tersklene.

Også evnen til å arbeide selvstendig vokser. Forskningsmiljøet METR måler hvor lenge KI-agenter kan løse programmeringsoppgaver uten hjelp. Resultatene viser at tidsrommet blir stadig lengre, selv om systemene fortsatt feiler når oppgavene blir kompliserte.

Samtidig krever utviklingen enorme fysiske ressurser.

Verdens datasentre brukte rundt 485 terawattimer strøm i 2025. Det tilsvarer omtrent tre og et halvt års samlet norsk strømforbruk. Bare på ett år økte datasentrenes forbruk med rundt 70 TWh – omtrent halvparten av det Norgebruker på et helt år.

Og KI-datasentrene vokser raskest. Strømforbruket der økte med rundt 50 prosent på ett år, mens verdens samlede strømforbruk økte rundt tre prosent. IEA anslår at datasentrenes samlede forbruk kan nærme seg 950 TWh i 2030, nesten en dobling på fem år.

Det betyr nye kraftverk, større strømnett, flere transformatorer, mer kjøling og sterkere konkurranse om elektrisk kraft. Datasentre er ikke lenger bare et spørsmål om datamaskiner. De blir en del av energi- og sikkerhetspolitikken.

Også Kina behandler KI som et sikkerhetsspørsmål, med oppmerksomhet rundt modeller, data, cyberangrep, falsk informasjon og systemer som får virkninger ute i den fysiske verden.

Dermed handler KI allerede om cybersikkerhet, våpen, forskning, strøm, industri og geopolitikk.

Det finnes god grunn til å undersøke om framtidige systemer kan bli så selvstendige at mennesker mister kontrollen. Men den risikoen må holdes adskilt fra det vi allerede kan dokumentere.

Den viktigste faren trenger ingen fortelling om maskiner som bestemmer seg for å utslette menneskeheten.

KI trenger ikke å bli bevisst, ond eller allmektig. Den trenger bare å bli dyktig nok – og bli satt i hendene på noen som vil bruke den.