Kronikk
KI vil gi oss bedre helse. Men vi må tenke sikkerhet fra dag én
Kunstig intelligens kan gi oss neste medisinske mirakel. La oss sørge for at det ikke samtidig gir oss neste biologiske mareritt.
HELSE: KI har allerede begynt å endre hvordan vi utvikler medisiner og behandler sykdommer. Illustrasjonsfoto fra da sanitetsbataljonen samarbeidet med det sivile helsevesenet under Nordic Response 2024.
Foto: Audun Sætermo, Forsvarets forum
Dette er en kronikk. Meninger i teksten står for skribentens regning. Send inn kronikker og debattinnlegg til Forsvarets forum her.
Tenk deg en datamaskin som kan finne en ny kur mot kreft. Tenk deg så at den samme datamaskinen også kan designe et dødelig virus.
Denne todelingen illustrerer noe av det mest utfordrende ved dagens teknologiske revolusjon: Kunstig intelligens (KI) gir oss fantastiske muligheter i medisinen, men kan også misbrukes til å utvikle fryktede biologiske og kjemiske våpen.
Hvordan skal vi som samfunn håndtere en teknologi som på samme tid kan redde liv og utgjøre en global trussel?
Fremskritt innen medisin ved hjelp av KI
KI har allerede begynt å endre hvordan vi utvikler medisiner og behandler sykdommer. Smarte algoritmer kan analysere enorme datamengder og oppdage mønstre som mennesker overser.
Dette gjør det mulig å identifisere nye legemiddelkandidater langt raskere enn før. Slik teknologi lover raskere gjennombrudd i jakten på behandlinger for alt fra sjeldne sykdommer til store folkesykdommer.
KI-systemer bidrar til å utvikle nye vaksiner, finne bedre antibiotika og gjenbruke eksisterende medisiner mot nye sykdommer. Under COVID-19-pandemien ble KI brukt til å analysere milliarder av molekyler for å finne antivirale legemidler på rekordtid.
Resultatet er at prosesser som før tok forskere mange år, nå kan skje i løpet av dager eller uker. Det gir håp om at vi snart kan kurere sykdommer som i dag anses som uhelbredelige.
Farene ved misbruk: biologiske og kjemiske våpen
Men medaljen har en bakside. De samme kraftfulle KI-verktøyene som kan designe medisiner, kan også misbrukes. Forskere advarer om at dette ikke lenger er science fiction.
I 2021 gjennomførte en gruppe et urovekkende eksperiment: De tok en KI som vanligvis brukes til å finne trygge medisinstoffer, og endret målet til å finne så giftige molekyler som mulig. Resultatet? På kort tid genererte algoritmen tusenvis av nye kjemiske forbindelser, inkludert flere som var beregnet å være flere størrelsesordener mer giftige enn den beryktede nervegiften VX.
Det skremmende er at dette skjedde uten mye innsats eller ressurser. Som forskerne selv påpeker, senker KI terskelen dramatisk: Det trengs ikke lenger avanserte laboratorier eller årevis med spesialtrening for å designe dødelige substanser, bare evnen til å kode og tolke modellens output.
Risikoen begrenser seg heller ikke til kjemikalier. I en tidsalder av syntetisk biologi og genredigering ser sikkerhetseksperter for seg at KI kan brukes til å skape nye biologiske våpen. Ved å kombinere kunstig intelligens med kunnskap om gener, proteiner og patogener, kan en designe virus eller bakterier med skreddersydde egenskaper.
Det kan dreie seg om mikrober som sprer seg lettere, unngår vaksiner eller er mer dødelige. Slike prosjekter var tidligere svært kompliserte å gjennomføre, men KI gjør det enklere å utforske muligheter ingen før har tenkt på.
For eksempel kan algoritmer finne alternative produksjonsmetoder for kjente stridsmidler eller helt nye gifttyper – og dermed omgå eksisterende kontrolltiltak og regelverk. Dette er essensen av «dual-use»-problemet: Teknologi med legitime, fredelige bruksområder kan også brukes destruktivt.
Trusselbildet har fått en ny dimensjon. Tradisjonelt har kontroll av biologiske og kjemiske våpen handlet om å begrense tilgang til farlige patogener og substanser.
I KI-alderen må vi også tenke på digital tilgang til kunnskap og algoritmer. Når en potentielt farlig oppskrift kan finnes via en datamodell, hjelper det lite med kun fysiske sikringstiltak.
Risikoen for at ikke-statlige aktører eller stater med onde hensikter kan bruke KI til å utvikle biologiske eller kjemiske våpen er reell.
Internasjonale forbud og kontrolltiltak
Trusselen fra biologiske og kjemiske våpen er ikke ny, og verdenssamfunnet har lenge forsøkt å sette foten ned mot dem. Allerede etter første verdenskrig ble bruk av giftgass og pestbakterier fordømt. I 1925 kom Genèveprotokollen, som slo fast et forbud mot bruk av kjemiske og biologiske stridsmidler i krig.
Senere har forbudet blitt betydelig utvidet. I nyere tid har vi fått et totalforbud gjennom Biovåpenkonvensjonen, og Kjemivåpenkonvensjonen. Nesten alle verdens land har sluttet seg til disse konvensjonene.
Utfordringen ligger i å håndheve forbudene i praksis.
Biovåpenkonvensjonen mangler et sterkt verifikasjonssystem – det finnes ingen internasjonale inspektører som rutinemessig kontrollerer laboratorier, slik tilfellet er under Kjemivåpenkonvensjonen.
Det betyr at etterlevelse i stor grad baserer seg på tillit og nasjonal lovgivning. Heldigvis har de fleste land tatt avstand fra biologiske våpen, og brudd på normen møtes med unison fordømmelse.
Når det likevel finnes noen som kan fristes til å eksperimentere, må det internasjonale samarbeidet styrkes. På den siste evalueringskonferansen for Biovåpenkonvensjonen i 2022 ble landene enige om å opprette en ny arbeidsgruppe for å se på tiltak som kan forbedre etterlevelse og verifikasjon fremover.
Norge er blant landene som tar til orde for å etablere et vitenskapelig ekspertpanel knyttet til konvensjonen, nettopp for å følge med på teknologisk utvikling. Det finnes også andre sikkerhetsnett.
Eksportkontrollregimer som Australia-gruppen sørger for at farlige kjemikalier og biologiske agenser ikke fritt kan sendes over landegrensene. Men som med alt sikkerhetsarbeid kan kjeden være ikke sterkere enn det svakeste leddet. Derfor må innsatsen være kontinuerlig og tilpasset trusselbildet.
Balansen mellom fremskritt og trygghet
KI vil utvilsomt gi oss bedre helse. Men samtidig må vi tenke sikkerhet fra dag én. Her er noen grep som kan bidra til balansen:
Styrking av internasjonale normer: Vi må fortsette å oppdatere og styrke globale avtaler som Biovåpenkonvensjonen. Nye teknologier bør inn under eksisterende regelverk, og land må holdes ansvarlige for brudd.
Kontroll med farlig teknologi: Teknologibransjen og myndigheter kan sammen sørge for ansvarlig tilgangsstyring til de mest potente KI-verktøyene. Åpen kildekode og deling er som regel positivt, men for visse typer KI-modeller kan det være riktig med noen sikkerhetsbremser.
Etisk bevissthet og utdanning: Forskningsmiljøene selv har et stort ansvar. Det trengs en kultur hvor forskere alltid spør seg: «Hvordan kan mitt arbeid misbrukes?»
Bruke KI til forsvar: Vi kan vende den samme teknologien mot trusselen. KI kan hjelpe oss å avdekke ulovlig aktivitet. Moderne overvåkingssystemer for smittsomme sykdommer tar i bruk KI for å fange opp uvanlige mønstre som kan tyde på et biologisk angrep, slik at man kan reagere lynraskt.
Klok teknologi krever klokskap av oss. KI kan gi oss neste medisinske mirakel. La oss sørge for at det ikke samtidig gir oss neste biologiske mareritt. Det ansvaret hviler på oss alle.
