Demokratisk kunstig intelligens krever sikre byggeklosser

– Kunstig intelligens og maskinlæring kommer til å forandre samfunnet på måter vi fortsatt ikke forstår eller klarer å kontrollere, slår statsminister Jonas Gahr Støre fast og setter av en milliard kroner for å «bidra til større innsikt om hvilke konsekvenser teknologiutviklingen har for samfunnet». Blant annet trekker han frem demokrati, etikk, rettssikkerhet og personvern. Jeg håper sikkerhetsaspektet ved disse gode ambisjonene er inkorporert.

Bedre (les: mer) data gir mer informasjon, som gir bedre (les: mer) kunnskap. Denne optimismen gjennomsyrer teknologisk utvikling, datadrevet markedsføring og etter hvert deler av sikkerhetsarbeidet. Politiet bygger stadig bedre kompetanse på digital etterforskning. PST skal få tilgang til åpne kilder. Etterretningstjenestens tilrettelagte innhenting skal sikre våre digitale grenser.

Ifølge vår nye forsknings- og høyere utdanningsminister Sandra Borch, har «Norge, som et av de mest digitaliserte landene i verden, et unikt utgangspunkt for å lykkes med kunstig intelligens».

Når våre egne sikkerhetstjenester ser verdien av datasporene våre, skal jeg love at våre motparter gjør det samme.

Muliggjør misbruk

Et våpen er bare til hjelp hvis det gir beskyttelse. Derfor har vi restriksjoner på våpensalg. Derfor har vi risikovurderinger knyttet til hvorvidt en komponent eller teknologi kan brukes utover den opprinnelige hensikten (såkalt dual-use). Derfor forsøke vi å sikre gjennom hele utstyrets livsløp.

Ved å legge ut masse informasjon tilgjengelig for hvermannsen (les: kommersielle selskaper som tjener gode penger på fangsten), muliggjør vi krysskobling som utvinner ny kunnskap og misbruk av informasjon.

I USA tyder mye på at kjøp av kommersielt samlet informasjon har blitt utnyttet som en snarvei rundt rettsmekanismene for overvåkning. En gruppe studenter eksperimenterte seg frem til en «smørbrødliste» av utpressingsofre ved å sette sammen medlemskapslister fra en hacket utropskapsdatingside med kjøpte lister over velstående småbarnsforeldre i et elitenabolag i Washington D.C.

Kjøpt registerdata fra en bønneapp, er blitt brukt som indikator på hvor konservativ muslim brukeren er, og dermed som et mulig underlag for religiøs profilering. Kommersielt innsamlede datasett har blitt brukt som underlag for «oppsamlingslister» som immigrasjonsmyndighetene bruker i sine raid etter ulovlige innvandrere.

Vi vet at informasjon solgt på globale databørser allerede er brukt for å avmaskere FSB-agenter. Det betyr at våre eget sikkerhetspersonell risikerer den samme. For til motsetning til etterkrigsfilmenes stereotyper, så består ikke russiske sikkerhetstjenester av gryntene biffer av menn med tre hjerneceller på deling. De har teknisk kompetanse og jobber beinhardt for å fremme moderlandets sak.

Vi vet at både sentrale politikere, forsvarspersonell og en rekke særlig sårbare personer har blitt identifisert gjennom datasett kjøpt av NRK. Tilsvarende har New York times digitalt forfulgt CIA- og NSA-personell fra jobbens parkeringsplass. Slik skaffet de seg enkelt oversikt over familier, hjemmeadresser og (u-)vaner.

I tillegg kommer informasjonen som stammer fra de etter hvert mange datainnbruddene hos kommersielle og offentlige aktører. Gjennom svartebørshandel, kan man få tilgang til kredittkortinformasjon, pass, medisinsk historikk og hvor noen forflytter seg. Det hverken krever særlig mye penger eller teknisk ekspertise. Noen av forhandlerne tilbyr til og med kundeservice.

Når dataen flyter fritt

En amerikansk forsker tok utgangspunkt i telefon-metadata fra en svært begrenset periode og identifiserte enkelt finansielle problemer, medisinske tilstander, utenomekteskapelige forhold, våpenkjøp og narkotikabruk. Alle ting vi etterspør i en sikkerhetsklarering. Alle aspekter ved menneskers liv vi mener gjør noen sårbare for utilbørlig press og påvirkning.

Meninger

Hjelp til spionasje?

Når dataen flyter fritt, flyter den også inn i de hendene vi ikke nødvendigvis vil at skal ha tilgang. Informasjon som kan manipuleres og brukes til å kartlegge av både samfunnets, og enkeltmenneskers, trykkpunkter, sårbarheter og konflikter.

Fantasi og kreativitet tilsier at vi stadig finner nye bruksområder for billig, tilgjengelig og gjenbrukbare datasett. Allerede i dag kan tilrettelegge for dataangrep, kartlegge skjermede lokalisasjoner, fremskaffe inngripende etterretning og digitalt forfølge enkeltmennesker.

En fremmed makt hensyntar hverken medmenneskelige hensyn eller journalistisk integritet. Dermed er det opp til oss å skru igjen krana. Vi må starte en reell sikkerhetssamtale om hvilke sårbarheter og risiko kommersielt salg av digitale profiler innebærer. Vi må løfte blikket forbi enkeltapplikasjoner, og vi må klare å ha to tanker i hode samtidig. Vi må legge fra oss metaforen om at data er som bensin i det digitale maskineriet. Som for teknologioptimismen, underbygger det en strategi om at mye vil (bør) få mer.

Vi bør ha mer troa på våre egne evner til omstilling. Kunstig intelligens er fortsatt i støpeskjeen, og det er ingen naturlov som stadfester at sporing skal være drivkraften. Også her bør innovasjon bety å lage mer (les: bedre) med mindre ressurser. Når konsekvensen er kollektiv, kan ikke frislipp av mulig gradert informasjon reduseres til den enkeltes personvernsterskel. Når vi bruker masse penger, så må vi forstå sikkerhetskonsekvensene for folk og samfunn.

Nyheter

«Nulldagssårbarhet» ble benyttet i dataangrep mot departementene