Elements of AI

Nå som vi har en grunnleggende forståelse, har vi bedre forutsetninger for å diskutere de ulike virkningene KI kan ha på samfunnet.

Virkning 1: Forutinntatte algoritmer

Kunstig intelligens, og spesielt maskinlæring, blir brukt for å ta viktige beslutninger på mange områder. Dette kan føre til såkalt algoritmisk diskriminering, altså en tendens til å diskriminere ut fra etnisk opprinnelse, kjønn eller andre faktorer, for eksempel i behandling av jobbsøknader eller søknader om banklån.

Forutinntatte algoritmer er ikke en fremtidig trussel som akademiske forskere har funnet på. Det er et fenomen som allerede nå påvirker mange mennesker. Under ser du noen eksempler.

Nettreklame

Det er for eksempel vist at Google og andre annonsører oftere viser reklame for å søke på lavtlønnede jobber til kvinner enn de gjør til menn.

Sosiale medier

Ettersom filtrene i sosiale medier i hovedsak er basert på brukerklikk, kan de lett bidra til å forsterke det som i utgangspunktet er små tegn på diskriminering. For eksempel har man funnet ut at LinkedIn tilbyr justering av kvinnelige navn som blir oppgitt i søkeruten, til lignende mannlige navn. Om brukeren søker på Andrea, kan systemet spørre «mente du Andreas?» Hvis brukerne da klikker på navnet Andreas, rykker Andreas høyere opp på søkeresultatene.

Det finnes mange lignende eksempler, og du har kanskje hørt om noen av dem. Det største problemet med å bruke KI og maskinlæring, sammenlignet med regelbaserte systemer, er mangelen på åpenhet og innsikt i algoritmenes virkemåte. Dessuten er algoritmer og data ofte forretningshemmeligheter og derfor vanskelig å evaluere offentlig. Selv om algoritmene skulle være offentlig tilgjengelige, er det heller ikke alltid like enkelt å peke på hvilken del av algoritmen eller treningsdataene som fører til forutinntatthet.

Det siste kravet, retten til forklaring, betyr at selskaper som Facebook og Google må kunne forklare sine algoritmiske beslutningsprosesser – i det minste når de leverer tjenester til europeiske forbrukere. Det kan imidlertid være uklart hva som regnes som en forklaring. Holder det for eksempel å si at beslutningen ble tatt ut fra metoden nærmeste nabo (kapittel 4), eller ville det være bedre å oppgi vektene i logistisk regresjon? Hva med dype nevrale nettverk som lett kan inneholde millioner av parametere som er trent ved hjelp av terabytes med data? Man diskuterer fortsatt om det er teknisk mulig å lage maskinlæringsalgoritmer av denne typen som kan forklares. Uansett vil GDPR-reguleringen føre til økt gjennomsiktighet for all teknologi som bruker kunstig intelligens.

Virkning 2: Jeg tror det når jeg ser det – eller gjør jeg det?

Vi er vant til å tro på det vi ser. Når en statsleder på tv kunngjør at landet hans er i en handelskrig med et annet land, eller når en leder for et stort selskap kunngjør en viktig forretningsavtale, har vi en tendens til å stole mer på de direkte uttalelsene enn når vi leser en avisartikkel som gjengir sitatene som annenhåndsinformasjon.

På samme måte legger vi mer vekt på et fotobevis fra et kriminelt åsted eller fra en demonstrasjon av et nytt, teknisk apparat, enn en skriftlig rapport om det samme fysiske fenomenet.

Vi er selvfølgelig klar over at fotobevis kan forfalskes. Med Photoshop er det mulig å vise mennesker på steder de aldri har vært, sammen med mennesker de aldri har møtt. Det er en smal sak å forvrenge bilder ved å justere belysning eller retusjere mager i billige før- og etter-reklamer for den siste slankepillen.

Virkning 3: Betydningen av personvernet endres

Teknologiselskapene samler enorme mengder data om kundene sine. Før var det først og fremst dagligvarebutikker og andre detaljhandlere som samlet data om oss. Ved hjelp av kundekort kan butikk-kjedene koble innkjøp til en bestemt kunde.

Innsamling av data er ikke i seg selv en form for kunstig intelligens. Når dette kombineres med kunstig intelligens, kan det imidlertid utgjøre trusler mot personvernet. Det kan være vanskelig å unngå disse truslene, selv om du er forsiktig med hvem du oppgir personopplysningene dine til.

Å avsløre noens identitet ved hjelp av data

Identiteten til en eller flere personer kan bli avslørt ved avanonymisering. Det vil si at man fjerner anonymiteten til data som blir ansett for å være sikker. En slik situasjon kan oppstå der konfidensielle eller private data er brukt til å utføre en analyse, og resultatet av denne analysen er offentlig informasjon. Noen ganger kan resultatet, uten at man venter det, avsløre for mye informasjon om en enkelt person. Et klassisk eksempel er rapportering av gjennomsnittlig lønn. Hvis en rapport avslører lønnen til personer som er født i et gitt år og som bor på et bestemt postnummer, kan man iblant regne ut lønningene for en veldig liten gruppe – til og med for en enkeltperson.

En litt mer sammensatt sak kan vi finne i en studie utført av forskere ved University of Texas i Austin. De så på data fra Netflix, som inkluderte ti millioner filmanmeldelser fra 500 000 anonyme brukere. Forskerne fant ut at det var mulig å koble profilene til mange Netflix-kunder til brukerkontoer på nettplattformen Internet Movie Database (IMDb), fordi brukerne hadde vurdert flere filmer på begge tjenestene. Følgelig kunne forskere avanonymisere Netflix-kontoene. Det er sannsynligvis ikke så farlig at andre vet hva du synes om den siste Star Wars-filmen, men noen anmeldelser kan avsløre sider av våre liv der vi skal ha rett til privatliv (slik som politisk ståsted eller seksualitet).

Flere måter å identifisere identiteten din på

En lignende tilnærming kan i prinsippet brukes til å koble sammen brukerkontoer hos nesten alle tjenesteleverandørene som samler detaljert informasjon om brukeratferd. Tastaturgjenkjenning er et annet eksempel. Forskere fra universitetet i Helsingfors har vist at man kan identifisere en bruker basert på tiden som går mellom hvert tastetrykk når de skriver en tekst. Dette betyr at hvis en leverandør kjenner skrivemønsteret ditt (du har kanskje besøkt nettstedet og logget deg inn der ved å oppgi navnet ditt), kan de kjenne deg igjen neste gang du bruker tjenesten deres, selv om du da ikke oppgir navnet ditt. De kan også selge denne informasjonen til alle som måtte være interessert.

Mange av de personvernkrenkelsene som vi har nevnt her, har til en viss grad overrasket oss – ellers kunne de vært unngått. I dag jobber forskere med å løse dette, men ikke alle problemer kan forutses, langt mindre løses. Et mulig hjelpemiddel kan være såkalt differensielt personvern (eng. differential privacy). Målet her er å utvikle maskinlæringsmetoder der man ikke kan trekke slutninger om personer fra informasjonen som er oppgitt.

Virkning 4: Endring av arbeid

Da menneskene i steinalderen lærte seg å bruke skarpe steiner til å kløyve dyreknokler, åpnet det opp for en ny næringskilde. Samtidig ble tid og energi frigjort til andre formål, for eksempel å slåss, finne en partner og komme på nye oppfinnelser. Oppfinnelsen av dampmaskinen på 1700-tallet ble en mobil kraftkilde som forbedret effektiviteten i fabrikker, tog og fartøy. Automatisering har alltid vært en måte å effektivisere på – å få gjort mer med færre anstrengelser. Spesielt siden midten av 1900-tallet har den teknologiske utviklingen ført til en enestående utvikling innen automatisering. Kunstig intelligens er en videreføring av denne fremgangen.

Samtidig vil hvert skritt mot forbedret automatisering endre måten vi jobber på. Skarpe steiner betydde at man brukte mindre tid på jakt og sanking av mat. Dampmaskinen reduserte behovet for hester og ryttere. Datamaskiner fjernet behovet for å skrive manuelt, drive med bokføring eller annen rutinemessig informasjonsbehandling (men de førte åpenbart til et økt behov for å se på kattevideoer). Med KI og robotikk kan vi fjerne mange kjedelige og repeterende oppgaver.

Siden vi ikke kan forutsi fremtiden til kunstig intelligens, er det også vanskelig å forutsi hvor raskt og i hvilken grad vi vil oppleve endringene vi beskrev over. Ifølge forskere fra University of Oxford, er opp til 47% av alle jobber i USA i fare for å bli automatisert bort. Slike nøyaktige verdier (47%, istedenfor en rundere formulering som "rundt 45%" eller "nesten halvparten"), sammen med forestillinger om kompliserte metoder og det at et eliteuniversitet står bak forskningen, får oss til å tro at prognosene er svært pålitelige og nøyaktige. (Husker du eksempelet der forventet levealder ble brukt ved hjelp av en lineær modell basert på en liten mengde data?) Men ikke la deg lure: Illusjonen om prosentvis nøyaktighet er misvisende. Oxford-verdiene er for eksempel bare basert på et stort antall stillingsbeskrivelser. Se for deg at forskeren putter fingeren i munnen og stikker den i været for å kjenne på vindretningen, og helt subjektivt bedømmer om en spesifikk stilling kan automatiseres. Det er forståelig at de fleste av oss som leser om forskningsresultatet, ikke leser rapportens 79 sider med utsagn som: «Oppgavemodellen antar en samlet Cobb-Douglas-produksjonsfunksjon med konstante stordriftsfordeler.»

Hvis man ikke pløyer gjennom hele rapporten, er det viktig å ha en sunn skepsis til konklusjonene. Den virkelige verdien av en slik analyse er ikke å gi en spesifikk verdi som 47%, men snarere å gi en pekepinn på hvilke yrker som sannsynligvis kommer til å forsvinne. Det tragiske er at det er overskriftene om at «nesten halvparten av jobbene i USA kommer til å forsvinne» som blir husket, og ikke alt det andre.

Hvilke oppgaver er mest utsatt for automatisering? Den nåværende utviklingen gir allerede noen klare tegn:

• Autonome roboter og selvkjørende kjøretøy som biler, droner, båter og leveringsroboter er snart i bruk i kommersiell drift. Det er vanskelig å vurdere hvor sikre selvkjørende biler er, men statistikken antyder at man ennå ikke har oppnådd et tilfredsstillende sikkerhetsnivå (nivået til en gjennomsnittlig bilfører). Derimot har utviklingen skjedd utrolig raskt. Fordi man får mer og mer innsamlet data fra omfattende testkjøringer, forventer vi at utviklingen vil skje enda raskere i tiden fremover.
  
• Kundetjenester som kundesentre kan automatiseres svært kostnadseffektivt. Kvalitetsnivået på tjenesten er kanskje ikke noe å juble over ennå, på grunn av utfordringene med å forstå vanlig tale (systemet klarer ikke alltid å kjenne igjen tale eller tyde grammatikken). Likevel dukker det hver dag opp nye løsninger på markedet (f.eks. digitale assistenter som kan gjøre restaurantreservasjoner eller frisøravtaler).

Det er vanskelig å si noe om hvor lang tid det tar før vi har trygge og pålitelige selvkjørende biler og andre løsninger som erstatter menneskelig arbeidskraft. Vi skal heller ikke glemme at en lastebilsjåfør eller drosjesjåfør gjør mye mer enn bare å sitte bak rattet. Han er ansvarlig for at kjøretøyet fungerer som det skal, laster og losser varer, snakker med kundene, sikrer last og passasjerer og en rekke andre oppgaver som er mye vanskeligere å automatisere enn selve kjøringen.

Kunstig intelligens skaper også nye jobber og yrker. I fremtiden vil en økende andel av arbeidsstyrken trolig jobbe med forskning, produktutvikling og andre oppgaver som krever kreativitet og samhandling mellom mennesker. Hvis du ønsker å lære mer om dette emnet, kan du for eksempel lese det engelske essayet Artificial Intelligence and the Rise of Economic Inequality skrevet av Abhinav Sur.