I. Om at forudsige fremtiden
Vi begynder med det, der er et af de vanskeligste problemer overhovedet: at forudsige fremtiden.
Du bliver muligvis skuffet, men vi har ikke en krystalkugle, der kan fortælle os, hvordan verden kommer til at se ud i fremtiden, og hvordan AI vil ændre vores liv.
Som forskere bliver vi ofte bedt om at komme med forudsigelser, og når vi afviser dette, mødes vi ofte med rullende øjne ("kedelige akademikere"). Faktisk hævder vi, at man bør være skeptisk over for enhver, der påstår at kende fremtiden for AI og de konsekvenser, den vil have for vores samfund.
Virkelighedsfordrejning
Ikke alle er dog så konservative med deres prognoser. I den moderne verden, hvor store overskrifter sælger, og nyheder skal koges ned til 280 tegn, overses nuancerede (kedelige?) meddelelser, og simple og dramatiske meddelelser får størst opmærksomhed. Dette gælder bestemt for offentlighedens opfattelse af AI.
Bemærk
Fra utopiske visioner til dystre forudsigelser
Medierne domineres af ekstremerne. Vi er begyndt at se AI-kendisser, der er fortalere for én stor idé og fremsætter orakellignende forudsigelser om AI's fremtid. Medierne elsker deres klare budskaber. Nogle lover os en utopisk fremtid med eksponentiel vækst og multimilliardindustrier, der vokser ud af ingenting, og ægte AI, der vil løse alle problemer, som vi ikke selv kan løse, og hvor mennesker slet ikke skal arbejde.
Nogle har også hævdet, at AI er vejen til verdensherredømmet. Andre har fremsat endnu mere ekstraordinære udtalelser om, at AI vil blive menneskehedens endeligt (om 20-30 år), at selve livet vil blive transformeret i “den kunstige intelligens' æra“, og at AI er en trussel mod vores eksistens.
Nogle af forudsigelserne vil sandsynligvis vise sig at være rigtige på nogle områder, mens andre kun kan bruges til at vise, hvor vanskeligt det er at forudsige, og mange giver slet ikke mening. Det, som vi ønsker, er, at du skal kunne forholde dig kritisk til disse og andre forudsigelser.
Om pindsvin og ræve
Den politiske videnskabsmand Philip E. Tetlock, som har skrevet Superforecasting: The Art and Science of Prediction, klassificerer mennesker i to kategorier: dem, der har én stor idé (“pindsvin”), og dem, der har mange små idéer (“ræve”). Tetlock udførte et eksperiment fra 1984-2003 for at undersøge faktorer, der kunne hjælpe os med at identificere, hvilke forudsigelser der sandsynligvis er nøjagtige, og hvilke der ikke er. Et af de vigtigste resultater var, at ræve ofte er klart bedre til forudsigelser end pindsvin, især ved langsigtede forudsigelser.
De budskaber, der kan udtrykkes med 280 tegn, er oftest store og simple pindsvineidéer. Vores råd er, at du bør lægge mærke til velbegrundede og afbalancerede informationskilder og være skeptisk over for personer, der forklarer alt med et enkelt argument.
Det er vanskeligt at forudsige fremtiden, men vi kan i det mindste vurdere tidligere og nuværende AI, og ved at forstå den kan vi forhåbentlig forberede os bedre på fremtiden, uanset hvad den bringer.
AI-vintre
Gennem historien har AI, som mange andre videnskabelige områder, gennemgået forskellige tendenser. I videnskabsfilosofi kaldes en tendens for et paradigme. Et bestemt paradigme benyttes typisk af de fleste forskere, og der fremsættes optimistiske forudsigelser om fremskridtet i den nære fremtid. I 1960'erne var der generelt enighed om, at neurale netværk ville kunne løse alle AI-problemer ved at imitere læringsmekanismerne i naturen, navnlig den menneskelige hjerne. Den næste store ting var ekspertsystemer baseret på logiske og menneskekodede regler, som var det dominerende paradigme i 1980'erne.
Cyklussen for "hype"
I begyndelsen af hver bølge gør en række tidlige succeshistorier alle glade og optimistiske. Succeshistorierne vækker, selv om de handler om meget små områder og ofte er ufuldstændige, opmærksomhed i offentligheden. Mange forskere styrter ind i AI – eller kalder i det mindste deres forskning for AI – for at få adgang til de øgede forskningsbevillinger. Virksomheder igangsætter og udvider AI-aktiviteter af frygt for at gå glip af mulighederne (fear of missing out – FOMO).
Hver gang det er blevet proklameret, at der er en altomfattende generel AI-løsning inden for rækkevidde, er fremskridtet stødt på uovervindelige problemer, som på daværende tidspunkt blev opfattet som mindre bump på vejen. For de neurale netværk i 1960'erne vedrørte disse bump håndteringen af ikkelineariteter og løsning af machine learning problemerne i forbindelse med de voksende antal parametre, som arkitekturerne til de neurale netværk krævede. For ekspertsystemerne i 1980'erne vedrørte bumpene håndteringen af usikkerhed og sund fornuft. Efterhånden som man erkendte den sande karakter af de tilbageværende problemer efter flere års kamp og uopfyldte løfter, bredte der sig en pessimisme med hensyn til paradigmet, og der fulgte en AI-vinter: Interessen for området faldt, og forskningsindsatsen blev målrettet andre områder.
Moderne AI
Siden årtusindskiftet har interessen for AI været stigende. Moderne AI-metoder fokuserer på at opdele et problem i et antal mindre, isolerede og veldefinerede problemer og løse dem ét ad gangen. Moderne AI går uden om de store spørgsmål om betydningen af intelligens, sindet og bevidstheden og fokuserer på at udvikle praktiske løsninger, der kan løse virkelige problemer. Godt nyt for os alle, der kan drage nytte af sådanne løsninger!
Et andet kendetegn ved moderne AI-metoder, som hænger tæt sammen med at arbejde i den komplekse og "rodede" virkelige verden, er evnen til at håndtere usikkerhed, som vi demonstrerede ved at undersøge, hvordan sandsynlighed anvendes inden for AI, i kapitel 3. Endelig er den fornyede interesse for AI blevet styrket markant af neurale netværks comeback og deep learning, der kan behandle billeder og virkelige data bedre end nogensinde før.
Bemærk
Befinder vi os i en hype-cyklus?
Om historien vil gentage sig, og det nuværende boom igen efterfølges af en AI-vinter, kan kun tiden vise. Selv hvis den gør, og fremskridtet mod bedre og bedre løsninger går i stå, vil betydningen af AI i samfundet vare ved. Takket være fokus på nyttige løsninger af virkelige problemer, bærer den moderne AI-forskning frugt allerede i dag, uden først at forsøge at løse de store spørgsmål om generel intelligens, som var der de første forsøg fejlede.
Forudsigelse 1: AI vil fortsat være overalt omkring os
Som du husker, indledte vi kurset om AI med at beskrive vigtige AI-anvendelser, der påvirker os alle sammen. Vi fremhævede tre eksempler: selvkørende biler, anbefalingssystemer og billed- og videobehandling. I løbet af kurset har vi også beskrevet mange andre anvendelser, der bidrager til den løbende teknologiske udvikling.
Bemærk
AI, der gør en forskel
Takket være det øgede fokus på praksis i stedet for de store problemer er vi i dag omgivet af AI (selv om vi som regel lever i lykkelig uvidenhed om det): Den musik, vi hører, de produkter, vi køber online, de film og serier, vi ser, vores transportruter og endda de nyheder og oplysninger, vi ser, påvirkes alt sammen mere og mere af AI. Faktisk benytter ethvert videnskabeligt område lige fra medicin og astrofysik til middelalderhistorie også AI-metoder til at uddybe vores forståelse af universet og af os selv.
Forudsigelse 2: Terminator er ikke på vej
En af de mest udbredte og vedvarende idéer om fremtidens AI er Terminator. Hvis du på en eller anden måde er gået glip af billedet af en brutal menneskelignende robot med et metalskelet og stirrende øjne ... ja, det er altså, hvad det er. Terminator er en film fra 1984 af instruktøren James Cameron. I filmen bliver et globalt AI-drevet forsvarssystem kaldet Skynet bevidst om sin egen eksistens og udrydder størstedelen af menneskeheden ved hjælp af atombomber og avancerede dræberrobotter.
Bemærk
To dommedagsscenarier
Der er to alternative scenarier, som angiveligt fører til fremkomsten af Terminator eller andre lige så skræmmende robotter. I det første, som er historien fra filmen fra 1984, bliver et avanceret AI-system bevidst og beslutter, at det slet ikke kan lide menneskeheden generelt.
I det andet alternative scenario kontrolleres robothæren af et intelligent, men ikke bevidst AI-system, som i princippet er under menneskelig kontrol. Systemet kan f.eks. programmeres til at optimere produktionen af papirclips. Det lyder da uskyldigt, ikke?
Hvis systemet har en så overlegen intelligens, vil det imidlertid snart opnå det optimale niveau for produktion af papirclips, som de tilgængelige ressourcer i form af energi og råmaterialer tillader. Derefter vil det måske konkludere, at det skal omdirigere flere ressourcer til produktionen af papirclips. For at gøre det er det måske nødt til at forhindre, at ressourcer anvendes til andre formål, selv om de er essentielle for den menneskelige civilisation. Dette gøres enklest ved at dræbe alle mennesker, hvorefter der vil være mange flere ressourcer tilgængelige til systemets primære opgave: produktion af papirclips.
Hvorfor er disse scenarier urealistiske?
Der findes flere grunde til, at begge de ovennævnte scenarier er ekstremt usandsynlige og tilhører science fiction snarere end seriøse overvejelser om AI's fremtid.
Årsag 1:
Idéen om fremkomsten af superintelligent og bevidst AI, der kan overgå mennesker, som et utilsigtet resultat af udviklingen af AI-metoder, er for det første naiv. Som det fremgår af de foregående kapitler, er AI-metoder intet andet end automatiseret ræsonnement baseret på kombinationen af fuldstændigt forståelige principper og rigelige inputdata, og begge dele leveres af mennesker eller systemer, som er implementeret af mennesker. Forestillingen om, at nearest neighbor metoden, lineær regression, AlphaGo-spilmaskinen eller endda et dybt neuralt netværk kan blive bevidst og begynde at udvikle et superintelligent AI-sind, kræver en (meget) livlig fantasi.
Bemærk, at vi ikke påstår, at det kategorisk er umuligt at skabe intelligens på menneskeligt niveau. Du behøver blot se dig selv i spejlet for at få bevis for muligheden for at skabe et meget intelligent fysisk system. For at gentage os selv: Superintelligens fremkommer ikke ved at udvikle specifikke AI-metoder og anvende dem til at løse virkelige problemer (tænk på specifik i forhold til generel AI i afsnittet om filosofien bag AI i kapitel 1).
Årsag 2:
En af de mest populære idéer blandt dem, der tror på superintelligent AI, er for det andet den såkaldte singularitet: et system, der optimerer og "omprogrammerer" sig selv, så det kan forbedre sin egen intelligens med en stadig hurtigere, eksponentiel hastighed. En sådan superintelligens ville overhale menneskeheden så langt, at vi ville blive som myrer, der kan udryddes uden tøven. Idéen om, at intelligens kan udvikles eksponentielt, er urealistisk af den simple grund, at et system – selv hvis det kunne optimere sin egen funktionsmåde – ville blive ved med at møde vanskeligere og vanskeligere problemer, som ville sænke dets fremskridt, på samme måde som menneskelige forskeres fremskridt kræver en stadig større indsats og stadig flere ressourcer fra hele forskningssamfundet og endda fra hele samfundet, som den superintelligente enhed stadig ikke ville have adgang til. Det menneskelige samfund har stadig magten til at afgøre, hvad vi bruger teknologi, også AI-teknologi, til. En stor del af denne magt får vi netop fra teknologi. Hver gang vi gør fremskridt inden for AI-teknologi, får vi større kapacitet og bliver bedre til at kontrollere de potentielle risici, AI medfører.
Bemærk
Problemet med værditilpasning
Eksemplet med papirclips kaldes problemet med værditilpasning: Det er meget vanskeligt at angive systemets mål, så de er tilpasset vores værdier. Antag dog, at vi skaber et superintelligent system, der bekæmper mennesker, som forsøger at gribe ind i dets arbejde. Det kan rimeligvis antages, at et sådant system ville være tilstrækkeligt intelligent til at indse, at vi, når vi siger “fremstil papirclips til mig”, ikke mener, at det skal omdanne jorden til en global papirclipsfabrik.
Adskillelse af fiktion og virkelighed
Terminator er en god historie til en film, men næppe et virkeligt problem, vi behøver at gå i panik over. Terminator er en gimmick, en nem metode til at få masser af opmærksomhed, en populær figur, som journalister kan bruge til at hæve klikfrekvensen, en genstand, der kan lede opmærksomheden væk fra måske kedelige, men reelle trusler, f.eks. atomvåben, manglende demokrati, miljøkatastrofer og klimaændringer. I virkeligheden er truslen fra Terminator, at den leder opmærksomheden væk fra de virkelige problemer, hvoraf nogle involverer AI, og andre ikke. Vi kommer ind på de problemer, der er forbundet med AI, i det følgende, men konklusionen er: Glem alt om Terminator – der er meget vigtigere ting, du bør fokusere på.