{"componentChunkName":"component---src-templates-section-template-js","path":"/is/5/2","result":{"data":{"markdown":{"htmlAst":{"type":"root","children":[{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"lead","properties":{},"children":[{"type":"text","value":"Eins og við höfum áður nefnt eru taugungar afar einfaldar vinnslueiningar. Tæknileg uppbygging tauganeta byggist að mörgu leyti á sömu hugmynd og þeirri sem liggur að baki línulegri og tvíkosta aðhvarfsgreiningu (sjá 4. hluta)."}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Vægi og inntök","description":"TGervitaugungur er í sinni einföldustu mynd byggður á stuðlum sem kallaðir eru taugamótavægi eða einfaldlega vægi (rétt eins og vægin í línulegri og tvíkosta aðhvarfsgreiningu), og geta tekið breytingum eftir þörfum. Hliðstætt því sem gert er í aðhvarfsgreiningu eru inntökin margfölduð með vægjunum og niðurstöðurnar síðan lagðar saman. Sú summa er kölluð línuleg samantekt (e. linear combination) inntakanna. Þú manst ábyggilega hvernig við líktum þessu við búðarkvittun: fjöldi vörueininga er margfaldaður með einingarverðinu og allt lagt saman til að fá heildarverðið."},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Ef taugungur hefur sex inntök (sem eru hliðstæð vörunum í innkaupakörfunni: kartöflur, gulrætur o.s.frv.), þ.e. inntak1, inntak2, inntak3, inntak4, inntak5 og inntak6, þá þurfum við einnig að þekkja vægi þeirra allra. Vægin eru hliðstæð verði vörutegundanna í innkaupakörfunni. Við köllum þau vægi1, vægi2, vægi3, vægi4, vægi5 og vægi6. Þessu til viðbótar er oftast notaður leiðréttingarliður (e. bias term) sem samsvarar ássniðinu í línulegri aðhvarfsgreiningu. Við getum líkt þeim lið við fastan aukakostnað, t.d. þóknun sem tekin er þegar greitt er með korti."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Útreikningurinn fer síðan þannig fram: línuleg samantekt = leiðréttingarliður + vægi1 × inntak1 + ... + vægi6 × inntak6 (punktarnir ... sýna að um er að ræða summu allra liða frá 1 til 6)."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Hér fyrir neðan sést hvernig dæmið gæti litið út:"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"codesnippet","properties":{"text":"10,0 + 5,4 × 8 + (-10,2) × 5 + (-0,1) × 22 + 101,4 × (-5) + 0,0 × 2 + 12,0 × (-3) = -543,0"},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"quiz","properties":{"quizid":"6359836f-e339-5afc-b739-a1e7da5672f9"},"children":[{"type":"text","value":"\n"}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Vægin eru nær alltaf lesin úr gögnunum á sama hátt og í línulegri og tvíkosta aðhvarfsgreiningu. Áður en við útskýrum þetta nánar verður að nefna annað mikilvægt atriði sem á sér stað í taugungi áður en hann sendir úttaksboð."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Virkjun og úttak"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Þegar línulega samantektin hefur verið reiknuð framkvæmir taugungurinn eina reikniaðgerð í viðbót. Svokallað virkjunarfall (e. activation function) er notað til að reikna úttaksgildið á grundvelli niðurstöðu línulegu samantektarinnar. Nokkur algeng dæmi um virkjunarföll:"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"ul","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"Samsemdarfall: ekkert gert, heldur er úttaksgildið einfaldlega niðurstaða línulegu samantektarinnar óbreytt"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"Þrepafall: ef gildi línulegu samantektarinnar er stærra en núll eru send boð (ON), annars ekkert gert (OFF)"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"S-fall: „mjúk“ útgáfa af þrepafalli"}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Taktu eftir að ef notað er samsemdarfall jafngildir það því að nota línulega aðhvarfsgreiningu. Samsemdarfall er því sjaldan notað í tauganetum: það færir okkur ekkert nýtt eða áhugavert."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Hvað gerist þegar taugungar eru virkjaðir?","description":"Samskipti lífrænna taugunga fara fram með örstuttum rafboðum sem nefnast hrifspenna (e. <i>action potential</i>, einnig stundum <i>spikes</i> eða „broddar“), svo að þeir eru hverju sinni ýmist að senda frá sér boð eða ekki („ON“ eða „OFF“, 1 eða 0). Þrepafallið líkir eftir þessu. Í gervitauganetum er þó algengast að notuð sé önnur gerð virkjunarfalls með samfellt breytilegu tölulegu úttaki. Með dálítið klaufalegri líkingu getum við þess vegna sagt að samskipti milli raunverulegra taugafrumna líkist morskóða, en samskipti milli gervitaugunga séu eins og söngl með breytilegri tónhæð, svipað jóðli."},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"illustrations","properties":{"motive":"carstop","color":"#ebe9ef","frombottom":"0","totalheight":"35%"},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Úttak taugungsins, eins og það ákvarðast af línulegu samantektinni og virkjunarfallinu, má nota sem grundvöll forsagnar eða ákvörðunar. Ef netinu er til að mynda ætlað að þekkja stöðvunarskyldumerki þegar það birtist á leið sjálfkeyrandi bíls getur inntakið verið dílarnir á ljósmynd sem myndavél bílsins tekur af merkinu, og úttakið má þá nota til að virkja stöðvunarferli sem stöðvar bílinn við merkið."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Nám eða „aðlögun“ á sér stað í netinu þegar vægi netsins eru leiðrétt til þess að fá það til að skila réttu úttaki, á sama hátt og í línulegri og tvíkosta aðhvarfsgreiningu. Mörg tauganet eru gríðarstór og í þeim stærstu nemur fjöldi þessara vægja hundruðum milljarða. Að finna heppilegustu vægin er því afar umfangsmikið verkefni sem krefst mikillar reiknigetu."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"exercise22","properties":{"quizid":"c516aab2-78b9-50d8-b1c2-2a9a71cb40c3"},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Perceptron: formóðir allra gervitauganeta"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Perceptron er ekkert annað en tilkomumikið nafn á einföldu taugungalíkani með þrepafalli. Það var eitt fyrsta líkanið sem notað var til útreikninga með tauganetum og er stundum kallað „formóðir allra gervitauganeta“ vegna þess lykilhlutverks í sögu slíkra neta."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Það nýtist í einföldum flokkunarverkefnum þar sem flokkarnir eru aðeins tveir (tvígild flokkun). Svonefnt Perceptron-reiknirit er aðferð sem þróuð var til að láta tauganet læra rétt vægi hvers inntaks á grundvelli fyrirliggjandi gagna. Það kom fram þegar árið 1957 og upphafsmaðurinn var sálfræðingurinn Frank Rosenblatt. Við ætlum ekki að fara nákvæmlega ofan í Perceptron-reikniritið, en það vinnur á mjög einfaldan hátt, svipað og grannaflokkun. Í grundvallaratriðum er netið látið lesa dæmin úr þjálfunargögnunum eitt í einu, og vægi inntakanna er síðan leiðrétt ef flokkunin reynist ekki rétt."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Ofurtrú á gervigreind","description":"Þegar Perceptron-reikniritið kom fram vakti það mikla athygli, ekki síst vegna þeirrar miklu bjartsýni sem upphafsmaðurinn Frank Rosenblatt lýsti á notagildi þess. Sígilt dæmi um þá ofurtrú á gervigreind sem vaknaði á þessum tíma er þessi setning úr grein sem birtist í New York Times 8. júlí 1958:<br>„Bandaríski sjóherinn kynnti í dag frumgerð rafeindareiknivélar sem fulltrúar hans telja víst að muni geta gengið, talað, séð, fjölgað sér og gert sér grein fyrir eigin tilvist.“<br><br>Hér þarf að taka fram að áhugamenn um tauganet eru alls ekki eini hópurinn sem hefur fyllst bjartsýni á þennan hátt. Uppgangur og fall þekkingarkerfa sem byggðust á rökfræðilegri nálgun einkenndist af sömu ofurtrú á gervigreind, og margir héldu því fram að straumhvörf væru skammt undan. Í bæði skiptin — snemma á sjöunda áratugnum og seint á þeim níunda — fjaraði þó undan þessum vonum, og afleiðingin var mikill samdráttur fjárveitinga — stundum kallaður „gervigreindarvetur“."},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Það er heillandi að lesa um sögu umræðunnar um gervigreind, sem varð til þess að rannsóknir á tauganetum féllu nær alveg niður um meira en 20 ára skeið eftir miðjan sjöunda áratuginn. Þeirri atburðarás er lýst frá sjónarhóli félagsvísinda í greininni "},{"type":"element","tagName":"i","properties":{},"children":[{"type":"element","tagName":"a","properties":{"href":"http://journals.sagepub.com/doi/10.1177/030631296026003005","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"A Sociological Study of the Official History of the Perceptrons Controversy"}]}]},{"type":"text","value":" eftir Mikel Olazaran, sem birtist í tímaritinu "},{"type":"element","tagName":"i","properties":{},"children":[{"type":"text","value":"Social Studies of Science"}]},{"type":"text","value":" árið 1996. Umfjöllun hans á ennþá vel við og er mjög umhugsunarverð. Sögurnar af hetjum gervigreindarrannsóknanna, sem var hampað fyrir það afrek að skapa tauganet sem brátt myndu jafnast á við mannfólkið að greind og öðlast sjálfsvitund, minna að mörgu leyti á sumt af því sem sagt er um gervigreind nú á dögum. Það nægir að glugga í greinina til að sjá að hún setur fréttaflutning nútímans í athyglisvert samhengi. Við getum nefnt sem dæmi "},{"type":"element","tagName":"a","properties":{"href":"https://www.technologyreview.com/s/608911/is-ai-riding-a-one-trick-pony/","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"grein sem birtist í MIT Technology Review"}]},{"type":"text","value":" í september 2017. Jordan Jacobs, einn af stofnendum fyrirtækisins Vector Institute sem hefur aflað sér milljóna dala fjármögnunar, segir þar að Geoffrey Hinton (einum helsta djúpnámsfrömuði nútímans) megi líkja við Einstein vegna framlags hans til þróunar reiknirita fyrir tauganet á níunda áratugnum og fram á okkar dag. Þetta er svipað þeirri ofurtrú á verkefninu Human Brain Project sem við höfum áður minnst á."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Haft er eftir Hinton að þótt sett markmið hafi ekki náðst sé það aðeins „tímabundin snurða á þræðinum“. (Í greininni kemur þó einnig fram að Hinton hafi hlegið að þessum orðum sínum, og því er ekki gott að segja hvort þau voru sögð í alvöru.) Forsvarsmenn Human Brain Project segjast vera "},{"type":"element","tagName":"a","properties":{"href":"https://www.humanbrainproject.eu/en/follow-hbp/news/the-quest-for-consciousness/","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"„um það bil að stíga risastórt framfaraskref í skilningi okkar á vitundinni“"}]},{"type":"text","value":". Hljómar þetta ekki kunnuglega?"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Enginn getur sagt fyrir um framtíðina með neinni vissu, en þegar litið er til þess hversu lítið hefur verið að marka staðhæfingar af því tagi áður er full ástæða til að lesa allt slíkt með gagnrýnisaugum. Aftur verður vikið að framtíð gervigreindar í síðasta hluta námskeiðsins. Skoðum nú hvernig gervitauganet eru búin til."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Taugungar settir saman: tauganet"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Einn taugungur er alltof einföld eining til að geta tekið ákvarðanir eða skilað frá sér áreiðanlegum forsögnum í raunverulegum verkefnum. Til þess að nýta möguleika tauganeta til fulls notum við úttak eins taugungs sem inntak þess næsta, og úttak hans síðan sem inntak enn annarra taugunga o.s.frv. Úttak tiltekins hluta tauganetsins, sem kallaður er úttakslagið, verður loks úttak netsins í heild. Við komum aftur að þessu þegar við höfum rætt hvernig tauganet breyta hegðun sinni með því að læra rétta stuðla á grundvelli gagnanna sem þau taka inn."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"key-terminology","properties":{"terminologies":"[\n      {\"title\":\"Lög\",\"content\":\"Tauganet eru oft byggð upp í nokkrum lögum. Í inntakslaginu eru þeir taugungar sem vinna beint úr inntaksgögnunum. Ef verkefnið snýst um að greina það sem sést á ljósmyndum geta inntaksgögnin til dæmis verið tölulegt gildi einstakra díla á hverri ljósmynd. Í netinu eru oftast einnig „falin“ lög sem nota úttak annarra taugunga sem sitt inntak og skila frá sér úttaki sem er notað sem inntak annarra taugungalaga. Loks skilar úttakslagið úttaki tauganetsins í heild. Allir taugungar í hverju lagi taka við úttaki taugunganna á næsta lagi á undan og skila sínu úttaki til næsta lags.<br>Hugtakið djúpnám vísar til þessarar uppbyggingar: því fleiri sem lögin eru þeim mun dýpra er tauganetið. Aukin dýpt þyngir róðurinn og krefst bæði meiri gagna og reiknigetu. Ef þeim forsendum er fullnægt getur þessi tilhögun hins vegar gert netinu kleift að vinna úr flóknari fyrirbærum.\"}]"},"children":[{"type":"text","value":"\n"}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Sígilt dæmi um marglaga tauganet er svokallað marglaga perceptron-net. Eins og við nefndum hér á undan nýtist Perceptron-reiknirit Rosenblatts til að finna rétt vægi fyrir einstaka taugunga. Eftir því sem lögunum í perceptron-neti fjölgar verður það verkefni flóknara og erfiðara og leitin að viðunandi lausn á þeim vanda var löng. Slík lausn fannst þó að lokum. Tilkoma reiknirits sem byggist á svokallaðri afturvirkri útbreiðslu (eða „afturflutningi“, e. backpropagation) varð til þess að rannsóknir á tauganetum tóku nýjan kipp í lok níunda áratugarins, og það reiknirit er enn kjarninn í mörgum af helstu djúpnámsaðferðunum."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Á sama tíma í Helsinki...","description":"Reikniritið fyrir afturvirka útbreiðslu varð til eftir löngum og krókóttum leiðum. Sú saga tengist meðal annars tölvunarfræðideildinni við háskólann í Helsinki. Um þremur árum eftir að sú deild var stofnuð árið 1967 skrifaði nemandi að nafni Seppo Linnainmaa <a target='_blank' rel='noopener noreferrer' href='http://people.idsia.ch/~juergen/linnainmaa1970thesis.pdf'>a Master’s thesis</a> sína þar. Heitið á henni var „Uppsöfnuð námundunarskekkja í reikniriti sem Taylor-nálgun fyrir einstakar námundunarskekkjur“. (Ritgerðin var skrifuð á finnsku og upprunalegt heiti hennar er „Algoritmin kumulatiivinen pyöristysvirhe yksittäisten pyöristysvirheiden Taylor-kehitelmänä“).<br><br>Í ritgerðinni var gerð grein fyrir sjálfvirkri diffrunaraðferð sem aðrir fræðimenn gátu síðar notað til að meta hversu næmt úttakið í marglaga tauganeti er fyrir breytingum á einstökum vægjum, en það er grunnhugmyndin að baki afturvirkri útbreiðslu."},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Einfaldur tauganetsflokkari"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Við gefum hér tiltölulega einfalt dæmi um hvernig nota má tauganet í flokkunarskyni. Þar er um að ræða verkefni sem svipar mjög til MNIST-verkefnisins og snýst um að skipta myndum í tvo flokka. Fyrst smíðum við flokkara sem getur greint hvort tiltekin mynd sýnir kross eða hring. Myndirnar eru gerðar úr lituðum og gráum dílum eða reitum í grófri upplausn, eða aðeins 5 × 5 eins og sýnt er hér fyrir neðan (hringurinn líkari tigli í þessari upplausn):"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"exercise23a","properties":{},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Til að geta smíðað tauganetsflokkara verðum við að finna formlega framsetningu á þrautinni sem gerir okkur kleift að leysa hana með aðferðunum sem við höfum lært. Fyrsta skrefið er að gefa hverjum reit tölugildi sem nota má sem inntak flokkarans. Hér fá litaðir reitir gildið 1 og gráir reitir gildið 0. Taktu eftir að þótt krossinn og hringurinn séu hér í mismunandi litum (grænum og bláum) hefur það engin áhrif á flokkarann, heldur gerir hann aðeins mun á lit og gráu. Reitirnir 25 sem hvor mynd er gerð úr eru inntök flokkarans."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Til að engin hætta sé á ruglingi ákveðum við að skrá reitina í sömu röð og texti er lesinn; byrjum þannig efst til vinstri og lesum eina línu í einu frá vinstri til hægri. Á myndinni sem sýnir kross skráum við því efstu línuna sem 1,0,0,0,1, næstu línu sem 0,1,0,1,0 o.s.frv. Inntök myndarinnar verða því 1,0,0,0,1,0,1,0,1,0,0,0,1,0,0,0,1,0,1,0,1,0,0,0,1."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Við notum einfalt taugungalíkan þar sem fyrsta skrefið er að reikna út línulega samantekt inntakanna. Til þess þurfum við vægi fyrir hvern reit, eða alls 25 vægi."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Loks beitum við þrepafalli til að ákveða virkjun taugungsins fyrir hvern reit. Ef línulega samantektin er neikvæð verður virkjunin 0, og við ákveðum að það gildi merki kross. Ef línulega samantektin er jákvæð verður virkjunin 1, og við ákveðum að það gildi merki hring."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Sjáum nú hvað gerist ef vægjunum er öllum gefið sama gildi, þ.e. 1. Þá verður línulega samantektin 9 á myndinni með krossi (9 litaðir reitir, eða 9 × 1, og 16 gráir reitir eða 16 × 0), en 8 á myndinni með hring (8 litaðir reitir eða 8 × 1, og 17 gráir reitir eða 17 × 0). Með öðrum orðum er línulega samantektin jákvæð á báðum myndunum og þær flokkast því báðar sem hringir. Það er fremur slakur árangur þegar horft er til þess að myndirnar sem við viljum geta flokkað eru aðeins þessar tvær."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Til að bæta árangurinn verðum við að breyta vægjunum þannig að línulega samantektin verði neikvæð ef kross er á myndinni og jákvæð ef hún sýnir hring. Við sjáum fljótt að helsti munurinn á myndum af krossum og hringjum er að litaður reitur er aðeins á miðju myndarinnar ef hún sýnir kross, ekki hring. Sömuleiðis eru hornreitirnir litaðir á slíkum myndum, en gráir á myndum sem sýna hring."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Þetta nægir okkur til að ákveða heppileg vægi. Þar höfum við reyndar úr óendanlegum fjölda möguleika að velja. Við getum til dæmis ákveðið að miðja hverrar myndar (13. reitur á hvorri mynd) skuli hafa vægið -1 og reitir á miðri brún myndar vægið 1, og látið öll önnur vægi vera 0. Á myndinni af krossinum skilar reiturinn í miðjunni þá gildinu -1, en á öllum öðrum reitum er annað hvort gildi reitsins eða vægið 0, og því verður heildargildið einnig -1. Virkjunin verður því 0 og krossinn flokkast rétt."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Hvað um hringinn? Reitirnir fyrir miðju hverrar brúnar skila gildinu 1, þ.e. alls 4 × 1 = 4. Á öllum hinum reitunum er annað hvort gildi reitsins eða vægið 0, og heildargildið verður því einnig 4. Talan 4 er jákvæð og virkjunin verður því 1, og þar með flokkast hringurinn einnig rétt."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Brostu!"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Við förum nú sömu leið til að búa til flokkara fyrir broskalla. Þú gefur reitunum á myndinni vægi með því að smella á þá. Einn smellur gefur reitnum vægið 1, tveir smellir gildið -1. Virkjunin 1 gefur til kynna — með réttu eða röngu — að flokka eigi myndina sem „broskall“, en virkjunin -1 að flokka eigi myndina sem „fýlukall“."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Láttu þér ekki bregða þótt erfiðlega gangi að flokka allar myndirnar rétt. Það er hreinlega ekki hægt með einföldum flokkara eins og þessum! Mikilvægt er að muna þetta atriði: Stundum er flokkarinn of einfaldur til að fullkomin flokkun geti náðst. Hér er aðeins notaður einn taugungur sem skilar frá sér línulegri samantekt inntakanna, og slíkur flokkari er of einfaldur til að leysa þessa þraut. Taktu eftir að þú getur búið til flokkara sem skila mismunandi góðum árangri eftir myndum. Sumir flokka flestar eða allar myndir af brosköllum rétt en fáar myndir af fýluköllum, eða öfugt."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Geturðu flokkað 6 af 8 myndum rétt í báðum flokkum?"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"exercise23b","properties":{},"children":[]},{"type":"text","value":"\n"}]}],"data":{"quirksMode":false}},"frontmatter":{"path":"/is/5/2","title":"Hvernig eru tauganet byggð upp?","section":2,"part":5,"lang":"is"}},"allRelatedSections":{"totalCount":3,"edges":[{"node":{"htmlAst":{"type":"root","children":[{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"lead","properties":{},"children":[{"type":"text","value":"Þessi kafli snýst um djúpnám og tauganet, sem vekja einna mesta athygli af öllu því sem fjallað er um í þessu námskeiði."}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Ástæðan fyrir þeim áhuga er að með tilkomu tauganeta hefur vaknað von um að við getum öðlast skilning á mannshuganum, sem á uppruna sinn að rekja til taugaboða í heilanum. Önnur ástæða er sá mikli árangur sem náðst hefur í vélnámi á síðustu árum með því að smíða tauganet sem nýta kosti djúpnámsaðferða og gríðarstórra gagnasafna."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Hvað eru tauganet?"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Til að skilja heildarsamhengið betur skulum við víkja fyrst að einstökum einingum slíkra kerfa. Orðið tauganet er bæði notað um „raunveruleg“ lífræn tauganet, eins og þau sem finna má í mannsheilanum, og gervitauganet, þ.e. hugbúnað sem líkir eftir lífrænum tauganetum."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"key-terminology","properties":{"terminologies":"[{\n\t\"title\": \"Djúpnám\",\n\t\"content\": \"Orðið djúpnám er notað um tilteknar vélnámsaðferðir þar sem einföldum vinnslueiningum, sem eru í raun stærðfræðileg föll, er raðað upp í lögum. Lögin tengjast síðan saman í neti á þann hátt að úrvinnsla inntaksgagnanna — þ.e. upplýsinganna sem lesnar eru inn í kerfið — fer fram í einu laginu fyrst og önnur lög taka síðan við eitt af öðru. Fyrirmyndin að þessari uppbyggingu er kerfið sem heilinn notar til að vinna úr sjónrænu áreiti sem berst til hans frá sjónu (nethimnu) augans. Sú úrvinnsla fer fram í nokkrum áföngum og þannig má segja að hún hafi ákveðna dýpt eins og lögin í vélnámskerfinu. Komið hefur í ljós að með áfanga- eða lagskiptri vinnslu upplýsinga geta tauganet lært flókin kerfi og mynstur án þess að það krefjist svo mikilla gagna að ekki sé nokkur leið að safna þeim.\"},{\n\t\"title\": \"Taugafrumur, frumubolir og taugaboð\",\n\t\"content\": \"Tauganet eru gerð úr mörgum einföldum einingum sem senda boð sín í milli. Í lífverum eru þessar einingar oftast kallaðar taugafrumur, en stundum einnig taugungar, og í hugbúnaði er oft talað um gervitaugunga. Lífrænum taugungum má lýsa í stórum dráttum sem einföldum vinnslueiningum, sem skiptast í frumubol og þræði sem tengja eina taugafrumu við aðra. Þessar frumur gera oftast lítið annað en að bíða eftir boðum sem þeim berast eftir þessum þráðum.\"},{\n\t\"title\": \"Griplur, taugasímar og taugamót\",\n\t\"content\": \"Þræðirnir sem ganga út frá taugafrumu og taka við boðum utan frá kallast á máli líffræðinnar griplur. Ef taugafrumu berast viðeigandi boð getur hún brugðist við með því að senda sjálf boð. Þráðurinn sem flytur þau boð er kallaður taugasími. Taugasími getur tengst einni eða fleiri griplum á svokölluðum taugamótum þar sem tvær taugafrumur mætast.\"}]"},"children":[{"type":"text","value":"\n"}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Stök taugafruma, án tengsla við aðrar taugafrumur, er ekki til mikils nýt. Samtenging taugafrumna leiðir til þess að þær geta starfað saman í kerfi sem getur orðið gríðarlega margbrotið. Þetta sést best í hinu ótrúlega upplýsingakerfi sem við köllum heila. Virkni kerfisins ræðst af tengingunum. Hver taugafruma bregst við boðum sem henni berast á sérstakan hátt, en viðbrögð hverrar frumu geta þó einnig tekið breytingum með tímanum. Við vitum nú að slíkar breytingar eru grunnurinn að heilastarfsemi á borð við minni og nám."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"quiz","properties":{"quizid":"d654b1b5-67dc-5924-a9db-5a108c58533d"},"children":[{"type":"text","value":"\n"}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Hvers vegna gervitauganet?"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Kerfi sem líkja eftir starfsemi heilans eru stundum notuð í tengslum við rannsóknir í taugavísindum, þ.e. athuganir á heilastarfsemi og taugakerfinu almennt. Það er heillandi tilhugsun að með því að gera okkur nógu skýra mynd af mannsheilanum gætum við skilið leyndardóma hugarstarfseminnar og vitundarlífs manna og dýra."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"illustrations","properties":{"motive":"brain"},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Líkön af starfsemi heilans","description":"Í rannsóknarverkefninu <a target='_blank' rel='noopener noreferrer' href='https://www.braininitiative.nih.gov'>The BRAIN Initiative</a>, sem taugavísindamenn í Bandaríkjunum hafa forystu um, er unnið að þróun nýrrar tækni til að myndgera, líkja eftir og herma starfsemi heilans. Þetta er nú hægt að gera bæði í meiri smáatriðum og á umfangsmeiri hátt en áður. Í sumum slíkum rannsóknarverkefnum hafa mjög háleit markmið verið sett. Nú er nær áratugur liðinn síðan aðstandendur <a target='_blank' rel='noopener noreferrer' href='https://www.youtube.com/watch?v=JqMpGrM5ECo'>The Human Brain Project</a> sögðu að þess væri „skammt að bíða“ að leyndardómar mannshugans yrðu leystir. Starfið þótti skila fremur litlum árangri og að lokum fór Evrópusambandið, <a target='_blank' rel='noopener noreferrer' href='https://www.scientificamerican.com/article/why-the-human-brain-project-went-wrong-and-how-to-fix-it/'>sem lagði einn milljarð evra til verkefnisins</a>, að kalla eftir svörum við því hvernig fjármunirnir hefðu verið notaðir og hvenær vænta mætti niðurstaðna."},"children":[{"type":"text","value":"\n  "}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Þó að langt virðist í land að við öðlumst skilning á mannshuganum og vitundinni hafa margvíslegar framfarir átt sér stað í taugavísindum. Aukin þekking á uppbyggingu og starfsemi heilans hefur til dæmis þegar skilað þeim árangri að við getum greint hvenær eitthvað fer úrskeiðis í taugakerfinu og kunnum betri aðferðir en áður til að koma heilastarfseminni aftur í samt lag. Þetta getur stuðlað að þróun nýrra meðferðarúrræða fyrir fólk sem þjáist af röskun á starfsemi taugakerfisins, svo sem flogaveiki, Alzheimer-sjúkdómi, kvillum vegna þroskafráviks eða heilaskemmdum vegna áverka."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Horft til framtíðar: tengiskil heila og tölvu","description":"Meðal margra rannsóknarsviða í taugavísindum eru tengiskil heila og tölvu (e. brain-computer interface). Rannsóknirnar snúast um hvort finna megi leiðir til að eiga samskipti við tölvur eingöngu með hugsuninni. Enn sem komið er hafa aðeins verið þróuð afar frumstæð tengiskil sem nota má, til dæmis, til að <a target='_blank' rel='noopener noreferrer' href='https://www.youtube.com/watch?v=Ecvv-EvOj8M'>endurskapa í mjög grófum dráttum það sem augun sjá</a>, eða <a target='_blank' rel='noopener noreferrer' href='https://www.youtube.com/watch?v=7t84lGE5TXA'>stjórna vél eða dróna með huganum</a>. Vera má að okkur takist einhvern tímann að smíða tæki sem getur lesið hugsanir okkar og fylgt nákvæmum skipunum, en slíkar vélar tilheyra enn heimi vísindaskáldskaparins. Það er einnig hugsanlegt að leiðir finnist til að láta heilann tileinka sér upplýsingar með veikum rafboðum. Slík örvun heilans gagnast þegar sem læknismeðferð. Sem stendur kunnum við þó engar aðferðir til að miðla eiginlegum upplýsingum — orðum, hugmyndum, minningum eða tilfinningum — til heilans með rafrænum hætti. Á hinn bóginn vitum við ekki heldur hvaða takmörk slíkri tækni eru sett né hversu erfitt okkur mun reynast að ná tökum á henni."},"children":[{"type":"text","value":"\n  "}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Við erum núna komin nokkuð af leið í þessari umfjöllun. Eins og við nefndum er ekki unnið að þróun gervitauganeta aðeins í þeim tilgangi að auka skilning á taugakerfum lífvera, heldur geta lífrænu kerfin einnig nýst sem innblástur til að þróa betri aðferðir á sviði gervigreindar og vélnáms. Hugmyndin er sáraeinföld: Heilinn er gríðarlega margbrotið upplýsingavinnslukerfi og ræður við hinar ólíkustu athafnir sem krefjast greindar (og ýmsar aðrar sem bera ekki vott um mikla greind). Því er rökrétt að leita á þessi mið þegar okkur vantar innblástur til að smíða gervigreindarkerfi."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Tauganet urðu fyrst mikilvægt rannsóknarefni í gervigreind á sjöunda áratug síðustu aldar. Við fjöllum meira um þetta í lokakafla námskeiðsins, þar sem sagt er frá sögu gervigreindar og ýmsum straumum og stefnum. Nú á síðustu árum hafa tauganet aftur sprottið upp sem eitt þeirra gervigreindarsviða sem allra mest athygli beinist að. Ástæðan er sú að djúpnám hefur leitt til mikilla framfara undanfarin ár, ekki síst á ýmsum sviðum sem menn höfðu áður náð litlum tökum á með gervigreind, og má þar nefna bæði málgreiningu og myndgreiningu."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Hver er sérstaða tauganeta?"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Helstu rökin fyrir því að nota tauganet almennt sem gervigreindaraðferð eru svipuð þeim sem eiga við um rökfræðilegar aðferðir. Þegar þær síðarnefndu voru mest notaðar var litið svo á að til að gervigreind gæti nálgast mannlega greind væri óhjákvæmilegt að líkja eftir mannlegri rökhugsun, einkum því hvernig við beitum táknum sem standa fyrir hugtök, ýmist hlutstæð eða óhlutstæð, í samræmi við reglur rökfræðinnar."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Rökin fyrir því að nota tauganet eru þau að skapa megi greind með því að herma þá gagnavinnslu sem á sér stað í taugungum og tauganetum heilans, og telja má að sé forsenda táknrænnar hugsunar. Þetta virðist mjög eðlileg ályktun. Gott er samt að hafa þá hliðstæðu í huga að þegar við smíðum flugvélar látum við þær ekki blaka vængjunum og notum ekki bein, vöðva og fjaðrir sem byggingarefni. Í gervitauganetum er þannig venjulega horft framhjá innri uppbyggingu taugafrumna og gervitaugungar eru oft miklu einfaldari að gerð en hliðstæður þeirra í lífríkinu. Á sama hátt er yfirleitt ekki reynt að líkja eftir rafefnaboðunum sem fara milli náttúrulegra taugunga, enda er markmiðið að byggja gervigreindarkerfi fremur en eftirmyndir lífrænna kerfa."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Tauganet hafa viss sérkenni sem greina þau frá hefðbundnum tölvukerfum."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h3","properties":{},"children":[{"type":"text","value":"Sérkenni tauganeta — 1"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Í fyrsta lagi fer vinnsla upplýsinga í hefðbundinni tölvu fram í örgjörvanum (eða miðverkinu, á ensku central processing unit eða CPU) sem getur aðeins tekið fyrir eitt atriði í einu. Örgjörvinn sækir gögn til vinnslu í minni tölvunnar, og skilar niðurstöðum þangað aftur. Gagnageymsla og gagnavinnsla fara þannig fram í tveimur aðskildum hlutum tölvunnar: minninu og örgjörvanum. Í tauganetum er kerfið gert úr fjölda taugunga sem allir geta annast upplýsingavinnslu sjálfstætt. Ólíkt örgjörvanum, sem tekur einstök atriði upplýsinganna til vinnslu hvert á eftir öðru, getur tauganetið unnið úr miklu magni upplýsinga á sama tíma."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h3","properties":{},"children":[{"type":"text","value":"Sérkenni tauganeta — 2"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Í öðru lagi eru ekki skýr skil milli gagnageymslu (minnis) og gagnavinnslu eins og í hefðbundnum tölvum. Taugungarnir gera hvort tveggja, að geyma og vinna upplýsingar, og því er engin þörf á að sækja upplýsingar í sérstakt minni til að geta unnið úr þeim. Skammtímageymsla gagna fer fram í taugungunum sjálfum (þ.e. meðan unnið er úr þeim), en til lengri tíma eru gögnin geymd í tengingum milli taugunganna, svokölluðum taugamótavægjum, sem við fjöllum meira um hér á eftir."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Þessi tvö sérkenni tauganeta valda því að eðli verkefnisins ræður mestu um hvort best hentar að nota tauganet eða hefðbundnar tölvur. Í raun er ekkert því til fyrirstöðu að nota hefðbundnar tölvur til að herma tauganet, og þannig var lengi farið að. Betri árangur næst þó með því að nota vélbúnað sem er hannaður sérstaklega með það fyrir augum að vinna úr mörgum gagnaatriðum samtímis. Þetta er kallað "},{"type":"element","tagName":"strong","properties":{},"children":[{"type":"text","value":"samhliðavinnsla"}]},{"type":"text","value":" (e. "},{"type":"element","tagName":"em","properties":{},"children":[{"type":"text","value":"parallel processing"}]},{"type":"text","value":"). Svo vill að örgjörvar sem eru gerðir fyrir tölvugrafík sérstaklega (e. "},{"type":"element","tagName":"em","properties":{},"children":[{"type":"text","value":"graphics processing units"}]},{"type":"text","value":" eða GPU) — og kallast venjulega skjákort á íslensku — hafa einmitt þennan eiginleika, og þar er því fundin tiltölulega ódýr lausn á þeim vanda að byggja stór tölvukerfi sem nota má til að þróa djúpnámsaðferðir."}]}],"data":{"quirksMode":false}},"excerpt":"Ástæðan fyrir þeim áhuga er að með tilkomu tauganeta hefur vaknað von um að við getum öðlast skilning á mannshuganum, sem á uppruna sinn að…","frontmatter":{"path":"/is/5/1","title":"Grundvallaratriði tauganeta","part":5,"type":"section","lang":"is","section":1}}},{"node":{"htmlAst":{"type":"root","children":[{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"lead","properties":{},"children":[{"type":"text","value":"Eins og við höfum áður nefnt eru taugungar afar einfaldar vinnslueiningar. Tæknileg uppbygging tauganeta byggist að mörgu leyti á sömu hugmynd og þeirri sem liggur að baki línulegri og tvíkosta aðhvarfsgreiningu (sjá 4. hluta)."}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Vægi og inntök","description":"TGervitaugungur er í sinni einföldustu mynd byggður á stuðlum sem kallaðir eru taugamótavægi eða einfaldlega vægi (rétt eins og vægin í línulegri og tvíkosta aðhvarfsgreiningu), og geta tekið breytingum eftir þörfum. Hliðstætt því sem gert er í aðhvarfsgreiningu eru inntökin margfölduð með vægjunum og niðurstöðurnar síðan lagðar saman. Sú summa er kölluð línuleg samantekt (e. linear combination) inntakanna. Þú manst ábyggilega hvernig við líktum þessu við búðarkvittun: fjöldi vörueininga er margfaldaður með einingarverðinu og allt lagt saman til að fá heildarverðið."},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Ef taugungur hefur sex inntök (sem eru hliðstæð vörunum í innkaupakörfunni: kartöflur, gulrætur o.s.frv.), þ.e. inntak1, inntak2, inntak3, inntak4, inntak5 og inntak6, þá þurfum við einnig að þekkja vægi þeirra allra. Vægin eru hliðstæð verði vörutegundanna í innkaupakörfunni. Við köllum þau vægi1, vægi2, vægi3, vægi4, vægi5 og vægi6. Þessu til viðbótar er oftast notaður leiðréttingarliður (e. bias term) sem samsvarar ássniðinu í línulegri aðhvarfsgreiningu. Við getum líkt þeim lið við fastan aukakostnað, t.d. þóknun sem tekin er þegar greitt er með korti."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Útreikningurinn fer síðan þannig fram: línuleg samantekt = leiðréttingarliður + vægi1 × inntak1 + ... + vægi6 × inntak6 (punktarnir ... sýna að um er að ræða summu allra liða frá 1 til 6)."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Hér fyrir neðan sést hvernig dæmið gæti litið út:"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"codesnippet","properties":{"text":"10,0 + 5,4 × 8 + (-10,2) × 5 + (-0,1) × 22 + 101,4 × (-5) + 0,0 × 2 + 12,0 × (-3) = -543,0"},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"quiz","properties":{"quizid":"6359836f-e339-5afc-b739-a1e7da5672f9"},"children":[{"type":"text","value":"\n"}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Vægin eru nær alltaf lesin úr gögnunum á sama hátt og í línulegri og tvíkosta aðhvarfsgreiningu. Áður en við útskýrum þetta nánar verður að nefna annað mikilvægt atriði sem á sér stað í taugungi áður en hann sendir úttaksboð."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Virkjun og úttak"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Þegar línulega samantektin hefur verið reiknuð framkvæmir taugungurinn eina reikniaðgerð í viðbót. Svokallað virkjunarfall (e. activation function) er notað til að reikna úttaksgildið á grundvelli niðurstöðu línulegu samantektarinnar. Nokkur algeng dæmi um virkjunarföll:"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"ul","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"Samsemdarfall: ekkert gert, heldur er úttaksgildið einfaldlega niðurstaða línulegu samantektarinnar óbreytt"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"Þrepafall: ef gildi línulegu samantektarinnar er stærra en núll eru send boð (ON), annars ekkert gert (OFF)"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"S-fall: „mjúk“ útgáfa af þrepafalli"}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Taktu eftir að ef notað er samsemdarfall jafngildir það því að nota línulega aðhvarfsgreiningu. Samsemdarfall er því sjaldan notað í tauganetum: það færir okkur ekkert nýtt eða áhugavert."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Hvað gerist þegar taugungar eru virkjaðir?","description":"Samskipti lífrænna taugunga fara fram með örstuttum rafboðum sem nefnast hrifspenna (e. <i>action potential</i>, einnig stundum <i>spikes</i> eða „broddar“), svo að þeir eru hverju sinni ýmist að senda frá sér boð eða ekki („ON“ eða „OFF“, 1 eða 0). Þrepafallið líkir eftir þessu. Í gervitauganetum er þó algengast að notuð sé önnur gerð virkjunarfalls með samfellt breytilegu tölulegu úttaki. Með dálítið klaufalegri líkingu getum við þess vegna sagt að samskipti milli raunverulegra taugafrumna líkist morskóða, en samskipti milli gervitaugunga séu eins og söngl með breytilegri tónhæð, svipað jóðli."},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"illustrations","properties":{"motive":"carstop","color":"#ebe9ef","frombottom":"0","totalheight":"35%"},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Úttak taugungsins, eins og það ákvarðast af línulegu samantektinni og virkjunarfallinu, má nota sem grundvöll forsagnar eða ákvörðunar. Ef netinu er til að mynda ætlað að þekkja stöðvunarskyldumerki þegar það birtist á leið sjálfkeyrandi bíls getur inntakið verið dílarnir á ljósmynd sem myndavél bílsins tekur af merkinu, og úttakið má þá nota til að virkja stöðvunarferli sem stöðvar bílinn við merkið."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Nám eða „aðlögun“ á sér stað í netinu þegar vægi netsins eru leiðrétt til þess að fá það til að skila réttu úttaki, á sama hátt og í línulegri og tvíkosta aðhvarfsgreiningu. Mörg tauganet eru gríðarstór og í þeim stærstu nemur fjöldi þessara vægja hundruðum milljarða. Að finna heppilegustu vægin er því afar umfangsmikið verkefni sem krefst mikillar reiknigetu."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"exercise22","properties":{"quizid":"c516aab2-78b9-50d8-b1c2-2a9a71cb40c3"},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Perceptron: formóðir allra gervitauganeta"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Perceptron er ekkert annað en tilkomumikið nafn á einföldu taugungalíkani með þrepafalli. Það var eitt fyrsta líkanið sem notað var til útreikninga með tauganetum og er stundum kallað „formóðir allra gervitauganeta“ vegna þess lykilhlutverks í sögu slíkra neta."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Það nýtist í einföldum flokkunarverkefnum þar sem flokkarnir eru aðeins tveir (tvígild flokkun). Svonefnt Perceptron-reiknirit er aðferð sem þróuð var til að láta tauganet læra rétt vægi hvers inntaks á grundvelli fyrirliggjandi gagna. Það kom fram þegar árið 1957 og upphafsmaðurinn var sálfræðingurinn Frank Rosenblatt. Við ætlum ekki að fara nákvæmlega ofan í Perceptron-reikniritið, en það vinnur á mjög einfaldan hátt, svipað og grannaflokkun. Í grundvallaratriðum er netið látið lesa dæmin úr þjálfunargögnunum eitt í einu, og vægi inntakanna er síðan leiðrétt ef flokkunin reynist ekki rétt."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Ofurtrú á gervigreind","description":"Þegar Perceptron-reikniritið kom fram vakti það mikla athygli, ekki síst vegna þeirrar miklu bjartsýni sem upphafsmaðurinn Frank Rosenblatt lýsti á notagildi þess. Sígilt dæmi um þá ofurtrú á gervigreind sem vaknaði á þessum tíma er þessi setning úr grein sem birtist í New York Times 8. júlí 1958:<br>„Bandaríski sjóherinn kynnti í dag frumgerð rafeindareiknivélar sem fulltrúar hans telja víst að muni geta gengið, talað, séð, fjölgað sér og gert sér grein fyrir eigin tilvist.“<br><br>Hér þarf að taka fram að áhugamenn um tauganet eru alls ekki eini hópurinn sem hefur fyllst bjartsýni á þennan hátt. Uppgangur og fall þekkingarkerfa sem byggðust á rökfræðilegri nálgun einkenndist af sömu ofurtrú á gervigreind, og margir héldu því fram að straumhvörf væru skammt undan. Í bæði skiptin — snemma á sjöunda áratugnum og seint á þeim níunda — fjaraði þó undan þessum vonum, og afleiðingin var mikill samdráttur fjárveitinga — stundum kallaður „gervigreindarvetur“."},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Það er heillandi að lesa um sögu umræðunnar um gervigreind, sem varð til þess að rannsóknir á tauganetum féllu nær alveg niður um meira en 20 ára skeið eftir miðjan sjöunda áratuginn. Þeirri atburðarás er lýst frá sjónarhóli félagsvísinda í greininni "},{"type":"element","tagName":"i","properties":{},"children":[{"type":"element","tagName":"a","properties":{"href":"http://journals.sagepub.com/doi/10.1177/030631296026003005","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"A Sociological Study of the Official History of the Perceptrons Controversy"}]}]},{"type":"text","value":" eftir Mikel Olazaran, sem birtist í tímaritinu "},{"type":"element","tagName":"i","properties":{},"children":[{"type":"text","value":"Social Studies of Science"}]},{"type":"text","value":" árið 1996. Umfjöllun hans á ennþá vel við og er mjög umhugsunarverð. Sögurnar af hetjum gervigreindarrannsóknanna, sem var hampað fyrir það afrek að skapa tauganet sem brátt myndu jafnast á við mannfólkið að greind og öðlast sjálfsvitund, minna að mörgu leyti á sumt af því sem sagt er um gervigreind nú á dögum. Það nægir að glugga í greinina til að sjá að hún setur fréttaflutning nútímans í athyglisvert samhengi. Við getum nefnt sem dæmi "},{"type":"element","tagName":"a","properties":{"href":"https://www.technologyreview.com/s/608911/is-ai-riding-a-one-trick-pony/","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"grein sem birtist í MIT Technology Review"}]},{"type":"text","value":" í september 2017. Jordan Jacobs, einn af stofnendum fyrirtækisins Vector Institute sem hefur aflað sér milljóna dala fjármögnunar, segir þar að Geoffrey Hinton (einum helsta djúpnámsfrömuði nútímans) megi líkja við Einstein vegna framlags hans til þróunar reiknirita fyrir tauganet á níunda áratugnum og fram á okkar dag. Þetta er svipað þeirri ofurtrú á verkefninu Human Brain Project sem við höfum áður minnst á."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Haft er eftir Hinton að þótt sett markmið hafi ekki náðst sé það aðeins „tímabundin snurða á þræðinum“. (Í greininni kemur þó einnig fram að Hinton hafi hlegið að þessum orðum sínum, og því er ekki gott að segja hvort þau voru sögð í alvöru.) Forsvarsmenn Human Brain Project segjast vera "},{"type":"element","tagName":"a","properties":{"href":"https://www.humanbrainproject.eu/en/follow-hbp/news/the-quest-for-consciousness/","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"„um það bil að stíga risastórt framfaraskref í skilningi okkar á vitundinni“"}]},{"type":"text","value":". Hljómar þetta ekki kunnuglega?"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Enginn getur sagt fyrir um framtíðina með neinni vissu, en þegar litið er til þess hversu lítið hefur verið að marka staðhæfingar af því tagi áður er full ástæða til að lesa allt slíkt með gagnrýnisaugum. Aftur verður vikið að framtíð gervigreindar í síðasta hluta námskeiðsins. Skoðum nú hvernig gervitauganet eru búin til."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Taugungar settir saman: tauganet"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Einn taugungur er alltof einföld eining til að geta tekið ákvarðanir eða skilað frá sér áreiðanlegum forsögnum í raunverulegum verkefnum. Til þess að nýta möguleika tauganeta til fulls notum við úttak eins taugungs sem inntak þess næsta, og úttak hans síðan sem inntak enn annarra taugunga o.s.frv. Úttak tiltekins hluta tauganetsins, sem kallaður er úttakslagið, verður loks úttak netsins í heild. Við komum aftur að þessu þegar við höfum rætt hvernig tauganet breyta hegðun sinni með því að læra rétta stuðla á grundvelli gagnanna sem þau taka inn."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"key-terminology","properties":{"terminologies":"[\n      {\"title\":\"Lög\",\"content\":\"Tauganet eru oft byggð upp í nokkrum lögum. Í inntakslaginu eru þeir taugungar sem vinna beint úr inntaksgögnunum. Ef verkefnið snýst um að greina það sem sést á ljósmyndum geta inntaksgögnin til dæmis verið tölulegt gildi einstakra díla á hverri ljósmynd. Í netinu eru oftast einnig „falin“ lög sem nota úttak annarra taugunga sem sitt inntak og skila frá sér úttaki sem er notað sem inntak annarra taugungalaga. Loks skilar úttakslagið úttaki tauganetsins í heild. Allir taugungar í hverju lagi taka við úttaki taugunganna á næsta lagi á undan og skila sínu úttaki til næsta lags.<br>Hugtakið djúpnám vísar til þessarar uppbyggingar: því fleiri sem lögin eru þeim mun dýpra er tauganetið. Aukin dýpt þyngir róðurinn og krefst bæði meiri gagna og reiknigetu. Ef þeim forsendum er fullnægt getur þessi tilhögun hins vegar gert netinu kleift að vinna úr flóknari fyrirbærum.\"}]"},"children":[{"type":"text","value":"\n"}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Sígilt dæmi um marglaga tauganet er svokallað marglaga perceptron-net. Eins og við nefndum hér á undan nýtist Perceptron-reiknirit Rosenblatts til að finna rétt vægi fyrir einstaka taugunga. Eftir því sem lögunum í perceptron-neti fjölgar verður það verkefni flóknara og erfiðara og leitin að viðunandi lausn á þeim vanda var löng. Slík lausn fannst þó að lokum. Tilkoma reiknirits sem byggist á svokallaðri afturvirkri útbreiðslu (eða „afturflutningi“, e. backpropagation) varð til þess að rannsóknir á tauganetum tóku nýjan kipp í lok níunda áratugarins, og það reiknirit er enn kjarninn í mörgum af helstu djúpnámsaðferðunum."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Á sama tíma í Helsinki...","description":"Reikniritið fyrir afturvirka útbreiðslu varð til eftir löngum og krókóttum leiðum. Sú saga tengist meðal annars tölvunarfræðideildinni við háskólann í Helsinki. Um þremur árum eftir að sú deild var stofnuð árið 1967 skrifaði nemandi að nafni Seppo Linnainmaa <a target='_blank' rel='noopener noreferrer' href='http://people.idsia.ch/~juergen/linnainmaa1970thesis.pdf'>a Master’s thesis</a> sína þar. Heitið á henni var „Uppsöfnuð námundunarskekkja í reikniriti sem Taylor-nálgun fyrir einstakar námundunarskekkjur“. (Ritgerðin var skrifuð á finnsku og upprunalegt heiti hennar er „Algoritmin kumulatiivinen pyöristysvirhe yksittäisten pyöristysvirheiden Taylor-kehitelmänä“).<br><br>Í ritgerðinni var gerð grein fyrir sjálfvirkri diffrunaraðferð sem aðrir fræðimenn gátu síðar notað til að meta hversu næmt úttakið í marglaga tauganeti er fyrir breytingum á einstökum vægjum, en það er grunnhugmyndin að baki afturvirkri útbreiðslu."},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Einfaldur tauganetsflokkari"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Við gefum hér tiltölulega einfalt dæmi um hvernig nota má tauganet í flokkunarskyni. Þar er um að ræða verkefni sem svipar mjög til MNIST-verkefnisins og snýst um að skipta myndum í tvo flokka. Fyrst smíðum við flokkara sem getur greint hvort tiltekin mynd sýnir kross eða hring. Myndirnar eru gerðar úr lituðum og gráum dílum eða reitum í grófri upplausn, eða aðeins 5 × 5 eins og sýnt er hér fyrir neðan (hringurinn líkari tigli í þessari upplausn):"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"exercise23a","properties":{},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Til að geta smíðað tauganetsflokkara verðum við að finna formlega framsetningu á þrautinni sem gerir okkur kleift að leysa hana með aðferðunum sem við höfum lært. Fyrsta skrefið er að gefa hverjum reit tölugildi sem nota má sem inntak flokkarans. Hér fá litaðir reitir gildið 1 og gráir reitir gildið 0. Taktu eftir að þótt krossinn og hringurinn séu hér í mismunandi litum (grænum og bláum) hefur það engin áhrif á flokkarann, heldur gerir hann aðeins mun á lit og gráu. Reitirnir 25 sem hvor mynd er gerð úr eru inntök flokkarans."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Til að engin hætta sé á ruglingi ákveðum við að skrá reitina í sömu röð og texti er lesinn; byrjum þannig efst til vinstri og lesum eina línu í einu frá vinstri til hægri. Á myndinni sem sýnir kross skráum við því efstu línuna sem 1,0,0,0,1, næstu línu sem 0,1,0,1,0 o.s.frv. Inntök myndarinnar verða því 1,0,0,0,1,0,1,0,1,0,0,0,1,0,0,0,1,0,1,0,1,0,0,0,1."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Við notum einfalt taugungalíkan þar sem fyrsta skrefið er að reikna út línulega samantekt inntakanna. Til þess þurfum við vægi fyrir hvern reit, eða alls 25 vægi."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Loks beitum við þrepafalli til að ákveða virkjun taugungsins fyrir hvern reit. Ef línulega samantektin er neikvæð verður virkjunin 0, og við ákveðum að það gildi merki kross. Ef línulega samantektin er jákvæð verður virkjunin 1, og við ákveðum að það gildi merki hring."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Sjáum nú hvað gerist ef vægjunum er öllum gefið sama gildi, þ.e. 1. Þá verður línulega samantektin 9 á myndinni með krossi (9 litaðir reitir, eða 9 × 1, og 16 gráir reitir eða 16 × 0), en 8 á myndinni með hring (8 litaðir reitir eða 8 × 1, og 17 gráir reitir eða 17 × 0). Með öðrum orðum er línulega samantektin jákvæð á báðum myndunum og þær flokkast því báðar sem hringir. Það er fremur slakur árangur þegar horft er til þess að myndirnar sem við viljum geta flokkað eru aðeins þessar tvær."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Til að bæta árangurinn verðum við að breyta vægjunum þannig að línulega samantektin verði neikvæð ef kross er á myndinni og jákvæð ef hún sýnir hring. Við sjáum fljótt að helsti munurinn á myndum af krossum og hringjum er að litaður reitur er aðeins á miðju myndarinnar ef hún sýnir kross, ekki hring. Sömuleiðis eru hornreitirnir litaðir á slíkum myndum, en gráir á myndum sem sýna hring."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Þetta nægir okkur til að ákveða heppileg vægi. Þar höfum við reyndar úr óendanlegum fjölda möguleika að velja. Við getum til dæmis ákveðið að miðja hverrar myndar (13. reitur á hvorri mynd) skuli hafa vægið -1 og reitir á miðri brún myndar vægið 1, og látið öll önnur vægi vera 0. Á myndinni af krossinum skilar reiturinn í miðjunni þá gildinu -1, en á öllum öðrum reitum er annað hvort gildi reitsins eða vægið 0, og því verður heildargildið einnig -1. Virkjunin verður því 0 og krossinn flokkast rétt."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Hvað um hringinn? Reitirnir fyrir miðju hverrar brúnar skila gildinu 1, þ.e. alls 4 × 1 = 4. Á öllum hinum reitunum er annað hvort gildi reitsins eða vægið 0, og heildargildið verður því einnig 4. Talan 4 er jákvæð og virkjunin verður því 1, og þar með flokkast hringurinn einnig rétt."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Brostu!"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Við förum nú sömu leið til að búa til flokkara fyrir broskalla. Þú gefur reitunum á myndinni vægi með því að smella á þá. Einn smellur gefur reitnum vægið 1, tveir smellir gildið -1. Virkjunin 1 gefur til kynna — með réttu eða röngu — að flokka eigi myndina sem „broskall“, en virkjunin -1 að flokka eigi myndina sem „fýlukall“."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Láttu þér ekki bregða þótt erfiðlega gangi að flokka allar myndirnar rétt. Það er hreinlega ekki hægt með einföldum flokkara eins og þessum! Mikilvægt er að muna þetta atriði: Stundum er flokkarinn of einfaldur til að fullkomin flokkun geti náðst. Hér er aðeins notaður einn taugungur sem skilar frá sér línulegri samantekt inntakanna, og slíkur flokkari er of einfaldur til að leysa þessa þraut. Taktu eftir að þú getur búið til flokkara sem skila mismunandi góðum árangri eftir myndum. Sumir flokka flestar eða allar myndir af brosköllum rétt en fáar myndir af fýluköllum, eða öfugt."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Geturðu flokkað 6 af 8 myndum rétt í báðum flokkum?"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"exercise23b","properties":{},"children":[]},{"type":"text","value":"\n"}]}],"data":{"quirksMode":false}},"excerpt":"Ef taugungur hefur sex inntök (sem eru hliðstæð vörunum í innkaupakörfunni: kartöflur, gulrætur o.s.frv.), þ.e. inntak1, inntak2, inntak…","frontmatter":{"path":"/is/5/2","title":"Hvernig eru tauganet byggð upp?","part":5,"type":"section","lang":"is","section":2}}},{"node":{"htmlAst":{"type":"root","children":[{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"lead","properties":{},"children":[{"type":"text","value":"Atriðin sem við fórum yfir kaflanum hér á undan — svo sem marglaga net, ólínuleg virkjunarföll (t.d. S-föll) og reiknirit fyrir afturvirka útbreiðslu —"}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"eru grundvöllur nær allra tauganetsaðferða sem eru í notkun nú á dögum. Nokkur áhugaverð og öflug tilbrigði við þetta eru þó til og hafa skilað miklum framförum í djúpnámi á ýmsum sviðum."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Földunartauganet"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Myndvinnsla er eitt þeirra sviða sem gríðarmiklar framfarir hafa orðið á fyrir tilstuðlan djúpnáms. Einfalda flokkaranum sem við grannskoðuðum hér á undan eru mikil takmörk sett. Eins og þú sást dugði hann ekki einu sinni til að flokka alla broskallana rétt. Með því að bæta fleiri lögum í netið og nota afturvirka útbreiðslu til að finna réttu vægin getum við leyst þann vanda. Þegar til lengdar lætur sprettur þó nýr vandi upp: Vægin geta orðið gríðarmörg, með þeim afleiðingum að þjálfunargögnin sem við þyrftum að afla okkur til að ná fullnægjandi nákvæmni eru umfangsmeiri en svo að nokkur leið sé til að koma upp slíku gagnasafni."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Sem betur fer hefur fundist mjög lagleg lausn á þessu. Notuð er sérstök tegund tauganeta, eða öllu heldur lag af sérstakri gerð sem bæta má við hvaða djúpnámstauganet sem vera skal. Þetta lag er kallað "},{"type":"element","tagName":"strong","properties":{},"children":[{"type":"text","value":"földunarlag"}]},{"type":"text","value":" (e. "},{"type":"element","tagName":"em","properties":{},"children":[{"type":"text","value":"convolutional layer"}]},{"type":"text","value":"). Tauganet með slíkum lögum nefnast "},{"type":"element","tagName":"strong","properties":{},"children":[{"type":"text","value":"földunartauganet"}]},{"type":"text","value":" (e. "},{"type":"element","tagName":"em","properties":{},"children":[{"type":"text","value":"convolutional neural networks"}]},{"type":"text","value":" eða CNN), eða einfaldlega földunarnet. Mikilvægasti eiginleiki þeirra er að þau geta lært að þekkja ýmsa drætti í myndunum, til dæmis hvort einstakir fletir eru ljósir og dökkir (eða hver liturinn er), hvar brúnir slíkra flata liggja, hvort tiltekin mynstur koma fyrir o.s.frv. Atriði af því tagi eru grundvöllur þess að geta borið kennsl á sértækari útlitsdrætti svo sem kattareyra og hundtrýni, mannsauga eða áttstrenda lögun stöðvunarskyldumerkis. Venjulega er erfitt að kenna tauganeti að þekkja atriði sem þessi með því að vísa í einstaka díla, því að þau geta birst á mismunandi stöðum á myndinni, snúið með ýmsum hætti, og verið af hvaða stærð sem er. Ef myndefnið færist til eða sjónarhornið breytist verða líka gagngerar breytingar á dílunum og inntaksgildum þeirra enda þótt hluturinn sjálfur sé óbreyttur í okkar augum. Til að tauganetið geti lært að þekkja umferðarmerkið við öll hugsanleg skilyrði þyrfti þá að nota gríðarstórt gagnasafn til að þjálfa netið, því að það getur aðeins borið kennsl á umferðarmerkið ef það birtist við sams konar skilyrði og í þjálfunargögnunum. Ef áttstrent umferðarmerki hefur ekki komið fyrir efst til hægri á mynd í þjálfunargögnunum getur kerfið því ekki fundið það. Földunarnet geta hins vegar borið kennsl á atriði á myndum óháð því hvar þau komu fyrir á myndunum í þjálfunargögnunum."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Til hvers eru földunarnet?","description":"Í földunarnetum er sáraeinföld leið farin til að draga stórlega úr umfangi þjálfunargagnanna sem nota þarf til kenna netinu að bera kennsl á hluti við mismunandi skilyrði. Hún er fólgin í því að gefa inntaki margra taugunga sama vægi, með þeim afleiðingum að þeir virkjast allir við sömu mynstur eða útlitsatriði, en hafa inntakið sjálft breytilegt. Setjum sem svo, til dæmis, að við höfum þjálfað hóp taugunga til að þekkja oddmjó kattareyru. Ef inntakið er mynd af ketti virkjar það tvo taugunga, einn fyrir vinstra eyrað og annan fyrir það hægra. Við getum einnig látið inntak taugunganna ná til díla á mismunandi stóru svæði, þannig að mismunandi taugungar virkist eftir því í hvaða stærð eyrun sjást á myndinni. Með þeim hætti má bera kennsl á eyrun á litlum köttum enda þótt þjálfunargögnin hafi aðeins sýnt myndir af stórum köttum."},"children":[{"type":"text","value":"\n  "}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Földunarlagið er venjulega eitt af neðstu lögum tauganetsins, þ.e. þeim sem vinna beint úr dílunum á myndinni. Venjulegir taugungar (t.d. perceptron-taugungarnir sem við ræddum hér á undan) eru notaðir í efri lögunum, sem vinna úr úttaki neðstu laganna. Oftast er hægt að þjálfa neðstu lögin með óstýrðu vélnámi (sjá 4. hluta), án þess að hafa nokkurt ákveðið verkefni í huga. Vægin aðlagast þá sjálfkrafa þannig að lögin læra að þekkja atriði sem koma oft fyrir í inntaksgögnunum. Á dýramyndum eru það til dæmis eyru og snoppur, en á myndum af húsum og byggingum aftur á móti einstakir byggingarhlutar á borð við veggi, þök, glugga o.s.frv. Ef inntaksgögnin eru blanda alls konar mynda læra neðstu lögin að þekkja atriði sem eru að mestu almenns eðlis. Þetta þýðir að þjálfuð földunarlög má endurnýta til margs konar myndvinnsluverkefna. Þetta skiptir gríðarlega miklu máli vegna þess hversu auðvelt er að komast yfir nánast ótakmarkað magn óflokkaðra þjálfunargagna — þ.e. mynda — sem nota má til að þjálfa neðstu lögin. Efstu lögin eru alltaf þjálfuð með stýrðu vélnámi, til dæmis afturvirkri útbreiðslu, þ.e. með gögnum þar sem réttir flokkar hafa verið tilgreindir."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"illustrations","properties":{"motive":"gan","color":"#00B5AA","frombottom":"0","totalheight":"54%"},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Dreymir tauganet um rafkindur? Skapandi mótherjanet (GAN)"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Þegar þjálfun tauganets er lokið má nota það til að gefa út forsagnir eða taka ákvarðanir. Efstu lögin eru þjálfuð með stýrðu vélnámi til að geta sinnt ákveðnum flokkunarverkefnum eða spá fyrir um vissa hluti, og nýtast því ekki til annarra hluta. Tauganet sem hefur lært að þekkja umferðarmerki kemur þannig ekki að neinu gagni þegar bera þarf kennsl á handskrifaða tölustafi eða ketti."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Það er hins vegar mjög athyglisvert að skoða útlit mynstra og einkenna sem neðstu lögin hafa lært að þekkja. Við getum gert það með því að láta tauganetið búa til myndir sem virkja vissa taugunga í neðstu lögum þess. Myndirnar sem þá verða til sýna okkur hvernig tauganetið „heldur“ að tiltekin atriði líti út, eða hvernig heil mynd sem sett væri saman úr slíkum atriðum myndi líta út. Þetta hefur jafnvel verið kallað „draumar“ eða „ofsjónir“ tauganetanna (sjá t.d. kerfið "},{"type":"element","tagName":"a","properties":{"href":"https://en.wikipedia.org/wiki/DeepDream","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"DeepDream"}]},{"type":"text","value":" frá Google)."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Förum varlega með samlíkingar","description":"Hér er ástæða til að ítreka að samlíkingar af þessu tagi má ekki taka of bókstaflega, t.d. þegar talað er um drauma þótt aðeins sé átt við að ná fram sem bestri greiningu myndanna í inntaksgögnunum — í þessu samhengi má minna á „ferðatöskuorðin“ sem minnst var á í 1. hluta. Tauganetið hefur engar draumfarir og skilur ekki heldur hugtök á borð við „köttur“ á sama hátt og við skiljum slík orð. Það hefur aðeins verið þjálfað til að þekkja hluti og getur síðan búið til myndir sem líkjast inntaksgögnunum sem notuð voru við þá kennslu."},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Nú er einnig komin fram aðferð til að skapa myndir af köttum eða mannsandlitum (eða öðru sem sást á myndunum í þjálfunargögnunum) sem eru raunverulegar að sjá, en ekki draumkenndar. Sú aðferð er komin frá "},{"type":"element","tagName":"a","properties":{"href":"https://en.wikipedia.org/wiki/Ian_Goodfellow","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"Ian Goodfellow"}]},{"type":"text","value":", sem var á þeim tíma starfsmaður Google Brain, og er fólgin í því að láta tvö tauganet vinna verkefnið saman með því að láta þau keppa hvort gegn öðru. Annað netið er þjálfað til að skapa myndir af sama tagi og þær sem er að finna í þjálfunargögnunum. Hitt netið hefur það hlutverk að greina milli þeirra mynda og raunverulegra mynda úr þjálfunargögnunum, og nefnist á ensku adversarial network — sem kalla mætti „úrskurðarnet“. Kerfið í heild nefnist generative adversarial network, skammstafað GAN, eða „skapandi mótherjanet“."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Kerfið þjálfar líkönin tvö samhliða. Mótherjalíkanið sinnir fyrst því auðvelda verkefni að greina í sundur raunverulegar myndir úr þjálfunargögnunum og klaufalegar tilraunir skapandi líkansins til að skapa sams konar myndir. Afurðir skapandi netsins verða hins vegar smám saman betri og þá verður mótherjanetið að standa sig betur líka, og þannig er haldið áfram þar til nýju myndirnar verða varla greindar frá raunverulegu myndunum lengur. Skapandi netið er ekki aðeins látið endurskapa myndirnar í inntaksgögnunum. Svo einföld aðferð nægir ekki til að sigra úrskurðarnetið. Þess í stað er það þjálfað þannig að það geti skapað nýjar myndir sem eru raunverulegar að sjá."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"element","tagName":"span","properties":{"className":["gatsby-resp-image-wrapper"],"style":"position: relative; display: block; margin-left: auto; margin-right: auto; max-width: 674px; "},"children":[{"type":"text","value":"\n      "},{"type":"element","tagName":"span","properties":{"className":["gatsby-resp-image-background-image"],"style":"padding-bottom: 99.72222222222223%; position: relative; bottom: 0; left: 0; background-image: url('data:image/jpeg;base64,/9j/2wBDABALDA4MChAODQ4SERATGCgaGBYWGDEjJR0oOjM9PDkzODdASFxOQERXRTc4UG1RV19iZ2hnPk1xeXBkeFxlZ2P/2wBDARESEhgVGC8aGi9jQjhCY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2P/wgARCAAUABQDASIAAhEBAxEB/8QAGQABAAMBAQAAAAAAAAAAAAAAAAMEBQEC/8QAFQEBAQAAAAAAAAAAAAAAAAAAAgP/2gAMAwEAAhADEAAAAbdOXs6YjXOcHoNM8If/xAAeEAACAQMFAAAAAAAAAAAAAAABAgMAEhMEESEiM//aAAgBAQABBQLhjKA2rlAWRmO7dqsjakJxXHJP6//EABYRAAMAAAAAAAAAAAAAAAAAAAABEP/aAAgBAwEBPwEd/8QAFREBAQAAAAAAAAAAAAAAAAAAASD/2gAIAQIBAT8BCP/EAB4QAAICAgIDAAAAAAAAAAAAAAABAhEhMRIiQXGh/9oACAEBAAY/Ak6yO14GkScaqP0jLFtbO/Gyfsq8KOhn/8QAGxABAQEBAQADAAAAAAAAAAAAAREAQTEhYXH/2gAIAQEAAT8h8aQ0XR6QMNKSfWUSGjTCIgcW65TzvlyvmzrIU4369//aAAwDAQACAAMAAAAQ1DCC/8QAFxEAAwEAAAAAAAAAAAAAAAAAAAERMf/aAAgBAwEBPxBtORGi4PT/xAAYEQEBAQEBAAAAAAAAAAAAAAABABExIf/aAAgBAgEBPxBDdYPI4xy//8QAHRABAQACAwADAAAAAAAAAAAAAREAITFRYXGRof/aAAgBAQABPxBGNCPY2P5h6haEXXeA2g8bTzE0vtLHU9ygb67ASEsyM8tLiOGXWsQVXT7C5qeCwWXBtVSjv4M//9k='); background-size: cover; display: block;"},"children":[]},{"type":"text","value":"\n  "},{"type":"element","tagName":"img","properties":{"className":["gatsby-resp-image-image"],"alt":"fakecelebrityfaces","title":"fakecelebrityfaces","src":"/static/ac3753c9c9a3248de4bc71231b483be1/a6d30/5_3_fake-celebrity.jpg","srcSet":["/static/ac3753c9c9a3248de4bc71231b483be1/158ba/5_3_fake-celebrity.jpg 360w","/static/ac3753c9c9a3248de4bc71231b483be1/a6d30/5_3_fake-celebrity.jpg 674w"],"sizes":["(max-width:","674px)","100vw,","674px"],"style":"width:100%;height:100%;margin:0;vertical-align:middle;position:absolute;top:0;left:0;","loading":"lazy"},"children":[]},{"type":"text","value":"\n    "}]}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Myndirnar hér fyrir ofan eru sköpunarverk mótherjanets sem þróað var í verkefni á vegum NVIDIA undir forystu "},{"type":"element","tagName":"a","properties":{"href":"https://users.aalto.fi/~lehtinj7/","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"Jaakko Lehtinen"}]},{"type":"text","value":" prófessors (lesa má meira um verkefnið í "},{"type":"element","tagName":"a","properties":{"href":"https://www.technologyreview.com/the-download/609290/meet-the-fake-celebrities-dreamed-up-by-ai/","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"þessari grein"}]},{"type":"text","value":")."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Hefðir þú áttað þig á því að þetta eru ekki myndir af raunverulegu fólki?"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"part-summary","properties":{"chapter":"5","heading":"Eftir þessa yfirferð á 5. hluta ættir þú að geta:","listitems":"[ {\"content\":\"útskýrt hvað tauganet er og í hvaða samhengi slík net eru notuð með góðum árangri\"}, {\"content\":\"skilið þær tæknilegu aðferðir sem notaðar eru til að smíða tauganet\"}]"},"children":[{"type":"text","value":"\n  "}]},{"type":"text","value":"\n"}]}],"data":{"quirksMode":false}},"excerpt":"eru grundvöllur nær allra tauganetsaðferða sem eru í notkun nú á dögum. Nokkur áhugaverð og öflug tilbrigði við þetta eru þó til og hafa…","frontmatter":{"path":"/is/5/3","title":"Háþróaðar tauganetsaðferðir","part":5,"type":"section","lang":"is","section":3}}}]},"allParts":{"totalCount":6,"edges":[{"node":{"frontmatter":{"title":"Hvað er gervigreind?","path":"/is/1","section":null,"part":1,"lang":"is","bannerImage":{"publicURL":"/static/5cb707dcbce557b358c736c82a82b847/banner1.png"}}}},{"node":{"frontmatter":{"title":"Að leysa vandamál með gervigreind","path":"/is/2","section":null,"part":2,"lang":"is","bannerImage":{"publicURL":"/static/3217219fe81de9c2f030e51f04557962/banner2.png"}}}},{"node":{"frontmatter":{"title":"Gervigreind í verki","path":"/is/3","section":null,"part":3,"lang":"is","bannerImage":{"publicURL":"/static/8433f94cdf930cb1172a332eda51a0ae/banner3.png"}}}},{"node":{"frontmatter":{"title":"Vélnám","path":"/is/4","section":null,"part":4,"lang":"is","bannerImage":{"publicURL":"/static/fdc0e4c1dc187a976325542364658e54/banner4.png"}}}},{"node":{"frontmatter":{"title":"Tauganet","path":"/is/5","section":null,"part":5,"lang":"is","bannerImage":{"publicURL":"/static/8d6d86ca3c422d98b6213f5ddfbe8c07/banner5.png"}}}},{"node":{"frontmatter":{"title":"Áhrif á daglegt líf","path":"/is/6","section":null,"part":6,"lang":"is","bannerImage":{"publicURL":"/static/2943d36053a6dd8bd40b3dc3832bb0f8/banner6.png"}}}}]},"currentPart":{"htmlAst":{"type":"root","children":[],"data":{"quirksMode":false}},"frontmatter":{"path":"/is/5","title":"Tauganet","part":5,"lang":"is","quote":"Sum svið, t.d. málgreining og myndgreining, eru þess eðlis að lengi gekk illa að ná tökum á þeim með gervigreind. Á undanförnum árum hafa aðferðir á borð við tauganet og djúpnám hins vegar leitt til mikilla framfara einmitt á þessum sviðum.","quoteAuthor":"","bannerImage":{"publicURL":"/static/8d6d86ca3c422d98b6213f5ddfbe8c07/banner5.png"}}},"allSections":{"totalCount":18,"edges":[{"node":{"frontmatter":{"title":"Leit og þrautalausn","path":"/is/2/1","section":1,"part":2,"lang":"is"}}},{"node":{"frontmatter":{"title":"Hlutfallslíkur og líkindi","path":"/is/3/1","section":1,"part":3,"lang":"is"}}},{"node":{"frontmatter":{"title":"Mismunandi tegundir vélnáms","path":"/is/4/1","section":1,"part":4,"lang":"is"}}},{"node":{"frontmatter":{"title":"Grundvallaratriði tauganeta","path":"/is/5/1","section":1,"part":5,"lang":"is"}}},{"node":{"frontmatter":{"title":"Spáð í framtíðina","path":"/is/6/1","section":1,"part":6,"lang":"is"}}},{"node":{"frontmatter":{"title":"Hver er skilgreiningin á gervigreind?","path":"/is/1/1","section":1,"part":1,"lang":"is"}}},{"node":{"frontmatter":{"title":"Lausn þrauta með gervigreind","path":"/is/2/2","section":2,"part":2,"lang":"is"}}},{"node":{"frontmatter":{"title":"Bayes-reglan","path":"/is/3/2","section":2,"part":3,"lang":"is"}}},{"node":{"frontmatter":{"title":"Grannaflokkun","path":"/is/4/2","section":2,"part":4,"lang":"is"}}},{"node":{"frontmatter":{"title":"Hvernig eru tauganet byggð upp?","path":"/is/5/2","section":2,"part":5,"lang":"is"}}},{"node":{"frontmatter":{"title":"Samfélagsleg áhrif gervigreindar","path":"/is/6/2","section":2,"part":6,"lang":"is"}}},{"node":{"frontmatter":{"title":"Skyld fræðasvið","path":"/is/1/2","section":2,"part":1,"lang":"is"}}},{"node":{"frontmatter":{"title":"Gervigreind og heimspeki","path":"/is/1/3","section":3,"part":1,"lang":"is"}}},{"node":{"frontmatter":{"title":"Leit og leikir","path":"/is/2/3","section":3,"part":2,"lang":"is"}}},{"node":{"frontmatter":{"title":"Einföld Bayes-flokkun","path":"/is/3/3","section":3,"part":3,"lang":"is"}}},{"node":{"frontmatter":{"title":"Aðhvarfsgreining","path":"/is/4/3","section":3,"part":4,"lang":"is"}}},{"node":{"frontmatter":{"title":"Háþróaðar tauganetsaðferðir","path":"/is/5/3","section":3,"part":5,"lang":"is"}}},{"node":{"frontmatter":{"title":"Samantekt","path":"/is/6/3","section":3,"part":6,"lang":"is"}}}]},"site":{"siteMetadata":{"languages":{"defaultLangKey":"en","langs":["en","fi","se","de","ee","fr","it","fr-be","no","lt","lv","nl-be","mt","hr","pl","en-ie","ga","nl","sk","da","ro","sl","is","de-at","en-lu","bg","cs","pt","es","el"]}}}},"pageContext":{"part":5,"type":"section","lang":"is"}},"staticQueryHashes":["3539470774","3539470774"]}