{"componentChunkName":"component---src-templates-section-template-js","path":"/el/5/3","result":{"data":{"markdown":{"htmlAst":{"type":"root","children":[{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"lead","properties":{},"children":[{"type":"text","value":"Στην προηγούμενη ενότητα εξετάσαμε τις βασικές ιδέες που βρίσκονται πίσω από τις περισσότερες μεθόδους νευρωνικών δικτύων: πολυεπίπεδα δίκτυα, μη γραμμικές συναρτήσεις ενεργοποίησης, και κανόνες εκμάθησης όπως ο αλγόριθμός ανάστροφης διάδοσης."}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Οι ιδέες αυτές αποτελούν τη βάση όλων σχεδόν των εφαρμογών νευρωνικών δικτύων. Ωστόσο, υπάρχουν ορισμένες ενδιαφέρουσες και ισχυρές παραλλαγές του συγκεκριμένου θέματος που έχουν οδηγήσει σε σπουδαίες προόδους όσον αφορά τη βαθιά μάθηση σε πολλούς τομείς."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Συνελικτικά νευρωνικά δίκτυα (ΣΝΔ)"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Ένας τομέας στον οποίο η βαθιά μάθηση έχει σημειώσει θεαματική επιτυχία είναι η επεξεργασία εικόνας. Ο απλός ταξινομητής που μελετήσαμε αναλυτικά στην προηγούμενη ενότητα υπόκειται σε σοβαρούς περιορισμούς – όπως θα παρατηρήσατε, δεν ήταν καν εφικτή η ορθή ταξινόμηση όλων των γελαστών προσώπων (smiley). Η προσθήκη περισσότερων επιπέδων στο δίκτυο και η χρήση της ανάστροφης διάδοσης για την εκμάθηση των βαρών επιλύει, καταρχήν, το πρόβλημα, αλλά αναδύεται ένα άλλο πρόβλημα: ο αριθμός των βαρών αυξάνεται υπερβολικά και, κατά συνέπεια, ο όγκος των δεδομένων εκπαίδευσης που απαιτείται για την επίτευξη ικανοποιητικής ακρίβειας μπορεί να καταστεί υπερβολικά μεγάλος και, ως εκ τούτου, μη ρεαλιστικός."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Ευτυχώς, υπάρχει μια ιδιαίτερα κομψή λύση στο πρόβλημα του υπερβολικά μεγάλου αριθμού βαρών: ένα ειδικό είδος νευρωνικού δικτύου, ή μάλλον, ένα ειδικό είδος επιπέδου που μπορεί να συμπεριληφθεί στο νευρωνικό δίκτυο. Το ειδικό αυτό είδος επιπέδου ονομάζεται "},{"type":"element","tagName":"strong","properties":{},"children":[{"type":"text","value":"συνελικτικό επίπεδο"}]},{"type":"text","value":". Τα δίκτυα που περιλαμβάνουν συνελικτικά επίπεδα ονομάζονται "},{"type":"element","tagName":"strong","properties":{},"children":[{"type":"text","value":"συνελικτικά νευρωνικά δίκτυα"}]},{"type":"text","value":" (ΣΝΔ). Η βασική ιδιότητά τους είναι ότι μπορούν να εντοπίζουν χαρακτηριστικά εικόνων όπως φωτεινά ή σκοτεινά σημεία (ή συγκεκριμένο χρώμα), τις ακμές σε διάφορους προσανατολισμούς, πρότυπα, και ούτω καθεξής. Τα εν λόγω χαρακτηριστικά αποτελούν τη βάση για τον εντοπισμό πιο αφηρημένων χαρακτηριστικών όπως τα αυτιά μιας γάτας, το ρύγχος του σκύλου, το μάτι ενός ανθρώπου, ή το οκταγωνικό σχήμα ενός σήματος στοπ. Κανονικά, η εκπαίδευση ενός νευρωνικού δικτύου με σκοπό να εντοπίζει αυτού του είδους τα χαρακτηριστικά με βάση τα εικονοστοιχεία της εικόνας εισόδου είναι δύσκολη, διότι τα χαρακτηριστικά μπορεί να εμφανίζονται σε διαφορετικές θέσεις, με διαφορετικούς προσανατολισμούς και σε διαφορετικά μεγέθη στην εικόνα: η μετακίνηση του αντικειμένου ή της γωνίας λήψης της κάμερας μεταβάλλει δραστικά τις τιμές των εικονοστοιχείων, ακόμη και αν το ίδιο το αντικείμενο φαίνεται να παραμένει το ίδιο στα μάτια μας. Για την εκμάθηση του εντοπισμού ενός σήματος στοπ σε όλες αυτές τις διαφορετικές συνθήκες απαιτούνται τεράστιες ποσότητες δεδομένων εκπαίδευσης, διότι το δίκτυο θα εντοπίζει μόνο το σήμα στις συνθήκες στις οποίες εμφανίζεται στα δεδομένα εκπαίδευσης. Ως εκ τούτου, για παράδειγμα, ένα σήμα στοπ στην άνω δεξιά γωνία μιας εικόνας θα εντοπιστεί μόνο εφόσον στα δεδομένα εκπαίδευσης περιλαμβάνεται εικόνα με το σήμα στην άνω δεξιά γωνία. Τα ΣΝΔ μπορούν να αναγνωρίζουν το αντικείμενο οπουδήποτε, ανεξάρτητα από το πού έχει παρατηρηθεί στις εικόνες εκπαίδευσης."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Γιατί χρειαζόμαστε τα ΣΝΔ","description":"Τα ΣΝΔ χρησιμοποιούν ένα έξυπνο τέχνασμα για να μειώνουν τον όγκο των δεδομένων εκπαίδευσης που απαιτείται για τον εντοπισμό αντικειμένων σε διαφορετικές συνθήκες. Βασικά, το τέχνασμα συνίσταται στη χρήση των ίδιων βαρών εισόδου για πολλούς νευρώνες – ούτως ώστε όλοι οι εν λόγω νευρώνες να ενεργοποιούνται από το ίδιο πρότυπο – αλλά με διαφορετικά εικονοστοιχεία εισόδου. Για παράδειγμα, μπορούμε να έχουμε ένα σύνολο νευρώνων που ενεργοποιούνται από το μυτερό αυτί μιας γάτας. Όταν η είσοδος είναι η φωτογραφία μιας γάτας, ενεργοποιούνται δύο νευρώνες, ένας για το αριστερό αυτί και ένας άλλος για το δεξί. Επίσης, μπορούμε να επιτρέψουμε τη λήψη των εικονοστοιχείων εισόδου του νευρώνα από μικρότερη ή μεγαλύτερη περιοχή, ούτως ώστε διαφορετικοί νευρώνες να ενεργοποιούνται από το αυτί που θα εμφανίζεται σε διαφορετικές κλίμακες (μεγέθη) και, ως εκ τούτου, να μπορούμε να εντοπίσουμε τα αυτιά μιας μικρής γάτας, ακόμη και αν στα δεδομένα εκπαίδευσης περιλαμβάνονταν εικόνες μόνο μεγάλων γατών."},"children":[{"type":"text","value":"\n  "}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Οι συνελικτικοί νευρώνες τοποθετούνται συνήθως στα κάτω επίπεδα του δικτύου, όπου πραγματοποιείται η επεξεργασία των ανεπεξέργαστων εικονοστοιχείων εισόδου. Οι βασικοί νευρώνες (όπως ο νευρώνας perceptron που εξετάσαμε ανωτέρω) τοποθετούνται στα ανώτερα επίπεδα, όπου πραγματοποιείται η επεξεργασία της εξόδου των κάτω επιπέδων. Τα κάτω επίπεδα μπορούν συνήθως να εκπαιδευτούν μέσω μη επιβλεπόμενης μάθησης, χωρίς να αποσκοπούν σε κάποια συγκεκριμένη εργασία πρόβλεψης. Τα βάρη τους θα εκπαιδευτούν να εντοπίζουν χαρακτηριστικά που εμφανίζονται συχνά στα δεδομένα εισόδου. Ως εκ τούτου, στην περίπτωση φωτογραφιών ζώων, τα τυπικά χαρακτηριστικά θα είναι αυτιά και ρύγχη, ενώ στην περίπτωση φωτογραφιών κτιρίων, τα χαρακτηριστικά είναι αρχιτεκτονικά στοιχεία όπως τοίχοι, στέγες, παράθυρα, και ούτω καθεξής. Σε περίπτωση που ως δεδομένα εισόδου χρησιμοποιείται συνδυασμός διαφόρων αντικειμένων και σκηνών, τότε, τα χαρακτηριστικά που θα μαθαίνονται στα κάτω επίπεδα θα είναι λίγο έως πολύ γενικού χαρακτήρα. Αυτό σημαίνει ότι τα προ-εκπαιδευμένα συνελικτικά επίπεδα μπορούν να χρησιμοποιηθούν σε πολλές διαφορετικές εργασίες επεξεργασίας εικόνας. Αυτό είναι ιδιαίτερα σημαντικό, δεδομένου ότι είναι εύκολη η συγκέντρωση ουσιαστικά απεριόριστων ποσοτήτων μη επισημασμένων δεδομένων εκπαίδευσης – εικόνων χωρίς ετικέτες – τα οποία μπορούν να χρησιμοποιηθούν για την εκπαίδευση των κάτω επιπέδων. Τα ανώτερα επίπεδα εκπαιδεύονται πάντοτε μέσω τεχνικών επιβλεπόμενης μηχανικής μάθησης όπως η ανάστροφη διάδοση."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"illustrations","properties":{"motive":"gan","color":"#00B5AA","frombottom":"0","totalheight":"54%"},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Ονειρεύονται τα νευρωνικά δίκτυα ηλεκτρικά πρόβατα; παραγωγικά αντιπαραθετικά δίκτυα (ΠΑΔ)"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Αφότου ολοκληρωθεί η εκμάθηση ενός νευρωνικού δικτύου με βάση τα δεδομένα, το δίκτυο αυτό μπορεί να χρησιμοποιηθεί για την πραγματοποίηση προβλέψεων. Δεδομένου ότι τα ανώτερα επίπεδα του δικτύου έχουν εκπαιδευτεί με επιβλεπόμενο τρόπο να εκτελούν μια συγκεκριμένη εργασία ταξινόμησης ή πρόβλεψης, τα ανώτερα επίπεδα χρησιμεύουν, στην πραγματικότητα, μόνο για τη συγκεκριμένη εργασία. Ένα δίκτυο που έχει εκπαιδευτεί να εντοπίζει σήματα στοπ δεν είναι χρήσιμο για τον εντοπισμό χειρόγραφων ψηφίων ή γατών."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Ένα συναρπαστικό αποτέλεσμα επιτυγχάνεται όταν εξετάσουμε με τι μοιάζουν τα χαρακτηριστικά που έχουν μάθει τα προ-εκπαιδευμένα κάτω επίπεδα. Αυτό μπορεί να επιτευχθεί μέσω της παραγωγής εικόνων που ενεργοποιούν ένα συγκεκριμένο σύνολο νευρώνων στα κάτω επίπεδα. Εξετάζοντας τις παραγόμενες εικόνες, μπορούμε να διαπιστώσουμε ότι το νευρωνικό δίκτυο «σκέφτεται» με τι μπορεί να μοιάζει ένα συγκεκριμένο χαρακτηριστικό, ή με τι θα μοιάζει ένα επιλεγμένο σύνολο χαρακτηριστικών. Κάποιοι αρέσκονται να θεωρούν ότι τα δίκτυα «ονειρεύονται» ή «έχουν παραισθήσεις» εικόνων (βλέπε το σύστημα "},{"type":"element","tagName":"a","properties":{"href":"https://en.wikipedia.org/wiki/DeepDream","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"DeepDream"}]},{"type":"text","value":" της Google)."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Προσοχή στις μεταφορές","description":"Ωστόσο, θα θέλαμε ακόμη μια φορά να τονίσουμε το πρόβλημα με τις μεταφορές, όπως τα όνειρα, όταν μιλούμε απλώς για βελτιστοποίηση της οπτικής εικόνας – θυμηθείτε τις «λέξεις-βαλίτσα» που εξετάσαμε στο κεφάλαιο 1. Στην πραγματικότητα, το νευρωνικό δίκτυο δεν ονειρεύεται, ούτε αντιλαμβάνεται την έννοια της γάτας όπως την αντιλαμβάνεται ο άνθρωπος. Έχει απλώς εκπαιδευτεί να αναγνωρίζει αντικείμενα και μπορεί να παράγει εικόνες που είναι παρόμοιες με τα δεδομένα εισόδου με τα οποία έχει εκπαιδευτεί."},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Για να παραχθούν πράγματι ρεαλιστικές στην εμφάνιση γάτες, ανθρώπινα πρόσωπα ή άλλα αντικείμενα (το αποτέλεσμα θα βασίζεται στο υλικό που έχει χρησιμοποιηθεί ως δεδομένα εκπαίδευσης), ο "},{"type":"element","tagName":"a","properties":{"href":"https://en.wikipedia.org/wiki/Ian_Goodfellow","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"Ian Goodfellow"}]},{"type":"text","value":", ο οποίος εργάζεται επί του παρόντος στη Google Brain, πρότεινε έναν έξυπνο συνδυασμό δύο νευρωνικών δικτύων. Η ιδέα συνίσταται στο να αφήσουμε τα δύο δίκτυα να ανταγωνιστούν μεταξύ τους. Το ένα από τα δίκτυα εκπαιδεύεται να παράγει εικόνες παρόμοιες με αυτές των δεδομένων εκπαίδευσης. Η εργασία του άλλου δικτύου είναι να διαχωρίζει τις εικόνες που παράγονται από το πρώτο δίκτυο από τις πραγματικές εικόνες των δεδομένων εκπαίδευσης – ονομάζεται αντιπαραθετικό δίκτυο, ενώ το συνολικό σύστημα ονομάζεται "},{"type":"element","tagName":"strong","properties":{},"children":[{"type":"text","value":"παραγωγικό αντιπαραθετικό δίκτυο"}]},{"type":"text","value":" ή ΠΑΔ."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Το σύστημα εκπαιδεύει τα δύο μοντέλα παράλληλα. Στην αρχή της εκπαίδευσης, στο αντιπαραθετικό μοντέλο ανατίθεται η εύκολη εργασία να διακρίνει τις πραγματικές εικόνες των δεδομένων εκπαίδευσης από τις αδέξιες προσπάθειες του παραγωγικού μοντέλου. Ωστόσο, καθώς το γενετικό δίκτυο βελτιώνεται ολοένα και περισσότερο, το αντιπαραθετικό μοντέλο πρέπει επίσης να βελτιωθεί, και ο κύκλος συνεχίζεται μέχρις ότου, τελικά, οι παραγόμενες εικόνες να είναι σχεδόν πανομοιότυπες με τις πραγματικές. Το ΠΑΔ προσπαθεί όχι μόνο να αναπαράγει τις εικόνες των δεδομένων εκπαίδευσης: η στρατηγική αυτή θα ήταν υπερβολικά απλή για να νικήσει το αντιπαραθετικό δίκτυο. Αντ’ αυτού, το σύστημα εκπαιδεύεται ώστε να μπορεί να παράγει επίσης νέες, ρεαλιστικές εικόνες."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"element","tagName":"span","properties":{"className":["gatsby-resp-image-wrapper"],"style":"position: relative; display: block; margin-left: auto; margin-right: auto; max-width: 674px; "},"children":[{"type":"text","value":"\n      "},{"type":"element","tagName":"span","properties":{"className":["gatsby-resp-image-background-image"],"style":"padding-bottom: 99.72222222222223%; position: relative; bottom: 0; left: 0; background-image: url('data:image/jpeg;base64,/9j/2wBDABALDA4MChAODQ4SERATGCgaGBYWGDEjJR0oOjM9PDkzODdASFxOQERXRTc4UG1RV19iZ2hnPk1xeXBkeFxlZ2P/2wBDARESEhgVGC8aGi9jQjhCY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2P/wgARCAAUABQDASIAAhEBAxEB/8QAGQABAAMBAQAAAAAAAAAAAAAAAAMEBQEC/8QAFQEBAQAAAAAAAAAAAAAAAAAAAgP/2gAMAwEAAhADEAAAAbdOXs6YjXOcHoNM8If/xAAeEAACAQMFAAAAAAAAAAAAAAABAgMAEhMEESEiM//aAAgBAQABBQLhjKA2rlAWRmO7dqsjakJxXHJP6//EABYRAAMAAAAAAAAAAAAAAAAAAAABEP/aAAgBAwEBPwEd/8QAFREBAQAAAAAAAAAAAAAAAAAAASD/2gAIAQIBAT8BCP/EAB4QAAICAgIDAAAAAAAAAAAAAAABAhEhMRIiQXGh/9oACAEBAAY/Ak6yO14GkScaqP0jLFtbO/Gyfsq8KOhn/8QAGxABAQEBAQADAAAAAAAAAAAAAREAQTEhYXH/2gAIAQEAAT8h8aQ0XR6QMNKSfWUSGjTCIgcW65TzvlyvmzrIU4369//aAAwDAQACAAMAAAAQ1DCC/8QAFxEAAwEAAAAAAAAAAAAAAAAAAAERMf/aAAgBAwEBPxBtORGi4PT/xAAYEQEBAQEBAAAAAAAAAAAAAAABABExIf/aAAgBAgEBPxBDdYPI4xy//8QAHRABAQACAwADAAAAAAAAAAAAAREAITFRYXGRof/aAAgBAQABPxBGNCPY2P5h6haEXXeA2g8bTzE0vtLHU9ygb67ASEsyM8tLiOGXWsQVXT7C5qeCwWXBtVSjv4M//9k='); background-size: cover; display: block;"},"children":[]},{"type":"text","value":"\n  "},{"type":"element","tagName":"img","properties":{"className":["gatsby-resp-image-image"],"alt":"fakecelebrityfaces","title":"fakecelebrityfaces","src":"/static/ac3753c9c9a3248de4bc71231b483be1/a6d30/5_3_fake-celebrity.jpg","srcSet":["/static/ac3753c9c9a3248de4bc71231b483be1/158ba/5_3_fake-celebrity.jpg 360w","/static/ac3753c9c9a3248de4bc71231b483be1/a6d30/5_3_fake-celebrity.jpg 674w"],"sizes":["(max-width:","674px)","100vw,","674px"],"style":"width:100%;height:100%;margin:0;vertical-align:middle;position:absolute;top:0;left:0;","loading":"lazy"},"children":[]},{"type":"text","value":"\n    "}]}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Οι ανωτέρω εικόνες παρήχθησαν μέσω ΠΑΔ που ανέπτυξε η NVIDIA στο πλαίσιο έργου υπό την καθοδήγηση του "},{"type":"element","tagName":"a","properties":{"href":"https://users.aalto.fi/~lehtinj7/","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"καθ. Jaakko Lehtinen"}]},{"type":"text","value":" (βλέπε "},{"type":"element","tagName":"a","properties":{"href":"https://www.technologyreview.com/the-download/609290/meet-the-fake-celebrities-dreamed-up-by-ai/","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"αυτό το άρθρο για περισσότερες πληροφορίες"}]},{"type":"text","value":"). Θα μπορούσατε να έχετε αναγνωρίσει ότι πρόκειται για ψευδείς εικόνες;"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"part-summary","properties":{"chapter":"5","heading":"Αφού ολοκληρώσετε το κεφάλαιο 5, θα πρέπει να μπορείτε:","listitems":"[ {\"content\":\"Εξηγήσετε τι είναι ένα νευρωνικό δίκτυο καθώς και σε ποιους τομείς εφαρμόζεται με επιτυχία\"}, {\"content\":\"Να κατανοείτε τις τεχνικές μεθόδους στις οποίες βασίζονται τα νευρωνικά δίκτυα\"}]"},"children":[{"type":"text","value":"\n  "}]},{"type":"text","value":"\n"}]}],"data":{"quirksMode":false}},"frontmatter":{"path":"/el/5/3","title":"Προηγμένες τεχνικές νευρωνικών δικτύων","section":3,"part":5,"lang":"el"}},"allRelatedSections":{"totalCount":3,"edges":[{"node":{"htmlAst":{"type":"root","children":[{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"lead","properties":{},"children":[{"type":"text","value":"Το επόμενο θέμα μας, η βαθιά μάθηση και τα νευρωνικά δίκτυα, προσελκύει μεγαλύτερο ενδιαφέρον σε σχέση με πολλά άλλα θέματα."}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Ένας από τους λόγους για αυτό το ενδιαφέρον είναι η ελπίδα κατανόησης της δικής μας νόησης, η οποία αναδύεται από νευρωνικές διαδικασίες στον εγκέφαλό μας. Ένας άλλος λόγος είναι η πρόοδος που έχει επιτευχθεί στον τομέα της μηχανικής μάθησης τα τελευταία χρόνια, μέσω του συνδυασμού συνόλων μαζικών δεδομένων και τεχνικών βαθιάς μάθησης."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Τι είναι τα νευρωνικά δίκτυα;"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Για να κατανοήσουμε καλύτερο το όλον, θα ξεκινήσουμε εξετάζοντας τις μεμονωμένες μονάδες που το απαρτίζουν. Ο όρος «νευρωνικό δίκτυο» μπορεί να αναφέρεται είτε σε ένα «πραγματικό» νευρωνικό δίκτυο, όπως το δίκτυο στον εγκέφαλό σας, είτε σε ένα τεχνητό νευρωνικό δίκτυο, προϊόν προσομοίωσης σε υπολογιστή."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"key-terminology","properties":{"terminologies":"[{\n\t\"title\": \"Βαθιά μάθηση\",\n\t\"content\": \"Η βαθιά μάθηση αναφέρεται σε ορισμένα είδη τεχνικών μηχανικής μάθησης στο πλαίσιο των οποίων αρκετά «επίπεδα» απλών μονάδων επεξεργασίας συνδέονται σε δίκτυο, με αποτέλεσμα η είσοδος στο σύστημα να διέρχεται διαδοχικά μέσα από κάθε ένα από αυτά. Η συγκεκριμένη αρχιτεκτονική επινοήθηκε με πρότυπο την επεξεργασία των οπτικών πληροφοριών στον εγκέφαλο, δηλ. των πληροφοριών που εισέρχονται μέσω των ματιών και συλλαμβάνονται από τον αμφιβληστροειδή χιτώνα. Αυτό το βάθος επιτρέπει στο δίκτυο να μαθαίνει πιο σύνθετες δομές, χωρίς να απαιτούνται μεγάλες, μη ρεαλιστικές, ποσότητες δεδομένων.\"},{\n\t\"title\": \"Νευρώνες, κυτταρικά σώματα και σήματα\",\n\t\"content\": \"Ένα νευρωνικό δίκτυο, είτε βιολογικό είτε τεχνητό, αποτελείται από μεγάλο αριθμό απλών μονάδων, τους νευρώνες, οι οποίοι ανταλλάσσουν σήματα μεταξύ τους. Οι νευρώνες είναι πολύ απλοί επεξεργαστές πληροφοριών, που αποτελούνται από ένα κυτταρικό σώμα και «καλώδια» που συνδέουν τους νευρώνες μεταξύ τους. Συνήθως, οι νευρώνες παραμένουν αδρανείς, αναμένοντας τυχόν σήματα που προέρχονται από τα «καλώδια».\"},{\n\t\"title\": \"Δενδρίτες, νευράξονες και συνάψεις\",\n\t\"content\": \"Στη γλώσσα της βιολογίας, τα «καλώδια» που μεταφέρουν τις πληροφορίες εισόδου στους νευρώνες ονομάζονται δενδρίτες. Ενίοτε, ανάλογα με τα εισερχόμενα σήματα, ο νευρώνας μπορεί να πυροδοτήσει και να στείλει ένα σήμα προς λήψη από τους άλλους νευρώνες. Το «καλώδιο» που μεταδίδει το εξερχόμενο σήμα ονομάζεται νευράξονας. Κάθε νευράξονας μπορεί να είναι συνδεδεμένος με έναν ή περισσότερους δενδρίτες σε σημεία διασταύρωσης που ονομάζονται συνάψεις.\"}]"},"children":[{"type":"text","value":"\n"}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Απομονωμένος από τους άλλους νευρώνες, ένας μεμονωμένος νευρώνας δεν έχει κάτι το εντυπωσιακό, καθώς δεν παρουσιάζει παρά ένα πολύ περιορισμένο σύνολο συμπεριφορών. Ωστόσο, όταν οι νευρώνες είναι συνδεδεμένοι μεταξύ τους, το σύστημα που προκύπτει από τη συντονισμένη δράση τους μπορεί να είναι εξαιρετικά πολύπλοκο. Για να πειστείτε για αυτή την πολυπλοκότητα, δεν χρειάζεται παρά να εξετάσετε (για να χρησιμοποιήσουμε νομική ορολογία) το «πειστήριο A»: τον εγκέφαλό σας! Η συμπεριφορά του συστήματος καθορίζεται από τους τρόπους με τους οποίους διασυνδέονται μεταξύ τους οι νευρώνες. Κάθε νευρώνας αντιδρά στα εισερχόμενα σήματα με συγκεκριμένο τρόπο, ο οποίος μπορεί επίσης να προσαρμόζεται με την πάροδο του χρόνου. Η προσαρμογή αυτή θεωρείται το βασικό χαρακτηριστικό λειτουργιών όπως η μνήμη και η μάθηση."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"quiz","properties":{"quizid":"c4582ec8-b5ec-5e06-b8fc-b7727140b940"},"children":[{"type":"text","value":"\n"}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Για ποιον λόγο δημιουργούμε τεχνητά νευρωνικά δίκτυα;"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Ο σκοπός της δημιουργίας τεχνητών μοντέλων του εγκεφάλου μπορεί να είναι η συμβολή στη νευροεπιστήμη, τη μελέτη του εγκεφάλου και του νευρικού συστήματος γενικότερα. Είναι δελεαστική η σκέψη ότι η χαρτογράφηση του ανθρώπινου εγκεφάλου με επαρκείς λεπτομέρειες μπορεί να οδηγήσει στην ανακάλυψη των μυστικών της γνωστικής λειτουργίας και της συνείδησης του ανθρώπου και των ζώων."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"illustrations","properties":{"motive":"brain"},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Μοντελοποίηση του εγκεφάλου","description":"Η πρωτοβουλία <a target='_blank' rel='noopener noreferrer' href='https://www.braininitiative.nih.gov'><i>The BRAIN Initiative</i></a>,  της οποίας ηγούνται Αμερικανοί επιστήμονες του τομέα της νευροεπιστήμης, αναπτύσσει τεχνολογίες για την απεικόνιση, τη μοντελοποίηση και την προσομοίωση του εγκεφάλου σε λεπτομερέστερη και ευρύτερη κλίμακα σε σχέση με το παρελθόν. Ορισμένα ερευνητικά έργα για τον εγκέφαλο έχουν θέσει ιδιαίτερα φιλόδοξους στόχους. Το έργο <a target='_blank' rel='noopener noreferrer' href='https://www.youtube.com/watch?v=JqMpGrM5ECo'><i>The Human Brain Project</i></a> έθεσε πριν 5 χρόνια ως στόχο «την επίλυση των μυστηρίων της νόησης – σύντομα». Μετά από χρόνια εργασιών, το έργο «Human Brain Project» ήρθε αντιμέτωπο με ερωτήματα σχετικά με το πότε τα <a target='_blank' rel='noopener noreferrer' href='https://www.scientificamerican.com/article/why-the-human-brain-project-went-wrong-and-how-to-fix-it/'>δισεκατομμύρια ευρώ που επένδυσε η Ευρωπαϊκή Ένωση</a> θα επιτύχουν όσα έχουν υποσχεθεί, παρότι, για να είμαστε δίκαιοι, ορισμένα λιγότερο φιλόδοξα ορόσημα έχουν ήδη επιτευχθεί."},"children":[{"type":"text","value":"\n  "}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Εντούτοις, παρότι δεν φαίνεται να έχουμε σημειώσει παρά ελάχιστη πρόοδο όσον αφορά την κατανόηση της νόησης και της συνείδησης, είναι σαφές ότι στον τομέα της νευροεπιστήμης έχουν ήδη επιτευχθεί ορισμένα ορόσημα. Με την καλύτερη κατανόηση της δομής και της λειτουργίας του εγκεφάλου, ήδη δρέπουμε ορισμένους συγκεκριμένους καρπούς. Για παράδειγμα, μπορούμε να αναγνωρίζουμε τη μη φυσιολογική λειτουργία και προσπαθούμε να βοηθήσουμε τον εγκέφαλο να την αποφεύγει και να αποκαθιστά τη φυσιολογική λειτουργία του. Αυτό μπορεί να οδηγήσει σε ιατρικές θεραπείες που αλλάζουν τη ζωή των ανθρώπων που πάσχουν από νευρολογικές διαταραχές: επιληψία, νόσο Alzheimer, προβλήματα οφειλόμενα σε αναπτυξιακές διαταραχές ή βλάβες οφειλόμενες σε τραυματισμό, και ούτω καθεξής."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Ατενίζοντας το μέλλον: διεπαφές εγκεφάλου-υπολογιστή","description":"Μια κατεύθυνση της έρευνας στον τομέα της νευροεπιστήμης είναι οι διεπαφές εγκεφάλου-υπολογιστή που επιτρέπουν τη διάδραση με έναν υπολογιστή απλώς μέσω της σκέψης. Οι υφιστάμενες διεπαφές είναι ιδιαίτερα περιορισμένες και μπορούν να χρησιμοποιηθούν, για παράδειγμα, για <a target='_blank' rel='noopener noreferrer' href='https://www.youtube.com/watch?v=Ecvv-EvOj8M'>την ανακατασκευή, σε υποτυπώδες επίπεδο, της εικόνας που βλέπει ένας άνθρωπος</a>, ή για τον <a target='_blank' rel='noopener noreferrer' href='https://www.youtube.com/watch?v=7t84lGE5TXA'>έλεγχο ρομποτικών βραχιόνων ή μη επανδρωμένων αεροσκαφών με τη σκέψη</a>. Ίσως κάποια μέρα να μπορέσουμε να δημιουργήσουμε μια μηχανή ανάγνωσης της σκέψης που να μπορεί να δέχεται οδηγίες ακριβείας, αλλά, επί του παρόντος, αυτό είναι στη σφαίρα της επιστημονικής φαντασίας. Δεν είναι επίσης απίθανο να μπορέσουμε να τροφοδοτήσουμε τον εγκέφαλο με πληροφορίες, διεγείροντάς τον με μικρούς ηλεκτρονικούς παλμούς. Αυτού του είδους η διέγερση χρησιμοποιείται επί του παρόντος για θεραπευτικούς σκοπούς. Παρότι η τροφοδοσία του εγκεφάλου με λεπτομερείς πληροφορίες όπως συγκεκριμένες λέξεις, ιδέες, μνήμες ή συναισθήματα αποτελεί, τουλάχιστον επί του παρόντος, επιστημονική φαντασία και όχι πραγματικότητα, είναι ωστόσο προφανές ότι δεν γνωρίζουμε ούτε τα όρια αυτού του είδους της τεχνολογίας, ούτε πόσο δύσκολο είναι τα προσεγγίσουμε."},"children":[{"type":"text","value":"\n  "}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Όμως, απομακρυνθήκαμε κάπως από το θέμα του μαθήματος. Στην πραγματικότητα, ένας άλλος βασικός λόγος για τη δημιουργία τεχνητών νευρωνικών δικτύων δεν έχει μεγάλη σχέση με την κατανόηση των βιολογικών συστημάτων. Ο άλλος αυτός λόγος είναι η χρήση των βιολογικών συστημάτων ως αφετηρία για να εμπνευστούμε καλύτερες τεχνικές ΤΝ και μηχανικής μάθησης. Η ιδέα είναι ιδιαίτερα απλή: ο εγκέφαλος είναι ένα εκπληκτικά σύνθετο σύστημα επεξεργασίας πληροφοριών, ικανό για ένα ευρύ φάσμα ευφυών συμπεριφορών (συν ορισμένων όχι και τόσο ευφυών), και, συνεπώς, είναι εύλογο να εμπνεόμαστε από αυτόν όταν προσπαθούμε να δημιουργήσουμε τεχνητά συστήματα ευφυΐας."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Τα νευρωνικά δίκτυα αποτελούν κεντρική τάση στην ΤΝ από τη δεκαετία του 1960. Θα επανέλθουμε στα κύματα δημοφιλίας στην ιστορία της ΤΝ στο τελευταίο μέρος. Σήμερα, τα νευρωνικά δίκτυα αποτελούν και πάλι την αιχμή του δόρατος της σχετικής έρευνας, καθώς η βαθιά μάθηση χρησιμοποιείται για την επίτευξη σημαντικών βελτιώσεων σε πολλούς τομείς, όπως η επεξεργασία φυσικής γλώσσας και η επεξεργασία εικόνας, αντικείμενα που αποτελούσαν αδύναμα σημεία της ΤΝ."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Τι το ιδιαίτερο έχουν τα νευρωνικά δίκτυα;"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Η επιχειρηματολογία υπέρ των νευρωνικών δικτύων γενικά ως προσέγγισης στην ΤΝ είναι παρόμοια με την επιχειρηματολογία υπέρ των προσεγγίσεων που βασίζονται στη λογική. Στην περίπτωση των τελευταίων, διατυπώθηκε η άποψη ότι για να επιτύχουμε νοημοσύνη ανθρώπινου επιπέδου, πρέπει να προσομοιώσουμε τις διαδικασίες σκέψης ανώτερου επιπέδου, και, ειδικότερα, τον χειρισμό συμβόλων που αντιπροσωπεύουν ορισμένες συγκεκριμένες ή αφηρημένες έννοιες με χρήση λογικών κανόνων. "}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Το επιχείρημα υπέρ των νευρωνικών δικτύων είναι ότι μέσω της προσομοίωσης του κατώτερου επιπέδου, της επεξεργασίας «υποσυμβολικών» δεδομένων στο επίπεδο των νευρώνων και των νευρωνικών δικτύων, θα αναδυθεί η νοημοσύνη. Όλα αυτά ακούγονται πολύ λογικά, αλλά θα πρέπει να έχουμε υπόψη μας ότι για να δημιουργήσουμε πτητικές μηχανές δεν κατασκευάζουμε αεροπλάνα που χτυπούν τα φτερά τους, ούτε που αποτελούνται από κόκαλα, μυς και φτερά. Παρομοίως, στα τεχνητά νευρωνικά δίκτυα, ο εσωτερικός μηχανισμός των νευρώνων συνήθως αγνοείται και οι τεχνητοί νευρώνες είναι συχνά πολύ απλούστεροι των φυσικών. Οι μηχανισμοί μετάδοσης ηλεκτροχημικών σημάτων μεταξύ των φυσικών νευρώνων επίσης αγνοούνται ως επί το πλείστον στα τεχνητά μοντέλα, όταν ο στόχος είναι η δημιουργία συστημάτων ΤΝ και όχι η προσομοίωση βιολογικών συστημάτων."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Σε σύγκριση με την παραδοσιακή λειτουργία των υπολογιστών, τα νευρωνικά δίκτυα έχουν ορισμένα ιδιαίτερα χαρακτηριστικά:"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h3","properties":{},"children":[{"type":"text","value":"Πρώτο βασικό χαρακτηριστικό των νευρωνικών δικτύων"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Καταρχάς, σε έναν παραδοσιακό υπολογιστή, η επεξεργασία των πληροφοριών πραγματοποιείται σε έναν κεντρικό επεξεργαστή (με την επιτυχημένη ονομασία κεντρική μονάδα επεξεργασίας, ή CPU για συντομία), ο οποίος μπορεί να επικεντρωθεί σε μία μόνο δραστηριότητα τη φορά. Η CPU μπορεί να ανακτήσει δεδομένα με σκοπό την επεξεργασία τους από τη μνήμη του υπολογιστή, και να αποθηκεύσει το αποτέλεσμα στη μνήμη. Ως εκ τούτου, την αποθήκευση των δεδομένων και την επεξεργασία των δεδομένων διεκπεραιώνουν δύο χωριστά στοιχεία του υπολογιστή: η μνήμη και η CPU. Στα νευρωνικά δίκτυα, το σύστημα αποτελείται από μεγάλο αριθμό νευρώνων, καθένας εκ των οποίων μπορεί να επεξεργάζεται πληροφορίες μόνος του, με αποτέλεσμα αντί να υπάρχει μια μονάδα CPU που επεξεργάζεται κάθε στοιχείο πληροφορίας το ένα μετά το άλλο, οι νευρώνες να επεξεργάζονται τεράστιες ποσότητες πληροφοριών ταυτόχρονα."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h3","properties":{},"children":[{"type":"text","value":"Δεύτερο βασικό χαρακτηριστικό των νευρωνικών δικτύων"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Η δεύτερη διαφορά είναι ότι η αποθήκευση δεδομένων (μνήμη) και η επεξεργασία δεδομένων δεν είναι χωριστές διαδικασίες, όπως στους παραδοσιακούς υπολογιστές. Οι νευρώνες και αποθηκεύουν αλλά και επεξεργάζονται πληροφορίες, με αποτέλεσμα να μην υπάρχει ανάγκη ανάκτησης των δεδομένων από τη μνήμη για επεξεργασία. Τα δεδομένα μπορούν να αποθηκεύονται βραχυπρόθεσμα στους ίδιους τους νευρώνες (οι οποίοι είτε πυροδοτούν είτε όχι σε οποιαδήποτε δεδομένη στιγμή) ή να αποθηκεύονται πιο μακροπρόθεσμα, στις συνδέσεις μεταξύ των νευρώνων – ονομάζονται επίσης βάρη, θέμα το οποίο θα εξετάσουμε στη συνέχεια."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Λόγω των εν λόγω δύο διαφορών, τα νευρωνικά δίκτυα και τα παραδοσιακά δίκτυα είναι κατάλληλα για κάπως διαφορετικές εργασίες. Παρότι η προσομοίωση νευρωνικών δικτύων είναι απολύτως εφικτή σε παραδοσιακούς υπολογιστές, πρακτική η οποία αποτελούσε τον καθιερωμένο τρόπο χρήσης τους για μεγάλο χρονικό διάστημα, η μέγιστη ικανότητά τους επιτυγχάνεται μόνο όταν χρησιμοποιούμε ειδικό υλισμικό (συσκευές υπολογιστών) που μπορεί να επεξεργάζεται πολλά μεμονωμένα στοιχεία πληροφοριών ταυτόχρονα. Η διαδικασία αυτή ονομάζεται "},{"type":"element","tagName":"strong","properties":{},"children":[{"type":"text","value":"παράλληλη επεξεργασία"}]},{"type":"text","value":". Παρεμπιπτόντως, οι επεξεργαστές γραφικών (ή μονάδες επεξεργασίας γραφικών, GPU) διαθέτουν αυτή την ικανότητα και έχουν καταστεί μια οικονομικά αποδοτική λύση για την εφαρμογή μεθόδων βαθιάς μάθησης μεγάλων δεδομένων."}]}],"data":{"quirksMode":false}},"excerpt":"Ένας από τους λόγους για αυτό το ενδιαφέρον είναι η ελπίδα κατανόησης της δικής μας νόησης, η οποία αναδύεται από νευρωνικές διαδικασίες…","frontmatter":{"path":"/el/5/1","title":"Βασικά στοιχεία νευρωνικών δικτύων","part":5,"type":"section","lang":"el","section":1}}},{"node":{"htmlAst":{"type":"root","children":[{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"lead","properties":{},"children":[{"type":"text","value":"Όπως αναφέρθηκε προηγουμένως, οι νευρώνες είναι πολύ απλές μονάδες επεξεργασίας. Με βάση τα όσα έχουμε αναφέρει για τη γραμμική και τη λογιστική παλινδρόμηση στο κεφάλαιο 4, οι βασικές τεχνικές λεπτομέρειες των νευρωνικών δικτύων μπορούν να θεωρηθούν ως παραλλαγές της ίδιας ιδέας."}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Βάρη και είσοδοι","description":"Το βασικό μοντέλου τεχνητού νευρώνα περιλαμβάνει ένα σύνολο προσαρμοζόμενων παραμέτρων, που ονομάζονται βάρη, όπως στη γραμμική και τη λογιστική παλινδρόμηση. Όπως ακριβώς και στην παλινδρόμηση, τα βάρη αυτά χρησιμοποιούνται ως πολλαπλασιαστές των εισόδων του νευρώνα, και αθροίζονται. Το άθροισμα των βαρών επί τις εισόδους ονομάζεται γραμμικός συνδυασμός των εισόδων. Ίσως θυμάστε την αναλογία του λογαριασμού αγορών: πολλαπλασιάζετε το ποσό κάθε είδους με την τιμή ανά μονάδα και αθροίζετε για να υπολογίσετε το σύνολο."},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Εάν έχουμε ένα νευρώνα με έξι εισόδους (ανάλογες προς τα ποσά των έξι ειδών αγορών: πατάτες, καρότα, και ούτω καθεξής), είσοδος1, είσοδος2, είσοδος3, είσοδος4, είσοδος5 και είσοδος6, χρειαζόμαστε επίσης έξι βάρη. Τα βάρη είναι ανάλογα των τιμών των ειδών. Θα τα ονομάσουμε βάρος1, βάρος2, βάρος3, βάρος4, βάρος5 και βάρος6. Επιπλέον, συνήθως, θα χρειαστεί να συμπεριλάβουμε έναν σταθερό όρο, όπως και στη γραμμική παλινδρόμηση. Μπορούμε να θεωρήσουμε τον εν λόγω όρο ως σταθερή πρόσθετη χρέωση λόγω της επεξεργασίας μιας πληρωμής πιστωτικής κάρτας, για παράδειγμα."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Στη συνέχεια, μπορούμε να υπολογίσουμε τον γραμμικό συνδυασμό ως εξής: γραμμικός συνδυασμός = σταθερός όρος + βάρος1 × είσοδος1 + ... + βάρος6 × είσοδος6 (όπου ... σημαίνει συντομογραφικά ότι το άθροισμα περιλαμβάνει όλους τους όρους από το 1 έως το 6)."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Κατόπιν, χρησιμοποιώντας μερικούς αριθμούς εν είδει παραδείγματος, θα έχουμε:"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"codesnippet","properties":{"text":"10,0 + 5,4 × 8 + (-10,2) × 5 + (-0,1) × 22 + 101,4 × (-5) + 0,0 × 2 + 12,0 × (-3) = -543,0"},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"quiz","properties":{"quizid":"3b1ebfce-f863-5ac5-aef8-83713d472861"},"children":[{"type":"text","value":"\n"}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Η εκμάθηση των βαρών πραγματοποιείται πάντοτε από δεδομένα με χρήση των ίδιων ιδεών με αυτές που χρησιμοποιούνται στη γραμμική ή τη λογιστική παλινδρόμηση, όπως αναφέρθηκε προηγουμένως. Εντούτοις, προτού εξετάσουμε το συγκεκριμένο θέμα αναλυτικότερα, θα παρουσιάσουμε ένα άλλο σημαντικό στάδιο το οποίο ολοκληρώνει ένας νευρώνας πριν να αποστείλει ένα σήμα εξόδου."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Ενεργοποιήσεις και έξοδοι"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Μετά τον υπολογισμό του γραμμικού συνδυασμού, ο νευρώνας εκτελεί μία ακόμη λειτουργία. Παίρνει τον γραμμικό συνδυασμό και τον τροφοδοτεί στην αποκαλούμενη συνάρτηση ενεργοποίησης. Τυπικά παραδείγματα της συνάρτησης ενεργοποίησης είναι τα εξής:"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"ul","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"ταυτοτική συνάρτηση: καμία ενέργεια, μόνο έξοδος του γραμμικού συνδυασμού"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"βηματική συνάρτηση: εάν η τιμή του γραμμικού συνδυασμού είναι μεγαλύτερη του μηδενός, αποστολή παλμού (ON), διαφορετικά, καμία ενέργεια (OFF)"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"li","properties":{},"children":[{"type":"text","value":"σιγμοειδής συνάρτηση: «ήπια» εκδοχή της βηματικής συνάρτησης"}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Επισημαίνεται ότι με την πρώτη συνάρτηση ενεργοποίησης, την ταυτοτική συνάρτηση, ο νευρώνας είναι ακριβώς ο ίδιος όπως και με τη γραμμική παλινδρόμηση. Αυτός είναι ο λόγος για τον οποίο η ταυτοτική συνάρτηση χρησιμοποιείται σπάνια στα νευρωνικά δίκτυα: δεν οδηγεί σε τίποτε νέο και ενδιαφέρον."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Πώς ενεργοποιούνται οι νευρώνες","description":"Οι πραγματικοί, βιολογικοί νευρώνες επικοινωνούν διά της αποστολής αιχμηρών, ηλεκτρικών παλμών που ονομάζονται ακίδες, κατά τρόπον ώστε οποιαδήποτε δεδομένη στιγμή το εξερχόμενο σήμα τους είναι είτε on είτε off (1 ή 0). Η βηματική συνάρτηση μιμείται αυτή τη συμπεριφορά. Εντούτοις, στα τεχνητά νευρωνικά δίκτυα υπάρχει η τάση να χρησιμοποιείται το δεύτερο είδος των συναρτήσεων ενεργοποίησης, με αποτέλεσμα να παράγουν πάντοτε ως έξοδο ένα συνεχές αριθμητικό επίπεδο ενεργοποίησης. Έτσι, για να χρησιμοποιήσουμε ένα κάπως αδόκιμο σχήμα λόγου, οι πραγματικοί νευρώνες επικοινωνούν με κάτι που μοιάζει με κώδικα Μορς, ενώ οι τεχνητοί νευρώνες επικοινωνούν προσαρμόζοντας τον τόνο της φωνής τους όπως στους λαρυγγισμούς."},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"illustrations","properties":{"motive":"carstop","color":"#ebe9ef","frombottom":"0","totalheight":"35%"},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Η έξοδος του νευρώνα, που καθορίζεται από τον γραμμικό συνδυασμό και τη συνάρτηση ενεργοποίησης, μπορεί να χρησιμοποιηθεί για την παραγωγή μιας πρόβλεψης ή μιας απόφασης. Για παράδειγμα, εάν το δίκτυο έχει σχεδιαστεί να αναγνωρίζει ένα σήμα στοπ μπροστά από ένα αυτοοδηγούμενο αυτοκίνητο, η είσοδος μπορεί να είναι τα εικονοστοιχεία μιας εικόνας που καταγράφεται από μια κάμερα που είναι συνδεδεμένη μπροστά από το αυτοκίνητο, και η έξοδος μπορεί να χρησιμοποιείται για την ενεργοποίηση μιας διαδικασίας που ακινητοποιεί το όχημα πριν από το σήμα."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Η εκμάθηση ή η προσαρμογή στο δίκτυο λαμβάνει χώρα όταν τα βάρη προσαρμόζονται κατά τρόπο ώστε να καταστήσουν το δίκτυο ικανό να παράγει τις ορθές εξόδους, όπως στη γραμμική ή τη λογιστική παλινδρόμηση. Πολλά νευρωνικά δίκτυα είναι πολύ μεγάλα, με το μεγαλύτερο να περιέχει εκατοντάδες χιλιάδες βάρη. Η βελτιστοποίηση του συνόλου των εν λόγω δικτύων μπορεί να αποτελέσει ένα αποθαρρυντικό εγχείρημα που απαιτεί πολύ μεγάλη υπολογιστική ισχύ."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"exercise22","properties":{"quizid":"12a06fa0-498d-5191-9604-ae44f3e22d3b"},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Perceptron: η μητέρα όλων των τεχνητών νευρωνικών δικτύων (ΤΝΔ)"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Το perceptron είναι απλώς μια εντυπωσιακή ονομασία για το απλό μοντέλο νευρώνα με τη βηματική συνάρτηση που εξετάσαμε ανωτέρω. Ήταν ένα από τα πολύ πρώτα τυπικά μοντέλα νευρωνικού υπολογισμού, και λόγω του θεμελιώδους ρόλου του στην ιστορία των νευρωνικών δικτύων, θα ήταν δίκαιο να το ονομάσουμε «μητέρα όλων των τεχνητών νευρωνικών δικτύων»."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Μπορεί να χρησιμοποιηθεί ως απλός ταξινομητής σε εργασίες δυαδικής ταξινόμησης. Μια μέθοδος για την εκμάθηση των βαρών του perceptron από δεδομένα, που ονομάζεται αλγόριθμος Perceptron, εισήχθη από τον ψυχολόγο Φρανκ Ρόζενμπλατ (Frank Rosenblatt) το 1957. Δεν θα εξετάσουμε τον αλγόριθμο Perceptron αναλυτικά. Αρκεί να αναφέρουμε ότι είναι τόσο απλός όσο ακριβώς και ο ταξινομητής πλησιέστερου γείτονα. Η βασική αρχή είναι η τροφοδοσία του δικτύου με δεδομένα εκπαίδευσης με ένα παράδειγμα τη φορά. Κάθε εσφαλμένη ταξινόμηση έχει ως αποτέλεσμα επικαιροποίηση του βάρους."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Υπερβολές σχετικά με την ΤΝ","description":"Μετά την ανακάλυψή του, ο αλγόριθμος Perceptron προσέλκυσε έντονη προσοχή, οπωσδήποτε και λόγω των αισιόδοξων δηλώσεων του εφευρέτη της, Φρανκ Ρόζενμπλατ. Κλασικό παράδειγμα των υπερβολών σχετικά με την ΤΝ αποτελεί ένα άρθρο των New York Times που δημοσιεύτηκε στις 8 Ιουλίου 1958:\n«Το Ναυτικό αποκάλυψε το έμβρυο ενός ηλεκτρονικού υπολογιστή το οποίο αναμένεται ότι θα περπατά, θα μιλά, θα βλέπει, θα αναπαράγει τον εαυτό του και θα έχει συνείδηση της ύπαρξης του»\n<br><br>Επισημαίνεται ότι οι οπαδοί των νευρωνικών δικτύων δεν είναι οι μόνοι που έχουν την τάση να είναι αισιόδοξοι. Η άνοδος και η πτώση της προσέγγισης της ΤΝ μέσω έμπειρων συστημάτων που βασίζονταν στην λογική παρουσίαζε όλα τα χαρακτηριστικά γνωρίσματα μιας τάσης υπερτίμησης της ΤΝ, με τους ανθρώπους να ισχυρίζονται ότι σύντομα επίκειται η τελική μεγάλη ανακάλυψη. Το αποτέλεσμα ήταν να επέλθει στις αρχές της δεκαετίας του 1960 και στα τέλη της δεκαετίας του 1980 η κατάρρευση στη χρηματοδότηση της έρευνας που ονομάστηκε χειμώνας της ΤΝ."},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Η ιστορία της συζήτησης που οδήγησε τελικά στην σχεδόν πλήρη εγκατάλειψη της προσέγγισης των νευρωνικών δικτύων στη δεκαετία του 1960 για πάνω από δύο δεκαετίες είναι εξαιρετικά συναρπαστική. Στο άρθρο "},{"type":"element","tagName":"i","properties":{},"children":[{"type":"element","tagName":"a","properties":{"href":"http://journals.sagepub.com/doi/10.1177/030631296026003005","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"A sociological study of the official history of the perceptrons controversy"}]}]},{"type":"text","value":" του Mikel Olazaran (που δημοσιεύτηκε στο «Social Studies of Science», 1996) παρουσιάζεται μια επισκόπηση των γεγονότων από την άποψη της κοινωνιολογίας της επιστήμης. Η ανάγνωση του άρθρου σήμερα προκαλεί προβληματισμό. Η ανάγνωση ιστοριών για διάσημους ήρωες της ΤΝ που είχαν αναπτύξει νευρωνικά δίκτυα τα οποία θα σύντομα θα έφθαναν στο επίπεδο της ανθρώπινης νοημοσύνης και θα αποκτούσαν συνείδηση του εαυτού τους μπορεί να συγκριθεί με ορισμένες δηλώσεις που έγιναν κατά τη διάρκεια της σημερινής τάσης υπερτίμησης. Εάν ρίξετε μια ματιά στο παραπάνω άρθρο, ακόμη και αν δεν το διαβάσετε ολόκληρο, θα μπορέσετε να εντάξετε τις ειδήσεις της εποχής μας σε ένα ενδιαφέρον πλαίσιο. Ας δούμε, για παράδειγμα, ένα "},{"type":"element","tagName":"a","properties":{"href":"https://www.technologyreview.com/s/608911/is-ai-riding-a-one-trick-pony/","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"άρθρο στο «Technology Review» του MIT"}]},{"type":"text","value":" που δημοσιεύτηκε τον Σεπτέμβριο του 2017, στο οποίο ο Jordan Jacobs, συνιδρυτής ενός ινστιτούτου Vector πολλών εκατομμυρίων για την ΤΝ συγκρίνει τον Geoffrey Hinton (εμβληματική φυσιογνωμία της σύγχρονης ραγδαίας ανόδου της βαθιάς μάθησης) με τον Αϊνστάιν λόγω της συμβολής του στην ανάπτυξη αλγορίθμων νευρωνικών δικτύων στη δεκαετία του 1980 και μετά. Υπενθυμίζεται επίσης το πρότζεκτ «Human Brain» που αναφέρθηκε στην προηγούμενη ενότητα."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Σύμφωνα με τον Hinton, «το γεγονός ότι δεν λειτουργεί είναι απλώς ένα προσωρινό ενοχλητικό πρόβλημα» (αν και σύμφωνα με το άρθρο, ο Hinton γελά με την παραπάνω δήλωση, οπότε είναι δύσκολο να διακρίνει κανείς κατά πόσο μιλά σοβαρά). Το πρότζεκτ «Human Brain» ισχυρίζεται ότι "},{"type":"element","tagName":"a","properties":{"href":"https://www.humanbrainproject.eu/en/follow-hbp/news/the-quest-for-consciousness/","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"«βρίσκεται κοντά σε ένα σημαντικότατο άλμα όσον αφορά την κατανόηση της συνείδησης»"}]},{"type":"text","value":". Δεν μας θυμίζει κάτι αυτή η δήλωση;"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Στην πραγματικότητα, κανείς δεν γνωρίζει το μέλλον με βεβαιότητα, αλλά όταν γνωρίζουμε το ιστορικό των παρελθουσών αναγγελιών επικείμενων ριζοσπαστικών ανακαλύψεων, θα πρέπει να τηρούμε πιο κριτική στάση. Θα επανέλθουμε στο μέλλον της ΤΝ στο τελευταίο κεφάλαιο, αλλά, επί του παρόντος, ας εξετάσουμε τον τρόπο με τον οποίο κατασκευάζονται τα τεχνητά νευρωνικά δίκτυα."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Σύνδεση των νευρώνων: δίκτυα"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Ο μεμονωμένος νευρώνας είναι ένας υπερβολικά απλουστευμένος τρόπος λήψης αξιόπιστων αποφάσεων και πραγματοποίησης προβλέψεων στις περισσότερες εφαρμογές της καθημερινότητας. Για να απελευθερωθεί το πλήρες δυναμικό των νευρωνικών δικτύων, μπορούμε να χρησιμοποιήσουμε την έξοδο ενός νευρώνα ως είσοδο άλλων νευρώνων, των οποίων οι έξοδοι μπορούν να αποτελούν την είσοδο άλλων νευρώνων, και ούτω καθεξής Η έξοδος του συνολικού δικτύου επιτυγχάνεται ως έξοδος ορισμένου υποσυνόλου των νευρώνων, που ονομάζεται επίπεδο εξόδου. Θα επανέλθουμε στο συγκεκριμένο θέμα σε λίγο, αφού εξετάσουμε τον τρόπο με τον οποίο τα νευρωνικά δίκτυα προσαρμόζονται για να παράξουν διαφορετικές συμπεριφορές μέσω της εκμάθησης των παραμέτρων από δεδομένα."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"key-terminology","properties":{"terminologies":"[\n      {\"title\":\"Επίπεδα\",\"content\":\"Συχνά, η αρχιτεκτονική του δικτύου απαρτίζεται από επίπεδα. Το επίπεδο εισόδου απαρτίζεται από νευρώνες που λαμβάνουν τις εισόδους τους απευθείας από τα δεδομένα. Για παράδειγμα, στο πλαίσιο εργασίας αναγνώρισης εικόνων, το επίπεδο εισόδου θα χρησιμοποιεί τις τιμές των εικονοστοιχείων της εικόνας εισόδου ως τις εισόδους του επιπέδου εισόδου. Συνήθως, το δίκτυο περιλαμβάνει επίσης κρυμμένα επίπεδα που χρησιμοποιούν τις εξόδους των άλλων νευρώνων ως είσοδό τους, και των οποίων η έξοδος χρησιμοποιείται ως είσοδος άλλων επιπέδων νευρώνων. Τέλος, το επίπεδο εισόδου παράγει την έξοδο του συνολικού δικτύου. Όλοι οι νευρώνες ενός συγκεκριμένου επιπέδου λαμβάνουν εισόδους από νευρώνες του προηγούμενου επιπέδου και τροφοδοτούν με την έξοδό τους το επόμενο επίπεδο.\"}\n  ]"},"children":[{"type":"text","value":"\n"}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Κλασικό παράδειγμα πολυεπίπεδου δικτύου είναι το επονομαζόμενο πολυεπίπεδο perceptron. Όπως αναφέρθηκε παραπάνω, ο αλγόριθμος Perceptron του Ρόζενμπλατ μπορεί να χρησιμοποιηθεί για την εκμάθηση των βαρών ενός perceptron. Όσον αφορά το πολυεπίπεδο perceptron, το αντίστοιχο πρόβλημα εκμάθησης είναι κατά πολύ δυσκολότερο και απαιτήθηκε πολύς χρόνος μέχρι να ανακαλυφθεί μια λειτουργική λύση. Ωστόσο, εντέλει, επινοήθηκε μια λύση: ο αλγόριθμος ανάστροφης διάδοσης οδήγησε σε αναβίωση των νευρωνικών δικτύων στα τέλη της δεκαετίας του 1980. Εξακολουθεί να αποτελεί κεντρικό χαρακτηριστικό των πλέον προηγμένων λύσεων βαθιάς μάθησης."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Εντωμεταξύ στο Ελσίνκι...","description":"Η διαδρομή/-ές που οδηγεί στον αλγόριθμο ανάστροφης διάδοσης είναι μάλλον μακρά και με πολλές στροφές. Ένα ενδιαφέρον μέρος της ιστορίας σχετίζεται με το τμήμα της επιστήμης υπολογιστών του πανεπιστημίου του Ελσίνκι. Τρία σχεδόν χρόνια μετά την ίδρυση του τμήματος το 1967, ένας σπουδαστής ονόματι Seppo Linnainmaa εκπόνησε την <a target='_blank' rel='noopener noreferrer' href='http://people.idsia.ch/~juergen/linnainmaa1970thesis.pdf'>μεταπτυχιακή διπλωματική εργασία του</a>. Το θέμα της εργασίας ήταν «Σωρευτικό σφάλμα στρογγυλοποίησης αλγορίθμων ως προσέγγιση Taylor μεμονωμένων σφαλμάτων στρογγυλοποίησης» (η διπλωματική εργασία εκπονήθηκε στη φινλανδική γλώσσα, οπότε ο παραπάνω τίτλος είναι μετάφραση του πραγματικού τίτλου «Algoritmin kumulatiivinen pyöristysvirhe yksittäisten pyöristysvirheiden Taylor-kehitelmänä»).<br><br>Η μέθοδος αυτόματης διαφοροποίησης που αναπτυσσόταν στην εργασία εφαρμόστηκε αργότερα από άλλους ερευνητές για τον ποσοτικό προσδιορισμό της ευαισθησίας της εξόδου ενός πολυεπίπεδου νευρωνικού δικτύου στα μεμονωμένα βάρη, ο οποίος αποτελεί και τη βασική ιδέα της ανάστροφης διάδοσης."},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Ένας απλός ταξινομητής νευρωνικού δικτύου"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Για να δώσουμε ένα σχετικά απλό παράδειγμα της χρήσης ενός ταξινομητή νευρωνικού δικτύου, θα εξετάσουμε μια εργασία που είναι σε μεγάλο βαθμό παρόμοια με την εργασία αναγνώρισης ψηφίων MNIST, δηλαδή την αναγνώριση εικόνων σε δύο κλάσεις. Πρώτα, θα δημιουργήσουμε έναν ταξινομητή για την κατηγοριοποίηση μιας εικόνας στην οποία απεικονίζεται ένας σταυρός (x) ή ένας κύκλος (o). Οι εικόνες μας αναπαρίστανται εδώ ως εικονοστοιχεία, έγχρωμα ή λευκά, και διευθετημένα σε ένα πλέγμα 5 × 5. Με αυτόν τον μορφότυπο, οι εικόνες ενός σταυρού και ενός κύκλου (μάλλον ενός διαμαντιού, για να είμαστε ειλικρινείς) έχουν την εξής εμφάνιση:"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"exercise23a","properties":{},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Για να κατασκευάσουμε έναν ταξινομητή νευρωνικού δικτύου, πρέπει να εκφράσουμε το πρόβλημα κατά τρόπο ώστε να μπορούμε να το λύσουμε χρησιμοποιώντας τις μεθόδους που μάθαμε. Το πρώτο βήμα μας είναι να αναπαραστήσουμε τις πληροφορίες στα εικονοστοιχεία με αριθμητικές τιμές που μπορούν να χρησιμοποιηθούν ως η είσοδος ταξινομητή. Ας χρησιμοποιήσουμε το 1 εάν το τετράγωνο είναι έγχρωμο, και το 0 εάν είναι λευκό. Επισημαίνεται ότι παρότι τα σύμβολα στην ανωτέρω σχηματική παράσταση είναι διαφορετικού χρώματος (πράσινο και μπλε), ο ταξινομητής μας θα αγνοήσει τις πληροφορίες για το χρώμα και θα χρησιμοποιήσει μόνο τις πληροφορίες έγχρωμο/λευκό. Τα 25 εικονοστοιχεία της εικόνας αποτελούν τις εισόδους του ταξινομητή μας."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Για να είμαστε βέβαιοι για το ποιο εικονοστοιχείο είναι ποιο στην αριθμητική αναπαράσταση, μπορούμε να αποφασίσουμε να απαριθμήσουμε τα εικονοστοιχεία με την ίδια σειρά με αυτήν της ανάγνωση ενός κειμένου, δηλ. σειρά ανά σειρά από την κορυφή, και διαβάζοντας κάθε σειρά από αριστερά προς δεξιά. Για παράδειγμα, η πρώτη σειρά του σταυρού αναπαρίσταται ως 1,0,0,0,1· η δεύτερη σειρά ως 0,1,0,1,0, και ούτω καθεξής. Ως εκ τούτου, η πλήρης είσοδος για τον σταυρό είναι: 1,0,0,0,1,0,1,0,1,0,0,0,1,0,0,0,1,0,1,0,1,0,0,0,1."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Θα χρησιμοποιήσουμε το βασικό μοντέλο νευρώνα όπου το πρώτο βήμα είναι ο υπολογισμός γραμμικού συνδυασμού των εισόδων. Συνεπώς, χρειαζόμαστε ένα βάρος για καθένα από τα εικονοστοιχεία εισόδου, δηλαδή 25 βάρη συνολικά."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Τέλος, χρησιμοποιούμε τη βηματική συνάρτηση ενεργοποίησης. Εάν ο γραμμικός συνδυασμός είναι αρνητικός, η ενεργοποίηση του νευρώνα είναι μηδέν, το οποίο αποφασίζουμε να χρησιμοποιήσουμε ως σύμβολο ενός σταυρού. Εάν ο γραμμικός συνδυασμός είναι θετικός, η ενεργοποίηση του νευρώνα είναι ένα, το οποίο αποφασίζουμε να χρησιμοποιήσουμε ως σύμβολο ενός κύκλου."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Ας δοκιμάσουμε να δούμε τι συμβαίνει όταν όλα τα βάρη μας έχουν την ίδια αριθμητική τιμή, δηλαδή 1. Με αυτή τη διευθέτηση, ο γραμμικός συνδυασμός μας για την εικόνα του σταυρού θα είναι 9 (9 έγχρωμα εικονοστοιχεία, οπότε 9 × 1, και 16 λευκά εικονοστοιχεία, 16 × 0), ενώ για την εικόνα του κύκλου θα είναι 8 (8 έγχρωμα εικονοστοιχεία, 8 × 1, και 17 λευκά εικονοστοιχεία, 17 × 0). Με άλλα λόγια, ο γραμμικός συνδυασμός είναι θετικός και για τις δύο εικόνες και, συνεπώς, ταξινομούνται ως κύκλοι. Πρόκειται για ένα όχι ιδιαίτερα καλό αποτέλεσμα, δεδομένου ότι οι εικόνες προς ταξινόμηση είναι μόνο δύο."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Για να βελτιώσουμε το αποτέλεσμα, πρέπει να προσαρμόσουμε τα βάρη κατά τέτοιον τρόπο ώστε ο γραμμικός συνδυασμός να είναι αρνητικός για έναν σταυρό και θετικός για έναν κύκλο. Εάν αναλογιστούμε τι είναι αυτό που διαφοροποιεί τις εικόνες των σταυρών και των κύκλων, διαπιστώνουμε ότι οι κύκλοι δεν έχουν έγχρωμα εικονοστοιχεία στο κέντρο της εικόνας, ενώ οι σταυροί έχουν. Παρομοίως, τα εικονοστοιχεία στις γωνίες της εικόνας είναι έγχρωμα στον σταυρό, αλλά λευκά στον κύκλο"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Μπορούμε τώρα να προσαρμόσουμε τα βάρη. Ο αριθμός των βαρών που μπορούμε να χρησιμοποιήσουμε για να το επιτύχουμε αυτό είναι άπειρος. Για παράδειγμα, αποδώστε βάρος –1 στο κεντρικό εικονοστοιχείο (το 13ο εικονοστοιχείο), και βάρος 1 στα εικονοστοιχεία στο μέσον καθεμιάς από τις τέσσερις πλευρές της εικόνας, αφήνοντας όλα τα υπόλοιπα βάρη να είναι 0. Τώρα, για την είσοδο του σταυρού, το κεντρικό εικονοστοιχείο παράγει την τιμή –1, ενώ για όλα τα άλλα εικονοστοιχεία η τιμή εικονοστοιχείου ή το βάρος είναι 0, οπότε –1 είναι επίσης η συνολική τιμή. Αυτό οδηγεί σε ενεργοποίηση 0, και ο σταυρός ταξινομείται ορθά."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Τι γίνεται με τον κύκλο; Καθένα από τα εικονοστοιχεία στο μέσον των πλευρών παράγει την τιμή 1, δηλαδή 4 × 1 = 4 συνολικά. Για όλα τα άλλα εικονοστοιχεία, είτε η τιμή του εικονοστοιχείου είτε το βάρος είναι μηδέν, δηλαδή το σύνολο είναι 4. Δεδομένου ότι το 4 είναι θετική τιμή, η ενεργοποίηση είναι 1, ενώ αναγνωρίζεται ορθά και ο κύκλος."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Είμαστε ικανοποιημένοι ή όχι;"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Στη συνέχεια θα ακολουθήσουμε ένα παρόμοιο σκεπτικό για να δημιουργήσουμε έναν ταξινομητή για γελαστά πρόσωπα (smiley). Μπορείτε να αντιστοιχίσετε βάρη στα εικονοστοιχεία εισόδου της εικόνας κάνοντας κλικ επάνω τους. Κάνοντας κλικ μία φορά, ρυθμίζετε το βάρος σε 1, ενώ εάν κάνετε κλικ ξανά ρυθμίζετε το βάρος σε -1. Η ενεργοποίηση 1 υποδεικνύει ότι η εικόνα ταξινομείται ως γελαστό πρόσωπο, ορθώς ή εσφαλμένα, ενώ η ενεργοποίηση –1 υποδεικνύει ότι η εικόνα ταξινομείται ως λυπημένο πρόσωπο."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Μην αποθαρρυνθείτε από το γεγονός ότι δεν θα μπορείτε να ταξινομήσετε σωστά όλα τα γελαστά πρόσωπα: "},{"type":"element","tagName":"strong","properties":{},"children":[{"type":"text","value":"αυτό είναι αδύνατο με τον απλό ταξινομητή μας!"}]},{"type":"text","value":" Αυτός είναι ένας σημαντικός στόχος εκμάθησης: ορισμένες φορές η τέλεια ταξινόμηση είναι απλώς αδύνατη, διότι ο ταξινομητής είναι υπερβολικά απλός. Σε αυτή την περίπτωση, ο απλός νευρώνας που χρησιμοποιεί γραμμικό συνδυασμό των εισόδων είναι υπερβολικά απλός για την εργασία. Παρατηρήστε τον τρόπο με τον οποίο μπορείτε να δημιουργήσετε ταξινομητές που λειτουργούν καλά σε διάφορες περιπτώσεις: ορισμένοι ταξινομούν σωστά τα περισσότερα από τα γελαστά πρόσωπα, ενώ δεν αποδίδουν εξίσου καλά σε ό,τι αφορά τα λυπημένα πρόσωπα, ή αντίστροφα."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Μπορείτε να επιτύχετε 6/8 ορθά αποτελέσματα τόσο για τα γελαστά όσο και για τα λυπημένα πρόσωπα;"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"exercise23b","properties":{},"children":[]},{"type":"text","value":"\n"}]}],"data":{"quirksMode":false}},"excerpt":"Εάν έχουμε ένα νευρώνα με έξι εισόδους (ανάλογες προς τα ποσά των έξι ειδών αγορών: πατάτες, καρότα, και ούτω καθεξής), είσοδος1, είσοδος…","frontmatter":{"path":"/el/5/2","title":"Πώς κατασκευάζονται τα νευρωνικά δίκτυα","part":5,"type":"section","lang":"el","section":2}}},{"node":{"htmlAst":{"type":"root","children":[{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"lead","properties":{},"children":[{"type":"text","value":"Στην προηγούμενη ενότητα εξετάσαμε τις βασικές ιδέες που βρίσκονται πίσω από τις περισσότερες μεθόδους νευρωνικών δικτύων: πολυεπίπεδα δίκτυα, μη γραμμικές συναρτήσεις ενεργοποίησης, και κανόνες εκμάθησης όπως ο αλγόριθμός ανάστροφης διάδοσης."}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Οι ιδέες αυτές αποτελούν τη βάση όλων σχεδόν των εφαρμογών νευρωνικών δικτύων. Ωστόσο, υπάρχουν ορισμένες ενδιαφέρουσες και ισχυρές παραλλαγές του συγκεκριμένου θέματος που έχουν οδηγήσει σε σπουδαίες προόδους όσον αφορά τη βαθιά μάθηση σε πολλούς τομείς."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Συνελικτικά νευρωνικά δίκτυα (ΣΝΔ)"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Ένας τομέας στον οποίο η βαθιά μάθηση έχει σημειώσει θεαματική επιτυχία είναι η επεξεργασία εικόνας. Ο απλός ταξινομητής που μελετήσαμε αναλυτικά στην προηγούμενη ενότητα υπόκειται σε σοβαρούς περιορισμούς – όπως θα παρατηρήσατε, δεν ήταν καν εφικτή η ορθή ταξινόμηση όλων των γελαστών προσώπων (smiley). Η προσθήκη περισσότερων επιπέδων στο δίκτυο και η χρήση της ανάστροφης διάδοσης για την εκμάθηση των βαρών επιλύει, καταρχήν, το πρόβλημα, αλλά αναδύεται ένα άλλο πρόβλημα: ο αριθμός των βαρών αυξάνεται υπερβολικά και, κατά συνέπεια, ο όγκος των δεδομένων εκπαίδευσης που απαιτείται για την επίτευξη ικανοποιητικής ακρίβειας μπορεί να καταστεί υπερβολικά μεγάλος και, ως εκ τούτου, μη ρεαλιστικός."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Ευτυχώς, υπάρχει μια ιδιαίτερα κομψή λύση στο πρόβλημα του υπερβολικά μεγάλου αριθμού βαρών: ένα ειδικό είδος νευρωνικού δικτύου, ή μάλλον, ένα ειδικό είδος επιπέδου που μπορεί να συμπεριληφθεί στο νευρωνικό δίκτυο. Το ειδικό αυτό είδος επιπέδου ονομάζεται "},{"type":"element","tagName":"strong","properties":{},"children":[{"type":"text","value":"συνελικτικό επίπεδο"}]},{"type":"text","value":". Τα δίκτυα που περιλαμβάνουν συνελικτικά επίπεδα ονομάζονται "},{"type":"element","tagName":"strong","properties":{},"children":[{"type":"text","value":"συνελικτικά νευρωνικά δίκτυα"}]},{"type":"text","value":" (ΣΝΔ). Η βασική ιδιότητά τους είναι ότι μπορούν να εντοπίζουν χαρακτηριστικά εικόνων όπως φωτεινά ή σκοτεινά σημεία (ή συγκεκριμένο χρώμα), τις ακμές σε διάφορους προσανατολισμούς, πρότυπα, και ούτω καθεξής. Τα εν λόγω χαρακτηριστικά αποτελούν τη βάση για τον εντοπισμό πιο αφηρημένων χαρακτηριστικών όπως τα αυτιά μιας γάτας, το ρύγχος του σκύλου, το μάτι ενός ανθρώπου, ή το οκταγωνικό σχήμα ενός σήματος στοπ. Κανονικά, η εκπαίδευση ενός νευρωνικού δικτύου με σκοπό να εντοπίζει αυτού του είδους τα χαρακτηριστικά με βάση τα εικονοστοιχεία της εικόνας εισόδου είναι δύσκολη, διότι τα χαρακτηριστικά μπορεί να εμφανίζονται σε διαφορετικές θέσεις, με διαφορετικούς προσανατολισμούς και σε διαφορετικά μεγέθη στην εικόνα: η μετακίνηση του αντικειμένου ή της γωνίας λήψης της κάμερας μεταβάλλει δραστικά τις τιμές των εικονοστοιχείων, ακόμη και αν το ίδιο το αντικείμενο φαίνεται να παραμένει το ίδιο στα μάτια μας. Για την εκμάθηση του εντοπισμού ενός σήματος στοπ σε όλες αυτές τις διαφορετικές συνθήκες απαιτούνται τεράστιες ποσότητες δεδομένων εκπαίδευσης, διότι το δίκτυο θα εντοπίζει μόνο το σήμα στις συνθήκες στις οποίες εμφανίζεται στα δεδομένα εκπαίδευσης. Ως εκ τούτου, για παράδειγμα, ένα σήμα στοπ στην άνω δεξιά γωνία μιας εικόνας θα εντοπιστεί μόνο εφόσον στα δεδομένα εκπαίδευσης περιλαμβάνεται εικόνα με το σήμα στην άνω δεξιά γωνία. Τα ΣΝΔ μπορούν να αναγνωρίζουν το αντικείμενο οπουδήποτε, ανεξάρτητα από το πού έχει παρατηρηθεί στις εικόνες εκπαίδευσης."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Γιατί χρειαζόμαστε τα ΣΝΔ","description":"Τα ΣΝΔ χρησιμοποιούν ένα έξυπνο τέχνασμα για να μειώνουν τον όγκο των δεδομένων εκπαίδευσης που απαιτείται για τον εντοπισμό αντικειμένων σε διαφορετικές συνθήκες. Βασικά, το τέχνασμα συνίσταται στη χρήση των ίδιων βαρών εισόδου για πολλούς νευρώνες – ούτως ώστε όλοι οι εν λόγω νευρώνες να ενεργοποιούνται από το ίδιο πρότυπο – αλλά με διαφορετικά εικονοστοιχεία εισόδου. Για παράδειγμα, μπορούμε να έχουμε ένα σύνολο νευρώνων που ενεργοποιούνται από το μυτερό αυτί μιας γάτας. Όταν η είσοδος είναι η φωτογραφία μιας γάτας, ενεργοποιούνται δύο νευρώνες, ένας για το αριστερό αυτί και ένας άλλος για το δεξί. Επίσης, μπορούμε να επιτρέψουμε τη λήψη των εικονοστοιχείων εισόδου του νευρώνα από μικρότερη ή μεγαλύτερη περιοχή, ούτως ώστε διαφορετικοί νευρώνες να ενεργοποιούνται από το αυτί που θα εμφανίζεται σε διαφορετικές κλίμακες (μεγέθη) και, ως εκ τούτου, να μπορούμε να εντοπίσουμε τα αυτιά μιας μικρής γάτας, ακόμη και αν στα δεδομένα εκπαίδευσης περιλαμβάνονταν εικόνες μόνο μεγάλων γατών."},"children":[{"type":"text","value":"\n  "}]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Οι συνελικτικοί νευρώνες τοποθετούνται συνήθως στα κάτω επίπεδα του δικτύου, όπου πραγματοποιείται η επεξεργασία των ανεπεξέργαστων εικονοστοιχείων εισόδου. Οι βασικοί νευρώνες (όπως ο νευρώνας perceptron που εξετάσαμε ανωτέρω) τοποθετούνται στα ανώτερα επίπεδα, όπου πραγματοποιείται η επεξεργασία της εξόδου των κάτω επιπέδων. Τα κάτω επίπεδα μπορούν συνήθως να εκπαιδευτούν μέσω μη επιβλεπόμενης μάθησης, χωρίς να αποσκοπούν σε κάποια συγκεκριμένη εργασία πρόβλεψης. Τα βάρη τους θα εκπαιδευτούν να εντοπίζουν χαρακτηριστικά που εμφανίζονται συχνά στα δεδομένα εισόδου. Ως εκ τούτου, στην περίπτωση φωτογραφιών ζώων, τα τυπικά χαρακτηριστικά θα είναι αυτιά και ρύγχη, ενώ στην περίπτωση φωτογραφιών κτιρίων, τα χαρακτηριστικά είναι αρχιτεκτονικά στοιχεία όπως τοίχοι, στέγες, παράθυρα, και ούτω καθεξής. Σε περίπτωση που ως δεδομένα εισόδου χρησιμοποιείται συνδυασμός διαφόρων αντικειμένων και σκηνών, τότε, τα χαρακτηριστικά που θα μαθαίνονται στα κάτω επίπεδα θα είναι λίγο έως πολύ γενικού χαρακτήρα. Αυτό σημαίνει ότι τα προ-εκπαιδευμένα συνελικτικά επίπεδα μπορούν να χρησιμοποιηθούν σε πολλές διαφορετικές εργασίες επεξεργασίας εικόνας. Αυτό είναι ιδιαίτερα σημαντικό, δεδομένου ότι είναι εύκολη η συγκέντρωση ουσιαστικά απεριόριστων ποσοτήτων μη επισημασμένων δεδομένων εκπαίδευσης – εικόνων χωρίς ετικέτες – τα οποία μπορούν να χρησιμοποιηθούν για την εκπαίδευση των κάτω επιπέδων. Τα ανώτερα επίπεδα εκπαιδεύονται πάντοτε μέσω τεχνικών επιβλεπόμενης μηχανικής μάθησης όπως η ανάστροφη διάδοση."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n"},{"type":"element","tagName":"illustrations","properties":{"motive":"gan","color":"#00B5AA","frombottom":"0","totalheight":"54%"},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"h2","properties":{},"children":[{"type":"text","value":"Ονειρεύονται τα νευρωνικά δίκτυα ηλεκτρικά πρόβατα; παραγωγικά αντιπαραθετικά δίκτυα (ΠΑΔ)"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Αφότου ολοκληρωθεί η εκμάθηση ενός νευρωνικού δικτύου με βάση τα δεδομένα, το δίκτυο αυτό μπορεί να χρησιμοποιηθεί για την πραγματοποίηση προβλέψεων. Δεδομένου ότι τα ανώτερα επίπεδα του δικτύου έχουν εκπαιδευτεί με επιβλεπόμενο τρόπο να εκτελούν μια συγκεκριμένη εργασία ταξινόμησης ή πρόβλεψης, τα ανώτερα επίπεδα χρησιμεύουν, στην πραγματικότητα, μόνο για τη συγκεκριμένη εργασία. Ένα δίκτυο που έχει εκπαιδευτεί να εντοπίζει σήματα στοπ δεν είναι χρήσιμο για τον εντοπισμό χειρόγραφων ψηφίων ή γατών."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Ένα συναρπαστικό αποτέλεσμα επιτυγχάνεται όταν εξετάσουμε με τι μοιάζουν τα χαρακτηριστικά που έχουν μάθει τα προ-εκπαιδευμένα κάτω επίπεδα. Αυτό μπορεί να επιτευχθεί μέσω της παραγωγής εικόνων που ενεργοποιούν ένα συγκεκριμένο σύνολο νευρώνων στα κάτω επίπεδα. Εξετάζοντας τις παραγόμενες εικόνες, μπορούμε να διαπιστώσουμε ότι το νευρωνικό δίκτυο «σκέφτεται» με τι μπορεί να μοιάζει ένα συγκεκριμένο χαρακτηριστικό, ή με τι θα μοιάζει ένα επιλεγμένο σύνολο χαρακτηριστικών. Κάποιοι αρέσκονται να θεωρούν ότι τα δίκτυα «ονειρεύονται» ή «έχουν παραισθήσεις» εικόνων (βλέπε το σύστημα "},{"type":"element","tagName":"a","properties":{"href":"https://en.wikipedia.org/wiki/DeepDream","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"DeepDream"}]},{"type":"text","value":" της Google)."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"note","properties":{"heading":"Προσοχή στις μεταφορές","description":"Ωστόσο, θα θέλαμε ακόμη μια φορά να τονίσουμε το πρόβλημα με τις μεταφορές, όπως τα όνειρα, όταν μιλούμε απλώς για βελτιστοποίηση της οπτικής εικόνας – θυμηθείτε τις «λέξεις-βαλίτσα» που εξετάσαμε στο κεφάλαιο 1. Στην πραγματικότητα, το νευρωνικό δίκτυο δεν ονειρεύεται, ούτε αντιλαμβάνεται την έννοια της γάτας όπως την αντιλαμβάνεται ο άνθρωπος. Έχει απλώς εκπαιδευτεί να αναγνωρίζει αντικείμενα και μπορεί να παράγει εικόνες που είναι παρόμοιες με τα δεδομένα εισόδου με τα οποία έχει εκπαιδευτεί."},"children":[]},{"type":"text","value":"\n"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Για να παραχθούν πράγματι ρεαλιστικές στην εμφάνιση γάτες, ανθρώπινα πρόσωπα ή άλλα αντικείμενα (το αποτέλεσμα θα βασίζεται στο υλικό που έχει χρησιμοποιηθεί ως δεδομένα εκπαίδευσης), ο "},{"type":"element","tagName":"a","properties":{"href":"https://en.wikipedia.org/wiki/Ian_Goodfellow","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"Ian Goodfellow"}]},{"type":"text","value":", ο οποίος εργάζεται επί του παρόντος στη Google Brain, πρότεινε έναν έξυπνο συνδυασμό δύο νευρωνικών δικτύων. Η ιδέα συνίσταται στο να αφήσουμε τα δύο δίκτυα να ανταγωνιστούν μεταξύ τους. Το ένα από τα δίκτυα εκπαιδεύεται να παράγει εικόνες παρόμοιες με αυτές των δεδομένων εκπαίδευσης. Η εργασία του άλλου δικτύου είναι να διαχωρίζει τις εικόνες που παράγονται από το πρώτο δίκτυο από τις πραγματικές εικόνες των δεδομένων εκπαίδευσης – ονομάζεται αντιπαραθετικό δίκτυο, ενώ το συνολικό σύστημα ονομάζεται "},{"type":"element","tagName":"strong","properties":{},"children":[{"type":"text","value":"παραγωγικό αντιπαραθετικό δίκτυο"}]},{"type":"text","value":" ή ΠΑΔ."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Το σύστημα εκπαιδεύει τα δύο μοντέλα παράλληλα. Στην αρχή της εκπαίδευσης, στο αντιπαραθετικό μοντέλο ανατίθεται η εύκολη εργασία να διακρίνει τις πραγματικές εικόνες των δεδομένων εκπαίδευσης από τις αδέξιες προσπάθειες του παραγωγικού μοντέλου. Ωστόσο, καθώς το γενετικό δίκτυο βελτιώνεται ολοένα και περισσότερο, το αντιπαραθετικό μοντέλο πρέπει επίσης να βελτιωθεί, και ο κύκλος συνεχίζεται μέχρις ότου, τελικά, οι παραγόμενες εικόνες να είναι σχεδόν πανομοιότυπες με τις πραγματικές. Το ΠΑΔ προσπαθεί όχι μόνο να αναπαράγει τις εικόνες των δεδομένων εκπαίδευσης: η στρατηγική αυτή θα ήταν υπερβολικά απλή για να νικήσει το αντιπαραθετικό δίκτυο. Αντ’ αυτού, το σύστημα εκπαιδεύεται ώστε να μπορεί να παράγει επίσης νέες, ρεαλιστικές εικόνες."}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"element","tagName":"span","properties":{"className":["gatsby-resp-image-wrapper"],"style":"position: relative; display: block; margin-left: auto; margin-right: auto; max-width: 674px; "},"children":[{"type":"text","value":"\n      "},{"type":"element","tagName":"span","properties":{"className":["gatsby-resp-image-background-image"],"style":"padding-bottom: 99.72222222222223%; position: relative; bottom: 0; left: 0; background-image: url('data:image/jpeg;base64,/9j/2wBDABALDA4MChAODQ4SERATGCgaGBYWGDEjJR0oOjM9PDkzODdASFxOQERXRTc4UG1RV19iZ2hnPk1xeXBkeFxlZ2P/2wBDARESEhgVGC8aGi9jQjhCY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2P/wgARCAAUABQDASIAAhEBAxEB/8QAGQABAAMBAQAAAAAAAAAAAAAAAAMEBQEC/8QAFQEBAQAAAAAAAAAAAAAAAAAAAgP/2gAMAwEAAhADEAAAAbdOXs6YjXOcHoNM8If/xAAeEAACAQMFAAAAAAAAAAAAAAABAgMAEhMEESEiM//aAAgBAQABBQLhjKA2rlAWRmO7dqsjakJxXHJP6//EABYRAAMAAAAAAAAAAAAAAAAAAAABEP/aAAgBAwEBPwEd/8QAFREBAQAAAAAAAAAAAAAAAAAAASD/2gAIAQIBAT8BCP/EAB4QAAICAgIDAAAAAAAAAAAAAAABAhEhMRIiQXGh/9oACAEBAAY/Ak6yO14GkScaqP0jLFtbO/Gyfsq8KOhn/8QAGxABAQEBAQADAAAAAAAAAAAAAREAQTEhYXH/2gAIAQEAAT8h8aQ0XR6QMNKSfWUSGjTCIgcW65TzvlyvmzrIU4369//aAAwDAQACAAMAAAAQ1DCC/8QAFxEAAwEAAAAAAAAAAAAAAAAAAAERMf/aAAgBAwEBPxBtORGi4PT/xAAYEQEBAQEBAAAAAAAAAAAAAAABABExIf/aAAgBAgEBPxBDdYPI4xy//8QAHRABAQACAwADAAAAAAAAAAAAAREAITFRYXGRof/aAAgBAQABPxBGNCPY2P5h6haEXXeA2g8bTzE0vtLHU9ygb67ASEsyM8tLiOGXWsQVXT7C5qeCwWXBtVSjv4M//9k='); background-size: cover; display: block;"},"children":[]},{"type":"text","value":"\n  "},{"type":"element","tagName":"img","properties":{"className":["gatsby-resp-image-image"],"alt":"fakecelebrityfaces","title":"fakecelebrityfaces","src":"/static/ac3753c9c9a3248de4bc71231b483be1/a6d30/5_3_fake-celebrity.jpg","srcSet":["/static/ac3753c9c9a3248de4bc71231b483be1/158ba/5_3_fake-celebrity.jpg 360w","/static/ac3753c9c9a3248de4bc71231b483be1/a6d30/5_3_fake-celebrity.jpg 674w"],"sizes":["(max-width:","674px)","100vw,","674px"],"style":"width:100%;height:100%;margin:0;vertical-align:middle;position:absolute;top:0;left:0;","loading":"lazy"},"children":[]},{"type":"text","value":"\n    "}]}]},{"type":"text","value":"\n"},{"type":"element","tagName":"p","properties":{},"children":[{"type":"text","value":"Οι ανωτέρω εικόνες παρήχθησαν μέσω ΠΑΔ που ανέπτυξε η NVIDIA στο πλαίσιο έργου υπό την καθοδήγηση του "},{"type":"element","tagName":"a","properties":{"href":"https://users.aalto.fi/~lehtinj7/","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"καθ. Jaakko Lehtinen"}]},{"type":"text","value":" (βλέπε "},{"type":"element","tagName":"a","properties":{"href":"https://www.technologyreview.com/the-download/609290/meet-the-fake-celebrities-dreamed-up-by-ai/","target":"_blank","rel":["noopener","noreferrer"]},"children":[{"type":"text","value":"αυτό το άρθρο για περισσότερες πληροφορίες"}]},{"type":"text","value":"). Θα μπορούσατε να έχετε αναγνωρίσει ότι πρόκειται για ψευδείς εικόνες;"}]},{"type":"text","value":"\n"},{"type":"element","tagName":"div","properties":{},"children":[{"type":"text","value":"\n  "},{"type":"element","tagName":"part-summary","properties":{"chapter":"5","heading":"Αφού ολοκληρώσετε το κεφάλαιο 5, θα πρέπει να μπορείτε:","listitems":"[ {\"content\":\"Εξηγήσετε τι είναι ένα νευρωνικό δίκτυο καθώς και σε ποιους τομείς εφαρμόζεται με επιτυχία\"}, {\"content\":\"Να κατανοείτε τις τεχνικές μεθόδους στις οποίες βασίζονται τα νευρωνικά δίκτυα\"}]"},"children":[{"type":"text","value":"\n  "}]},{"type":"text","value":"\n"}]}],"data":{"quirksMode":false}},"excerpt":"Οι ιδέες αυτές αποτελούν τη βάση όλων σχεδόν των εφαρμογών νευρωνικών δικτύων. Ωστόσο, υπάρχουν ορισμένες ενδιαφέρουσες και ισχυρές…","frontmatter":{"path":"/el/5/3","title":"Προηγμένες τεχνικές νευρωνικών δικτύων","part":5,"type":"section","lang":"el","section":3}}}]},"allParts":{"totalCount":6,"edges":[{"node":{"frontmatter":{"title":"Τι είναι η ΤΝ;","path":"/el/1","section":null,"part":1,"lang":"el","bannerImage":{"publicURL":"/static/5cb707dcbce557b358c736c82a82b847/banner1.png"}}}},{"node":{"frontmatter":{"title":"Επίλυση προβλημάτων με την ΤΝ","path":"/el/2","section":null,"part":2,"lang":"el","bannerImage":{"publicURL":"/static/3217219fe81de9c2f030e51f04557962/banner2.png"}}}},{"node":{"frontmatter":{"title":"Η ΤΝ στον πραγματικό κόσμο","path":"/el/3","section":null,"part":3,"lang":"el","bannerImage":{"publicURL":"/static/8433f94cdf930cb1172a332eda51a0ae/banner3.png"}}}},{"node":{"frontmatter":{"title":"Μηχανική μάθηση","path":"/el/4","section":null,"part":4,"lang":"el","bannerImage":{"publicURL":"/static/fdc0e4c1dc187a976325542364658e54/banner4.png"}}}},{"node":{"frontmatter":{"title":"Νευρωνικά δίκτυα","path":"/el/5","section":null,"part":5,"lang":"el","bannerImage":{"publicURL":"/static/8d6d86ca3c422d98b6213f5ddfbe8c07/banner5.png"}}}},{"node":{"frontmatter":{"title":"Συνέπειες της ΤΝ","path":"/el/6","section":null,"part":6,"lang":"el","bannerImage":{"publicURL":"/static/2943d36053a6dd8bd40b3dc3832bb0f8/banner6.png"}}}}]},"currentPart":{"htmlAst":{"type":"root","children":[],"data":{"quirksMode":false}},"frontmatter":{"path":"/el/5","title":"Νευρωνικά δίκτυα","part":5,"lang":"el","quote":"Τομείς όπως η επεξεργασία φυσικής γλώσσας και η επεξεργασία εικόνας υπήρξαν διαχρονικά αδύναμα σημεία της ΤΝ. Τα νευρωνικά δίκτυα και η βαθιά μάθηση χρησιμοποιούνται για την επίτευξη σημαντικών βελτιώσεων σε αυτούς τους τομείς.","quoteAuthor":"","bannerImage":{"publicURL":"/static/8d6d86ca3c422d98b6213f5ddfbe8c07/banner5.png"}}},"allSections":{"totalCount":18,"edges":[{"node":{"frontmatter":{"title":"Πώς πρέπει να ορίσουμε την ΤΝ;","path":"/el/1/1","section":1,"part":1,"lang":"el"}}},{"node":{"frontmatter":{"title":"Αναζήτηση και επίλυση προβλημάτων","path":"/el/2/1","section":1,"part":2,"lang":"el"}}},{"node":{"frontmatter":{"title":"Λόγος πιθανοτήτων και πιθανότητες","path":"/el/3/1","section":1,"part":3,"lang":"el"}}},{"node":{"frontmatter":{"title":"Τα είδη της μηχανικής μάθησης","path":"/el/4/1","section":1,"part":4,"lang":"el"}}},{"node":{"frontmatter":{"title":"Βασικά στοιχεία νευρωνικών δικτύων","path":"/el/5/1","section":1,"part":5,"lang":"el"}}},{"node":{"frontmatter":{"title":"Σχετικά με την πρόβλεψη του μέλλοντος","path":"/el/6/1","section":1,"part":6,"lang":"el"}}},{"node":{"frontmatter":{"title":"Σχετικοί τομείς","path":"/el/1/2","section":2,"part":1,"lang":"el"}}},{"node":{"frontmatter":{"title":"Επίλυση προβλημάτων με την ΤΝ","path":"/el/2/2","section":2,"part":2,"lang":"el"}}},{"node":{"frontmatter":{"title":"Ο κανόνας του Μπέυζ","path":"/el/3/2","section":2,"part":3,"lang":"el"}}},{"node":{"frontmatter":{"title":"Ο ταξινομητής πλησιέστερου γείτονα","path":"/el/4/2","section":2,"part":4,"lang":"el"}}},{"node":{"frontmatter":{"title":"Πώς κατασκευάζονται τα νευρωνικά δίκτυα","path":"/el/5/2","section":2,"part":5,"lang":"el"}}},{"node":{"frontmatter":{"title":"Οι κοινωνικές επιπτώσεις της ΤΝ","path":"/el/6/2","section":2,"part":6,"lang":"el"}}},{"node":{"frontmatter":{"title":"Η φιλοσοφία της ΤΝ","path":"/el/1/3","section":3,"part":1,"lang":"el"}}},{"node":{"frontmatter":{"title":"Αναζήτηση και παιχνίδια","path":"/el/2/3","section":3,"part":2,"lang":"el"}}},{"node":{"frontmatter":{"title":"Αφελής ταξινόμηση Μπέυζ","path":"/el/3/3","section":3,"part":3,"lang":"el"}}},{"node":{"frontmatter":{"title":"Παλινδρόμηση","path":"/el/4/3","section":3,"part":4,"lang":"el"}}},{"node":{"frontmatter":{"title":"Προηγμένες τεχνικές νευρωνικών δικτύων","path":"/el/5/3","section":3,"part":5,"lang":"el"}}},{"node":{"frontmatter":{"title":"Σύνοψη","path":"/el/6/3","section":3,"part":6,"lang":"el"}}}]},"site":{"siteMetadata":{"languages":{"defaultLangKey":"en","langs":["en","fi","se","de","ee","fr","it","fr-be","no","lt","lv","nl-be","mt","hr","pl","en-ie","ga","nl","sk","da","ro","sl","is","de-at","en-lu","bg","cs","pt","es","el"]}}}},"pageContext":{"part":5,"type":"section","lang":"el"}},"staticQueryHashes":["3539470774","3539470774"]}