Υπολογιστική νοημοσύνη και βαθιά μάθηση

Abstract

Σκοπός αυτού του συγγράμματος είναι να αποτελέσει βασικό εκπαιδευτικό υλικό στην «Υπολογιστική Νοημοσύνη και Βαθιά Μάθηση». Αρχικά παρουσιάζονται οι βασικές αρχές της τεχνολογίας, των ΤΝΔ και των ΓΑ. Γίνεται η σύνδεση με την Τεχνητή Νοημοσύνη (ΤΝ) και τις κλασικές μεθόδους αναζήτησης και βελτιστοποίησης, καθώς και με τα βιολογικά πρότυπα από τα οποία τα έχουν εμπνευστεί. Δίνονται τα βασικά στοιχεία της θεωρίας μάθησης και τα δύο παραδείγματα μάθησης (επιβλεπόμενη και μη επιβλεπόμενη μάθηση). Ακολουθεί η παρουσίαση των βασικών αλγορίθμων εκπαίδευσης των ΤΝΔ, με έμφαση στον πιο διαδεδομένο αλγόριθμο, της πίσω διάδοσης του λάθους (Error Back Propagation – EBP). Τα δίκτυα βαθιάς μάθησης (Deep Learning), εκπαίδευση και μοντέλα, ολοκληρώνουν την παρουσίαση των ΤΝΔ εμπρόσθιας τροφοδότησης. Στη συνέχεια, παρουσιάζονται οι Γενετικοί/Εξελικτικοί Αλγόριθμοι ΓΑ/ΕΑ, αλλά και ο συνδυασμός τους σε έναν υβριδικό αλγόριθμο, ένα Εξελικτικό Νευρωνικό Δίκτυο και η εισαγωγή στον Γενετικό Προγραμματισμό (ΓΠ), μια παραλλαγή των Εξελικτικών Αλγορίθμων, η οποία στηρίζεται στη βασική θεωρία της εξέλιξης του Δαρβίνου. Τέλος, παρουσιάζονται δύο αρχιτεκτονικές ΝΔ, τα δίκτυα Hopfield (ένα είδος αυτοσυσχετιστικής μνήμης) και τα δίκτυα Kohonen (ένα είδος αυτο-οργανούμενων χαρτών για ομαδοποίηση δεδομένων), καθώς και οι αλγόριθμοι εκπαίδευσής τους. Σε όλα τα κεφάλαια τονίζονται οι στόχοι και τα μαθησιακά αποτελέσματα και υπάρχει ικανοποιητικός αριθμός παραδειγμάτων, ασκήσεων και δραστηριοτήτων για την καλύτερη εμπέδωση της ύλης. Η κατανόηση της ύλης προϋποθέτει βασική γνώση διακριτών μαθηματικών, γραμμικής άλγεβρας και συνδυαστικής ανάλυσης, καθώς και γνώση προγραμματισμού υπολογιστών. Όσοι θέλουν να ασχοληθούν με την επίλυση προβλημάτων με χρήση των παραπάνω τεχνολογιών πρέπει να φροντίσουν να αποκτήσουν αυτές τις δεξιότητες, διαφορετικά θα έχουν δυσκολίες και θα χρειαστεί να καταβάλουν μεγάλη προσπάθεια για την επιτυχή μελέτη του υλικού.

The objective of this book is to be a basic educational material in “Computational Intelligence and Deep Learning”. At first the basic concepts of Artificial Neural Networks and Genetic Algorithms are presented. The association with Artificial Intelligence and the traditional search and optimization methods is discussed, as well as with the biological systems that they have inspired. The basic concepts of learning theory and the two learning paradigms (supervised and unsupervised learning) are provided. It follows the presentation of the basic training algorithms of the Artificial Neural Networks, with focus on the well-known algorithm, Error Back Propagation – EBP). The Deep Learning Networks, models and training, conclude the presentation of feedforward artificial neural networks. Next the Genetic/Evolutionary algorithms are founded and a case study is discussed - their combination in a hybrid algorithm-, and how to design and train an evolutionary neural network as well. Also, it is presented a short introduction to Genetic Programming (GP), that is a permutation of Evolutionary Algorithms, based on the Darwin’s evolution theory. Finally, two different unsupervised learning paradigms are presented. More specifically, the Hopfield Networks (a kind of autocorrelated memory) and Kohonen Networks (a kind of self-organized maps for data clustering) are presented, as well as their training algorithms. In all the chapters the objectives and the learning results are referred and it is quoted a sufficient number of examples, exercises and activities, that help in better understanding of the presented subjects. It will be very helpful for the readers to have basic knowledge of discrete mathematics, linear algebra, combinatorics and programming. Those who are interested to use these technologies for problem solving have to take care to access these skills. Otherwise, they will have troubles with the easy understanding of the material.