Data Science and Machine Learning (DAMA) – ΘΕΜΑΤΙΚΕΣ ΕΝΟΤΗΤΕΣ

DAMA50 Mathematics for Machine Learning

Κωδικός Θ.Ε.: DAMA50
Πιστωτικές Μονάδες ECTS: 30
Τύπος Θ.Ε.: Υποχρεωτική
Έτος που προσφέρεται: 1ο έτος
Γλώσσα διδασκαλίας: Αγγλική
Περίγραμμα ΘΕ

Γενική Περιγραφή της Θ.Ε.: Οι φοιτητές θα μάθουν τα βασικά μαθηματικά εργαλεία που είναι απαραίτητα για τη Μηχανική Μάθηση (ML). Αυτά περιλαμβάνουν βασικές έννοιες γραμμικής άλγεβρας όπως διανύσματα, πίνακες, μέτρα και πράξεις με διανύσματα και πίνακες. Από τον λογισμό, οι φοιτητές θα εφαρμόσουν θέματα σχετικά με συναρτήσεις πολλών πραγματικών μεταβλητών, σχετικά με τη βασική έννοια της κλίσης και της κατευθυντικής παραγώγου που θα εφαρμοστεί στους αλγόριθμους οπισθοδρόμισης στη Μηχανική Μάθηση.(ML backpropagation). Θα διδαχθούν επίσης πολύ βασικά εργαλεία πιθανοτήτων, στατιστικών και βελτιστοποίησης. Συνολικά, ένας φοιτητής χωρίς προηγούμενη γνώση αυτών των μαθηματικών περιοχών θα είναι σε θέση να αποκτήσει το αναγκαίο υπόβαθρο για να κατανοήσει τις τεχνικές ML, ενώ ένας ο φοιτητής με πρότερες μαθηματικές γνώσεις θα είναι σε θέση να προχωρήσει σε βάθος στην εφαρμογή των μαθηματικών στο ML. Η μαθηματική μελέτη θα συμπληρωθεί με την εκμάθηση της χρήσης υπολογιστικού λογισμικού που θα επιτρέπει τόσο αναλυτικές όσο και αριθμητικές πράξεις.

Μαθησιακά Αποτελέσματα: Μετά την επιτυχή ολοκλήρωση της ΘΕ ο/η φοιτητής /τρια θα είναι σε θέση:

Να κατανοεί ότι οι βασικοί μαθηματικοί πυλώνες της Μηχανικής Μάθησης είναι η Γραμμική Άλγεβρα, ο Διανυσματικός Λογισμός και οι Πιθανότητες και Στατιστική, και να χρησιμοποιεί συναφή αναλυτικά και υπολογιστικά εργαλεία.
Να διατυπώνει γραμμικές εξισώσεις με πολλούς αγνώστους και να περιγράφει λεπτομερώς αναλυτικές τεχνικές επίλυσής τους με τη βοήθεια πινάκων.
Να συνοψίζει τις βασικές έννοιες των διανυσματικών χώρων και να χρησιμοποιεί γραμμικές απεικονίσεις για την αλλαγή βάσης.
Να χρησιμοποιεί το λογισμικό SageMath για την επίλυση προβλημάτων γραμμικής άλγεβρας.
Να περιγράφει την έννοια του μέτρου ενός διανύσματος, του εσωτερικού γινομένου δύο διανυσμάτων και να τις χρησιμοποιεί για τον υπολογισμό του μήκους ενός διανύσματος.
Να εξηγεί τι είναι μια ορθοκανονική βάση σε ένα διανυσματικό χώρο και να περιγράφει το ορθογώνιο συμπλήρωμα ενός υποχώρου του διανυσματικού χώρου.
Να περιγράφει τη διαδικασία της ορθογωνοποίησης Gram-Schmidt και να βρίσκει μια ορθο-κανονική βάση σε ένα διανυσματικό χώρο.
Να χρησιμοποιεί το SageMath για το βασικό χειρισμό διανυσμάτων και την πραγματοποίηση της ορθογωνοποίησης Gram-Schmidt.
Να ανακαλεί τον ορισμό του ίχνους και της ορίζουσας ενός πίνακα και να είναι σε θέση να τα υπολογίσει με το χέρι αμφότερα στην περίπτωση απλών πινάκων, και να εξηγεί τις έννοιες των ιδιοτιμών και ιδιοανυσμάτων απλών πινάκων.
Να περιγράφει την ανάλυση ενός πίνακα με τη μέθοδο Cholesky και τη μέθοδο των Ιδιαζουσών τιμών (SVD) και να εφαρμόζει τις μεθόδους αυτές σε απλούς πίνακες.
Να χρησιμοποιεί το SageMath για να πραγματοποιεί ανάλυση (παραγοντοποίηση) πινάκων.
Να περιγράφει την έννοια του της κλίσης μιας συνάρτησης πολλών μεταβλητών και να περιγράφει τη γεωμετρική της σημασία.
Να συνοψίζει την έννοια της κλίσης πίνακα και της γεωμετρικής της σημασίας, και να την υπολογίζει σε συγκεκριμένες περιπτώσεις.
Να συνοψίζει την έννοια της οπισθοδιάδοσης (backpropagation) και να την χρησιμοποιεί σε απλά μοντέλα νευρωνικών δικτύων.
Να χρησιμοποιεί το SageMath για τον υπολογισμό της κλίσης και παραγώγων.
Να συνοψίζει τις ιδιότητες της μονοδιάστατης και της πολυδιάστασης κατανομής Gauss, να βρίσκει τις περιθώριες κατανομές (marginals) και τις κατανομές υπό συνθήκη (conditionals), καθώς επίσης και τους μετασχηματισμούς μιας Γκαουσιανής συνάρτησης.
Να επικεντρώνεται στην διωνυμική κατανομή Bernoulli και να περιγράφει την κατανομή Βήτα.
Να συνοψίζει τις συζυγείς εκ των προτέρων κατανομές (conjugate priors) που συνδέονται με το θεώρημα Bayes.
Να εξηγεί τι είναι επαρκής στατιστική και να συνοψίζει την εκθετική οικογένεια κατανομών.
Να πραγματοποιεί αλλαγή τυχαίων μεταβλητών και να βρίσκει τη νέα κατανομή πιθανότητας.
Να ανακαλεί την εύρεση ελαχίστων συναρτήσεων μιας μεταβλητής.
Να συνοψίζει τη διαδικασία εύρεσης ελαχίστων συναρτήσεων πολλών μεταβλητών κάνοντας χρήση του αλγορίθμου της επικλινούς καθόδου (gradient descent).
Να εξηγεί πώς πραγματοποιείται η στοχαστική επικλινής κάθοδος και ποια είναι τα πλεονεκτήματα και οι περιορισμοί σε σχέση με τη μέθοδο της επικλινούς καθόδου (gradient descent).
Να περιγράφει τους πολλαπλασιαστές Lagrange και να εξηγεί πώς χρησιμοποιούνται στην βελτιστοποίηση υπό περιορισμούς (constrained optimization).
Να περιγράφει την κυρτή βελτιστοποίηση (convex optimization).
Να χρησιμοποιεί το SageMath για την εύρεση ελαχίστων συναρτήσεων πολλών μεταβλητών και για την ελαχιστοποίηση συναρτήσεων υπό περιορισμούς.

Γνωστικά Αντικείμενα της Θ.Ε.:

Linear Algebra (Γραμμική Άλγεβρα)
Calculus (Λογισμός)
Statistics and Probabilities (Στατιστικά στοιχεία και πιθανότητες)

Προαπαιτούμενα: Δεν υπάρχουν προαπαιτούμενα γι’ αυτή τη Θ.Ε.

Αξιολόγηση: Εκπόνηση έξι (6) γραπτών εργασιών κατά τη διάρκεια του ακαδημαϊκού έτους, ο μέσος όρος των βαθμών των οποίων συμμετέχει στη διαμόρφωση του τελικού βαθμού της Θ.Ε. κατά 30%. Ο βαθμός των γραπτών εργασιών ενεργοποιείται μόνο με βαθμολογία ίσης ή άνω της βάσης (≥5) στις τελικές ή επαναληπτικές εξετάσεις.

Ο βαθμός των τελικών ή επαναληπτικών εξετάσεων συμμετέχει στη διαμόρφωση του τελικού βαθμού της Θ.Ε. κατά 70%.

Μέθοδος Διδασκαλίας: Εξ αποστάσεως εκπαίδευση με διεξαγωγή Ομαδικών Συμβουλευτικών Συναντήσεων κατά τη διάρκεια του ακαδημαϊκού έτους σε Σαββατοκύριακα.

DAMA51 Foundations in Computer Science

Κωδικός Θ.Ε.: DAMA51
Πιστωτικές Μονάδες ECTS: 30
Τύπος Θ.Ε.: Υποχρεωτική
Έτος που προσφέρεται: 1ο έτος
Γλώσσα διδασκαλίας: Αγγλική
Περίγραμμα ΘΕ

Γενική Περιγραφή της Θ.Ε.:

Οι φοιτητές θα αποκτήσουν ένα ισχυρό υπόβαθρο στις αλγοριθμικές πτυχές και στις υπολογιστικές απαιτήσεις της επιστήμης δεδομένων και των τεχνικών μηχανικής μάθησης. Θα αναπτύξουν επίσης σε βάθος κατανόηση των βασικών τεχνολογιών στην επιστήμη των δεδομένων και στην ανάλυση δεδομένων. Αφού τους παρουσιαστούν οι θεμελιώδεις έννοιες και αρχές που διέπουν τις τεχνικές εξαγωγής γνώσης από δεδομένα, θα εξοικειωθούν με μια σειρά από πρακτικές σχετικά με την ανάλυση και την ερμηνεία των δεδομένων καθώς και την αξιολόγηση της ποιότητας των δεδομένων εισόδου και εξαγωγή γνώσεων από τα αποτελέσματα της εξόρυξης των δεδομένων. Μέχρι να ολοκληρώσουν αυτή την ενότητα, οι φοιτητές θα είναι σε θέση να εφαρμόζουν θεωρία, αλγόριθμους γλωσσών και εργαλεία για την επίλυση προβλημάτων του πραγματικού κόσμου, ενώ θα είναι ικανοί στην ερμηνεία και την επικοινωνία ευρημάτων σε κάθε είδους κοινό.

Μαθησιακά Αποτελέσματα:

Αναγνώριση του τι είναι η επιστήμη των δεδομένων και πώς σχετίζεται με τη στατιστική
Αναφορά στις βασικές τεχνικές στατιστικής ανάλυσης
Αναγνώριση των ρόλων και των δεξιοτήτων ενός επιστήμονα δεδομένων
Αναγνώριση των βημάτων της διαδικασίας της επιστήμης δεδομένων
Εκτίμηση της ποιότητας των δεδομένων εισόδου
Αποδοχή ότι η επιστήμη των δεδομένων πρέπει να εφαρμόζεται ως επαναληπτική διαδικασία
Κωδικοποίηση απλών αλγορίθμων σε γλώσσα προγραμματισμού υψηλού επιπέδου
Απόξεση και επεξεργασία δεδομένων
Χρήση διαφορετικών πακέτων λογισμικού επιστήμης δεδομένων
Χρήση καταλλήλων μεθόδων ανάλυσης για τη δημιουργία κατανοητών μοντέλων υψηλής ακρίβειας
Αξιολόγηση της προσαρμογής ενός μοντέλου στα δεδομένα
Διερεύνηση πιθανών ζητημάτων σε δεδομένα και μοντέλα
Ερμηνεία και κοινοποίηση των ευρημάτων σε ένα κοινό
Εξαγωγή γνώσης από τα αποτελέσματα της ανάλυσης δεδομένων
Περιγραφή της ορολογίας του λογικού τομέα
Περιγραφή της ορολογίας του τομέα αναζήτησης
Περιγραφή της ορολογίας του τομέα των δέντρων αποφάσεων
Κατανόηση των διαφορών μεταξύ προτασιακής λογικής και κατηγορηματικής λογικής
Κατανόηση των διαφορών μεταξύ τυφλών και ενημερωμένων αλγορίθμων αναζήτησης
Χρήση της φυσικής γλώσσας για να εξηγήσετε προτάσεις σε προτασιακή ή κατηγορηματική λογική
Εφαρμογή αλγορίθμων αναζήτησης σε ένα δεδομένο χώρο αναζήτησης, χρησιμοποιώντας περιορισμούς όπου υπάρχουν
Εφαρμογή εκμάθησης δένδρων αποφάσεων σε διάφορα σύνολα δεδομένων χρησιμοποιώντας το λογισμικό WEKA
Διατύπωση προβλημάτωνγ αναζήτησης ορίζοντας χώρους καταστάσεων, καταστάσεις έναρξης και στόχου και τελεστές μετάβασης κατάστασης
Διατύπωση προβλημάτων αναζήτησης παιχνιδιών
Ανάλυση ενός συνόλου δεδομένων που προσδιορίζει χαρακτηριστικά/χαρακτηριστικά και κλάσεις, προς την εφαρμογή ενός αλγορίθμου μηχανικής εκμάθησης
Σύγκριση αλγορίθμων αναζήτησης σε ένα σύνολο προβλημάτων
Αξιολόγηση αλγορίθμων κατασκευής δέντρων αποφάσεων
Περιγραφή ενός πεδίου χρησιμοποιώντας προτασιακή ή κατηγορηματική λογική και εξαγωγή των αντιστοίχων συμπερασμάτων
Κατασκευή μιας ευρετικής συνάρτησης για ένα πρόβλημα αναζήτησης

Γνωστικά Αντικείμενα της Θ.Ε.:

Data Structures, Algorithms and Databases (Δομές Δεδομένων, Αλγόριθμοι και Βάσεις Δεδομένων)
Data Science Fundamentals (Θεμελιώδη στοιχεία της Επιστήμης Δεδομένων)
Artificial Intelligence (Τεχνητή Νοημοσύνη)

Προαπαιτούμενα: Δεν υπάρχουν προαπαιτούμενα γι’ αυτή τη Θ.Ε.

Αξιολόγηση: Εκπόνηση πέντε (5) γραπτών εργασιών κατά τη διάρκεια του ακαδημαϊκού έτους, ο μέσος όρος των βαθμών των οποίων συμμετέχει στη διαμόρφωση του τελικού βαθμού της Θ.Ε. κατά 30%. Ο βαθμός των γραπτών εργασιών ενεργοποιείται μόνο με βαθμολογία ίσης ή άνω της βάσης (≥5) στις τελικές ή επαναληπτικές εξετάσεις.

Ο βαθμός των τελικών ή επαναληπτικών εξετάσεων συμμετέχει στη διαμόρφωση του τελικού βαθμού της Θ.Ε. κατά 70%.

DAMA60 Algorithmic Techniques and Systems for Data Science and Machine Learning

Κωδικός Θ.Ε.: DAMA60
Πιστωτικές Μονάδες ECTS: 30
Τύπος Θ.Ε.: Υποχρεωτική
Έτος που προσφέρεται: 2ο έτος
Γλώσσα διδασκαλίας: Αγγλική
Περίγραμμα ΘΕ

Γενική Περιγραφή της Θ.Ε.:

Οι φοιτητές θα αποκτήσουν ένα ισχυρό υπόβαθρο σχετικά με τις δομές δεδομένων, τις αλγοριθμικές πτυχές και τις υπολογιστικές απαιτήσεις των προσεγγίσεων εξόρυξης δεδομένων και μηχανικής μάθησης για την ανάλυση πολύ μεγάλων όγκων δεδομένων. Μεταξύ άλλων θεμάτων, η ενότητα θα δώσει έμφαση σε εργαλεία για την παραλληλοποίηση διαφορετικών αλγορίθμων μηχανικής μάθησης, όπως Hadoop και Map Reduce, Recommender Systems, Dimensionality Reduction, Finding Nearest Neighbors and Similar Set, Clustering, Link Analysis, Association Rules and Frequent Itemsets. Οι φοιτητές αναμένεται επίσης να βασιστούν στις βασικές δεξιότητες προγραμματισμού που απέκτησαν στα DAMA50 και DAMA51 και να βελτιώσουν την κατανόησή τους για το πώς να εφαρμόσουν αυτές τις δεξιότητες σε ένα έργο όπου θα τους ζητηθεί να εργαστούν σε πραγματικά σύνολα δεδομένων και υπολογιστική υποδομή μέσω R και/ ή Python και Azure ή/και KNIME.

Μαθησιακά Αποτελέσματα:

Καθορισμός της σημασίας των μεγάλων δεδομένων (Big Data) στις Εφαρμογές Μηχανικής Μάθησης
Προσδιορισμός των βασικών χαρακτηριστικών των μεγάλων δεδομένων
Σύγκριση των τεχνικών σειριακής και παράλληλης επεξεργασίας για την εξόρυξη δεδομένων
Ορισμός επεκτασιμότητας και ανοχής σφαλμάτων για αλγόριθμους μηχανικής εκμάθησης
Εφαρμογή εργαλείων διαχείρισης μεγάλων δεδομένων για την επίλυση προβλημάτων που παρουσιάζονται στην πραγματικότητα.
Προσδιορισμός του οικοσυστήματος των μεγάλων δεδομένων
Περιγραφή των πλεονεκτημάτων του Cloud Computing για εφαρμογές μεγάλων δεδομένων
Αναγνώριση της σημασίας των Κατανεμημένων Συστημάτων Αρχείων και του Map-Reduce
Δημιουργία παράλληλων αλγορίθμων για την εξόρυξη μεγάλου όγκου δεδομένων
Εφαρμογή της αναζήτησης ομοιότητας χρησιμοποιώντας το MinHashing και το Locality Sensitive Hashing
Περιγραφή της επεξεργασίας της ροής δεδομένων
Εφαρμογή εξειδικευμένων αλγορίθμων για την αντιμετώπιση δεδομένων ροής
Αναγνώριση της τεχνολογίας που βασίζεται στις αρχές της λειτουργίας της μηχανής αναζήτησης
Εξόρυξη συχνών στοιχειοσυνόλων μέσω του Apriori και των βελτιώσεων του
Περιγραφή των αλγορίθμων για ομαδοποίηση Μεγάλων Δεδομένων
Προσδιορισμός των βασικών προβλημάτων για την εξόρυξη δεδομένων από Εφαρμογές Ιστού
Περιγραφή των αλγορίθμων για την ανάλυση γραφημάτων κοινωνικών δικτύων
Εφαρμογή τεχνικών για τη λήψη των σημαντικών ιδιοτήτων μεγάλων συνόλων δεδομένων
Χρήση αλγορίθμων Μηχανικής Εκμάθησης για την εξόρυξη μεγάλων συνόλων δεδομένων

Γνωστικά Αντικείμενα της Θ.Ε.:

Machine Learning and Data Mining (Μηχανική μάθηση και εξόρυξη δεδομένων)
Big Data Analytics (Αναλυτική μεγάλων δεδομένων)
Distributed Learning (Κατανεμημένη μάθηση)

Προαπαιτούμενα: Δεν υπάρχουν προαπαιτούμενα γι’ αυτή τη Θ.Ε.

Ο βαθμός των τελικών ή επαναληπτικών εξετάσεων συμμετέχει στη διαμόρφωση του τελικού βαθμού της Θ.Ε. κατά 70%.

Μέθοδος Διδασκαλίας: Εξ αποστάσεως εκπαίδευση με διεξαγωγή Ομαδικών Συμβουλευτικών Συναντήσεων κατά τη διάρκεια του ακαδημαϊκού έτους σε Σαββατοκύριακα.

DAMA61 Numerical and Computational Techniques for Data Science and Machine Learning

Κωδικός Θ.Ε.: DAMA61
Πιστωτικές Μονάδες ECTS: 30
Τύπος Θ.Ε.: Υποχρεωτική
Έτος που προσφέρεται: 2ο έτος
Γλώσσα διδασκαλίας: Αγγλική
Περίγραμμα ΘΕ

Γενική Περιγραφή της Θ.Ε.: Οι φοιτητές θα είναι σε θέση να εφαρμόσουν βασικές μεθόδους μηχανικής μάθησης σε σημειωματάρια Jupyter, να χρησιμοποιούν TensorFlow και Keras, να γράφουν και να εκτελούν κώδικα python, να χρησιμοποιούν γραμμική και μη γραμμική παλινδρόμηση, να υποστηρίζουν διανυσματικές μηχανές, να εκτελούν τακτοποίηση μοντέλων, να εφαρμόζουν δέντρα αποφάσεων και μάθηση συνόλου με τη μορφή τυχαία δάση. Οι φοιτητές αναμένεται να γνωρίζουν πώς να εκτελούν μείωση διαστάσεων και να χρησιμοποιούν την ανάλυση των κύριων συστατικών. Η ενότητα θα επικεντρωθεί επίσης σε μεθόδους νευρωνικών δικτύων και σε βαθιά μάθηση, συμπεριλαμβανομένων πλήρως συνδεδεμένων δικτύων σε βάθος, συνελικτικών νευρωνικών δικτύων και αυτοκωδικοποιητών. Η χρήση επαναλαμβανόμενων νευρωνικών δικτύων, νευρωνικών δικτύων με βάση τη φυσική και περιορισμένων μηχανών Boltzmann ολοκληρώνει το υλικό της ενότητας. Το DAMA-61 βασίζεται σε μεγάλο βαθμό στο DAMA-50 και μετά την ολοκλήρωσή του οι μαθητές θα μπορούν να χρησιμοποιούν τα μαθηματικά εργαλεία που αποκτήθηκαν στο τελευταίο σε προβλήματα δεδομένων πραγματικού κόσμου.

Μαθησιακά Αποτελέσματα:

Εκτέλεση σημειωματάριων Jupyter με διαδικασίες μηχανικής μάθησης
Εφαρμογή TensorFlow και Keras
Ορισμός μεταβλητών Γραμμικής ή/και μη γραμμικής παλινδρόμησης σε λειτουργία εποπτευόμενης μάθησης
Εφαρμογή μηχανών υποστήριξης διανυσμάτων για ταξινόμηση δεδομένων
Προσδιορισμός των οριών λήψης αποφάσεων
Δημιουργία δέντρων αποφάσεων και τυχαίων δασών (random forests)
Εκτέλεση Lasso και εναλλακτικών ρυθμίσεων
Εκτελέση ανάλυσης διαστάσεων καθώς και ανάλυση κύριων εξαρτημάτων
Χρήση του TensorFlow/Kera για την ανάπτυξη πλήρως συνδεδεμένων νευρωνικών δικτύων
Εφαρμογή τεχνικών βαθιάς μάθησης (Deep Learning) και έλεγχο υπερπαραμέτρων
Εκτέλεση κώδικα για επαναλαμβανόμενα νευρωνικά δίκτυα
Εφαρμογή συνελικτικών νευρωνικών δικτύων σε συγκεκριμένα σύνολα δεδομένων
Εφαρμογή εκμάθησης χωρίς επίβλεψη με την εφαρμογή αυτόματων κωδικοποιητών
Εφαρμογή ενισχυτικής μάθησης και μηχανικής μάθησης με βάση τη φυσική
Περιγραφή των περιορισμένων μηχανών Boltzmann