Εκδήλωση - Unveiling Bias in AI

Το Γραφείο Ισότητας της Σχολής Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών, με την υποστήριξη του Εργαστηρίου Συστημάτων Αποφάσεων και Διοίκησης και του δικτύου G-WISE (Greece – Women in STEM & Entrepreneurship), διοργανώνει την Τετάρτη 22/05/2024, 15.00 – 17.00, στην Αίθουσα 3 – Νέα κτίρια ΣΗΜΜΥ ΕΜΠ, εκδήλωση με τίτλο:

«Unveiling Bias in Artificial Intelligence (AI)»

 

Η Τεχνητή Νοημοσύνη (AI) είναι μια ισχυρή τεχνολογία που χρησιμοποιείται σε διάφορες πτυχές της ζωής μας. Ωστόσο, υπάρχει μια αυξανόμενη ανησυχία σχετικά με τις πιθανές προκαταλήψεις (bias) στα συστήματα AI. Με τον όρο προκατάληψη εννοείται ότι η τεχνητή νοημοσύνη μπορεί να λάβει άδικες αποφάσεις ή να ευνοήσει ορισμένες ομάδες ανθρώπων, έχοντας έτσι αρνητικές συνέπειες και διαιωνίζοντας ανισότητες.

Σύμφωνα με το παραπάνω πλαίσιο, κύριος στόχος της εκδήλωσης είναι να παρουσιαστούν τα ακόλουθα:

  • Υπάρχει προκατάληψη, ή/και δικαιοσύνη στα συστήματα και τις εφαρμογές που βασίζονται στην τεχνητή νοημοσύνη;
  • Υπάρχουν τρόποι αντιμετώπισης των προκαταλήψεων στην τεχνητή νοημοσύνη;

Agenda

Ενότητα Α – Καλωσόρισμα

15.00 – 15.15

Καλωσόρισμα

Ενότητα Β – Εισηγήσεις

15.15 – 15.40

Γεωργία (Γιούλη) Κούτρικα, ΕΚ ΑΘΗΝΑ - Fairness in AI-driven Algorithmic Systems: a Reality or a Fantasy?

15.40 – 16.05

Ελευθερία Πολυχρονίδου, Causaly - Exploring Bias in the Design of AI Applications

16.05 – 16.30

Ευάγγελος Καρακόλης, ΣΗΜΜΥ ΕΜΠ - Identifying and addressing bias in recommender systems

Ενότητα Γ – Συζήτηση

16.30 – 17.00

Συζήτηση - Ερωτήσεις

17.00

Λήξη Εκδήλωσης

 

Λίγα λόγια για τους ομιλητές...

 

georgia

Η Γεωργία Κούτρικα είναι Διευθύντρια Ερευνών στο Ερευνητικό Κέντρο Αθηνά στην Ελλάδα. Έχει εργαστεί στα HP Labs και στην IBM Almaden. Ήταν μεταδιδακτορική ερευνήτρια στο Πανεπιστήμιο του Στάνφορντ και απέκτησε Ph.D. στην Επιστήμη Υπολογιστών από το Εθνικό και Καποδιστριακό Πανεπιστήμιο Αθηνών, στην Ελλάδα. Η έρευνά της αναδύεται στη διασταύρωση της διαχείρισης δεδομένων και της βαθιάς μάθησης, εστιάζοντας στην εξερεύνηση δεδομένων συνομιλίας, τη δικαιοσύνη και τη διαχείριση μαθησιακών δεδομένων. Η δουλειά της έχει ενσωματωθεί σε εμπορικά προϊόντα, έχει περιγραφεί σε 19 διπλώματα ευρεσιτεχνίας και 26 αιτήσεις για διπλώματα ευρεσιτεχνίας στις ΗΠΑ και παγκοσμίως και έχει δημοσιευτεί σε κορυφαία συνέδρια και περιοδικά. Είναι μέλος του VLDB Endowment Board of Trustees, coordinating EiC για το VLDB Journal και πρόεδρος της Ομάδας Εργασίας ACM Europe για Εποχιακά Σχολεία. Ήταν PC co-chair για το VLDB 2023, co-EiC of Proceedings of the VLDB (PVLDB) Vol 16, γενική πρόεδρος για το ACM SIGMOD 2016 και μέλος της συμβουλευτικής επιτροπής PVLDB. Έχει λάβει το EDBT 2023 Test-of-Time Award, 2 βραβεία καλύτερου demo και αρκετές βιομηχανικές αναγνωρίσεις.

 

Polyxronidou

Η Ελευθερία έχει υπόβαθρο στην μηχανική και τις βιοϊατρικές επιστήμες. Η καριέρα της ξεκίνησε με το Δίπλωμα Μηχανικού Παραγωγής και Διοίκησης από το Δημοκρίτειο Πανεπιστήμιο Θράκης, όπου ειδικεύτηκε στη μοντελοποίηση της απόδοσης θερμικών υλικών σε κινητήρες τρένων, συνεργαζόμενη με το École Nationale d’Ingénieurs de Tarbes – ENIT και την ALSTOM. Στη συνέχεια απέκτησε Μεταπτυχιακό Δίπλωμα ειδίκευσης στον Σχεδιασμό Βιώσιμων Κτιρίων με επίκεντρο τον σχεδιασμό κτιρίων μηδενικής ενέργειας. Η ενασχόληση με τις βιοϊατρικές επιστήμες ξεκίνησε το 2012, όπου πραγματοποίησε ανεξάρτητη έρευνα προτού ενταχθεί στο δίκτυο Marie Curie ITN όπου ασχολήθηκε με την εξόρυξη βιοϊατρικού κειμένου και τον σχεδιασμό βάσεων βιοϊατρικών δεδομένων στο Ίδρυμα Ιατροβιολογικών Ερευνών, Ακαδημίας Αθηνών. Η καριέρα της αναπτύχθηκε περαιτέρω στο Ινστιτούτο Πληροφορικής και Τηλεματικής (ΙΠΤΗΛ) ΕΚΕΤΑ, όπου εργάστηκε ως Data Scientist και αργότερα ως Technical Program Manager, διαχειρίζοντας έργα της ΕΕ (Horizon) που σχετίζονται με βιοϊατρικές εφαρμογές για χρόνιες ασθένειες. Παράλληλα, ολοκλήρωσε το διδακτορικό της στις εφαρμοσμένες βιοϊατρικές εφαρμογές στο Ιόνιο Πανεπιστήμιο. Επί του παρόντος, η Ελευθερία εργάζεται στην εταιρεία Causaly - την πρώτη GenAI πλατφόρμα για επιστημονικές διερευνήσεις και αυτοματοποίηση γνώσης, όπου εφαρμόζει τις γνώσεις της ως Biomedical Data Scientist and Architect, ειδικεύοντας στις εφαρμογές Επεξεργασίας Φυσικής Γλώσσας (NLP).

 

 

Ο κ. Ευάγγελος Καρακόλης είναι ερευνητής μηχανικός λογισμικού με εξειδίκευση στην τεχνητή  νοημοσύνη, τα μεγάλα δεδομένα και τα συστήματα συστάσεων. Είναι διδάκτορας του  Εργαστηρίου Συστημάτων Αποφάσεων της σχολής Η.Μ.Μ.Υ. του Ε.Μ.Π. ενώ κατέχει ένα  μεταπτυχιακό τίτλο στην επιστήμη των δεδομένων από το Ο.Π.Α. (M.Sc. in Data Science - AUEB) και έναν μεταπτυχιακό τίτλο στα Τεχνοοικονομικά Συστήματα από το Ε.Μ.Π. (MBA) και  είναι απόφοιτος της σχολής Η.Μ.Μ.Υ. του Ε.Μ.Π.. Έχει εργαστεί σε περισσότερα από 10  ευρωπαϊκά και ελληνικά ερευνητικά έργα με αντικείμενο την ανάπτυξη λογισμικού μεγάλων  δεδομένων και την ανάπτυξη εφαρμογών τεχνητής νοημοσύνης ως μηχανικός λογισμικού, ενώ  ήταν επικεφαλής ανάπτυξης (lead engineer) σε μερικά από αυτά. Στο παρελθόν, έχει εργαστεί  ως μηχανικός λογισμικού τόσο στον ιδιωτικό όσο και στο δημόσιο τομέα. Τέλος, η έρευνα του  περιλαμβάνει περισσότερες από 30 δημοσιεύσεις σε διεθνή επιστημονικά περιοδικά και  συνέδρια, που αφορούν τα συστήματα συστάσεων, την ανάλυση δεδομένων, την τεχνητή  νοημοσύνη, τα μεγάλα δεδομένα, την ανάπτυξη λογισμικού, καθώς επίσης και την ηθική και τη δικαιοσύνη σε συστήματα τεχνητής νοημοσύνης.