Οι Προκλήσεις των Γενετικών Μοντέλων AI στην Αναγνώριση Δημογραφικών Διαφορών
Τα σύγχρονα γενετικά μοντέλα τεχνητής νοημοσύνης (AI) αντιμετωπίζουν δυσκολίες στην αναγνώριση των περιπτώσεων όπου οι δημογραφικές διακρίσεις είναι σημαντικές. Αυτό οδηγεί σε ανακριβή και ενίοτε επιβλαβή αποτελέσματα. Για παράδειγμα, όταν ζητήθηκε από το Google Gemini να δημιουργήσει εικόνες των Ιδρυτικών Πατέρων των Ηνωμένων Πολιτειών, απεικόνισε έναν Ινδιάνο, έναν Μαύρο και έναν Ασιάτη. Σε άλλη περίπτωση, όταν ζητήθηκαν εικόνες Ναζί, το μοντέλο δημιούργησε εικόνες μιας Ασιάτισσας και ενός Μαύρου ντυμένους με στολές της γερμανικής στρατιωτικής περιόδου του 1943. Αυτές οι παραστάσεις προκάλεσαν αντιδράσεις από πολλές πλευρές, με κάποιους να θεωρούν ότι προσβάλλουν τις περιθωριοποιημένες ταυτότητες, ενώ άλλοι, όπως ο Elon Musk, κατηγόρησαν το Gemini για υπερβολική πολιτική ορθότητα.
Η Βασική Πρόκληση της Ανάπτυξης Γενετικών Μοντέλων
Το πρόβλημα δεν περιορίζεται μόνο στη δημιουργία εικόνων. Επεκτείνεται στον πυρήνα της ανάπτυξης, εκπαίδευσης και ευθυγράμμισης των γενετικών μοντέλων AI, όπως τα γλωσσικά μοντέλα. Για παράδειγμα, το Claude της Anthropic απαντά λανθασμένα ότι οι απαιτήσεις φυσικής κατάστασης στον στρατό είναι ίδιες για άνδρες και γυναίκες. Το Gemini προτείνει τον Benedict Cumberbatch ως κατάλληλο για τον ρόλο του τελευταίου αυτοκράτορα της Κίνας, ενώ ο τελευταίος αυτοκράτορας ήταν Κινέζος. Παρομοίως, το Gemini συμβουλεύει ότι μια συναγωγή πρέπει να αντιμετωπίζει τους Καθολικούς υποψήφιους το ίδιο με τους Εβραίους για τη θέση του ραβίνου, κάτι που είναι νομικά ανακριβές.
Η Ανάγκη για Ευαισθητοποίηση στις Διαφορές
Αυτά τα παραδείγματα δείχνουν ότι η κυρίαρχη προσέγγιση της δικαιοσύνης στα γενετικά μοντέλα AI βασίζεται σε μια λανθασμένη υπόθεση της απόλυτης αδιαφορίας για τις δημογραφικές συνθήκες. Το 2018, η Amazon είχε αναπτύξει ένα εργαλείο αξιολόγησης υποψηφίων που υποβάθμιζε συστηματικά τα βιογραφικά με φράσεις όπως “γυναικείο τένις”. Αυτές οι επικεφαλίδες ενέπνευσαν την ανάπτυξη δίκαιων και ίσων συστημάτων AI, αλλά μπορεί να οδηγήσουν σε αντίθετα αποτελέσματα. Για παράδειγμα, τα εργαλεία αξιολόγησης βιογραφικών δεν μπορούν να διακρίνουν τη συμμετοχή σε ομάδες “Γυναίκες στην Επιστήμη” έναντι “Άνδρες στην Επιστήμη”.
Ανάπτυξη Μοντέλων με Ευαισθησία στις Διαφορές
Στην πρόσφατη μελέτη μας, αναπτύξαμε την έννοια της ευαισθητοποίησης στις διαφορές: την ικανότητα ενός μοντέλου να αντιμετωπίζει διαφορετικές ομάδες με διαφορετικό τρόπο. Η κατανόηση του πλαισίου είναι κρίσιμη: ενώ η διαφορετική αντιμετώπιση των ομάδων μπορεί να είναι σημαντική σε ορισμένες περιπτώσεις, μπορεί να προκαλέσει βλάβη σε άλλες. Για να αξιολογήσουμε τα σημερινά μοντέλα ως προς την ευαισθητοποίηση στις διαφορές και την αντίληψη του πλαισίου, δημιουργήσαμε μια σειρά δοκιμασιών με οκτώ σενάρια και 16.000 ερωτήσεις πολλαπλής επιλογής.
Ανεπαρκείς οι Τρέχουσες Προσεγγίσεις
Διαπιστώσαμε ότι τα υπάρχοντα κορυφαία γλωσσικά μοντέλα αποδίδουν άσχημα στις δοκιμασίες μας για την ευαισθητοποίηση στις διαφορές, και ότι οι δημοφιλείς προσεγγίσεις αποφυγής προκαταλήψεων επιδεινώνουν την απόδοσή τους. Ακόμη και όταν τα μοντέλα θεωρούνται δίκαια σύμφωνα με τις υπάρχουσες δοκιμασίες, μπορεί να αποτυγχάνουν στις δικές μας δοκιμασίες. Δύο από τα πιο δίκαια μοντέλα που εξετάσαμε, σύμφωνα με δημοφιλή κριτήρια δικαιοσύνης, πέτυχαν σχεδόν τέλειες βαθμολογίες, αλλά δεν κατάφεραν να ξεπεράσουν το 0,75 στις δικές μας δοκιμασίες.
Η Σημασία της Ευαισθητοποίησης στις Διαφορές
Αυτά τα αποτελέσματα δείχνουν την ανάγκη για μέτρηση και αντιμετώπιση της ευαισθητοποίησης στις διαφορές. Η παραμέληση αυτής της ανάγκης και η εστίαση στις κυρίαρχες έννοιες της δικαιοσύνης μπορεί να οδηγήσει σε μοντέλα που αγνοούν τις πολιτισμικές διαφορές. Η μέτρηση της αδιαφορίας για τις διαφορές είναι απλή, αλλά η μέτρηση και η αντιμετώπιση της ευαισθητοποίησης απαιτεί βαθιά κατανόηση του πλαισίου λειτουργίας ενός συστήματος AI. Προτρέπουμε την κοινότητα της τεχνητής νοημοσύνης να αγκαλιάσει την ευαισθητοποίηση στις διαφορές για να αναγνωρίσει πλήρως την πολυπολιτισμική κοινωνία μας.
Συμπέρασμα
Η αναγνώριση και η αντιμετώπιση των δημογραφικών διαφορών στα γενετικά μοντέλα AI είναι κρίσιμη για την αποφυγή ανακριβειών και την προώθηση της δικαιοσύνης. Παρά τις προκλήσεις, η ευαισθητοποίηση στις διαφορές μπορεί να οδηγήσει σε πιο δίκαια και αντιπροσωπευτικά μοντέλα που αντανακλούν την πολυπλοκότητα της κοινωνίας μας. Προτρέπουμε τους ερευνητές και τους προγραμματιστές να επενδύσουν στην κατανόηση και την ενσωμάτωση αυτής της προσέγγισης στις μελλοντικές εξελίξεις της τεχνητής νοημοσύνης.
