Η αξιοποίηση εργαλείων τεχνητής νοημοσύνης για την δημιουργία ρατσιστικών βίντεο ευρωπαϊκών πόλεων
Τι έχει συμβεί
Τα πρόσφατα γεγονότα δείχνουν ότι εργαλεία γενετικής τεχνητής νοημοσύνης (generative AI) χρησιμοποιούνται για τη δημιουργία βίντεο που αναπαριστούν ευρωπαϊκές πόλεις σε «δημογραφική κάθοδο» ή «μεταβολή», και τα οποία προωθούν ρατσιστικά αφηγήματα.
Για παράδειγμα, ένα βίντεο για το Λονδίνο (London) παρουσιάζει το Big Ben να καπνίζει πάνω από σκουπίδια, πλήθος ανθρώπων ντυμένων παραδοσιακά–ισλαμικά και συνθήκες χάους.
Οι εν λόγω εικόνες μεταφέρονται ως «προφητικές» ή «κλειδιά για το μέλλον» και ενισχύουν θεωρίες όπως η «μεγάλη αντικατάσταση» (great replacement) που υποστηρίζουν ότι οι μετανάστες «αντικαθιστούν» τις λευκές ευρωπαϊκές κοινότητες.
Πώς λειτουργεί η εκμετάλλευση των AI εργαλείων
Τα βασικά στοιχεία
- Τα εργαλεία γενετικής AI επιτρέπουν τη γρήγορη παραγωγή εικόνων ή βίντεο με απλό prompt (π.χ. «Λονδίνο το 2050»).
- Παρά τα τεχνικά εμπόδια ή «φρουρές» (guardrails) που έχουν οι περισσότερες πλατφόρμες, κακοποιοί χρήστες βρίσκουν τρόπους να τα παρακάμψουν ή να τα εκμεταλλευτούν.
- Οι δημιουργοί τέτοιων βίντεο χτίζουν μηνύματα που ενισχύουν φόβους, ξενοφοβία και ρατσιστικά στερεότυπα, μέσω εντυπωσιακών οπτικών μεταμορφώσεων πόλεων.
- Τα μέσα κοινωνικής δικτύωσης διαδραματίζουν καθοριστικό ρόλο: τα βίντεο αναρτώνται, κοινοποιούνται μαζικά, και αποκτούν εκατοντάδες χιλιάδες έως εκατομμύρια προβολές.
Παραδείγματα
- Ο Tommy Robinson (βρετανός ακροδεξιός) ανάρτησε βίντεο «London in 2050» το οποίο έσπασε το μισό εκατομμύριο προβολές. (France 24)
- Στην Ιταλία, η Silvia Sardone του κόμματος Lega δημοσίευσε βίντεο με δυστοπική εκδοχή του Μιλάνο, θέτοντας προειδοποιητικά το ερώτημα «Θέλουμε αυτό το μέλλον;».
- Στην Ολλανδία, το κόμμα του Geert Wilders παρουσίασε βίντεο «Netherlands in 2050» με γυναίκες φορώντας μαντήλες ισχυριζόμενο ότι το Ισλάμ θα είναι η κυρίαρχη θρησκεία.
Γιατί είναι επικίνδυνο
- Διασπορά μίσους και ρατσισμού
Τα βίντεο αυτά ενισχύουν στερεοτυπικές και αρνητικές εικόνες για τους μετανάστες και τις μειονότητες, πράγμα που «μπορεί να τροφοδοτήσει βία». - Υπονόμευση της πραγματικότητας
Τα εργαλεία AI παρουσιάζουν αυτήν την αλλοιωμένη εικόνα ως πιθανό μέλλον ή ως «αντικειμενική» πρόβλεψη, ενισχύοντας θεωρίες συνωμοσίας όπως η «μεγάλη αντικατάσταση». - Ανεπαρκής εποπτεία
Οι πλατφόρμες κοινωνικής δικτύωσης και τα εργαλεία AI δεν έχουν απόλυτα αξιόπιστες φρουρές: «Τα συστήματα εποπτείας αποτυγχάνουν διαρκώς στο να αποτρέψουν τη δημιουργία και κοινοποίηση αυτού του περιεχομένου». - Εκμετάλλευση της τεχνολογίας
Η δημιουργία τέτοιου περιεχομένου μπορεί να είναι οικονομικά αποδοτική για τους δημιουργούς: «Το μίσος είναι πολύ κερδοφόρο» σύμφωνα με ερευνητές.
Τι πρέπει να γίνει
Α. Από πλευράς τεχνολογίας & ρυθμιστικών
- Να ενισχυθούν τα συστήματα ανίχνευσης και φιλτραρίσματος περιεχομένου σε εργαλεία AI που παράγουν εικόνες/βίντεο.
- Να εφαρμοστούν νομοθετικές και ρυθμιστικές παρεμβάσεις για την υποχρεωτική σήμανση («watermarking») γενετικών AI βίντεο.
- Να ενισχυθεί η διαφάνεια των αλγορίθμων και των πολιτικών των πλατφορμών όσον αφορά τη διαχείριση ριζοσπαστικού και ρατσιστικού περιεχομένου.
Β. Από πλευράς πολιτικής και κοινωνίας
- Οι αρχές να παρακολουθούν και να απαντούν σε περιπτώσεις όπου AI-βίντεο χρησιμοποιούνται για ρατσιστική προπαγάνδα.
- Να ενισχυθεί η εκπαίδευση του κοινού σχετικά με την αναγνώριση και την κριτική αξιολόγηση συνθετικού περιεχομένου (media literacy).
- Οι πλατφόρμες να συνεργάζονται με οργανισμούς fact-checking και κοινωνικής ευθύνης για τη γρήγορη απομάκρυνση κακόβουλου περιεχομένου.
Γ. Από πλευράς ερευνητικής κοινότητας
- Να συνεχιστεί η μελέτη για το πώς γενετική AI χρησιμοποιείται από ακροδεξιές ομάδες και οργανώσεις μίσους.
- Να αναπτυχθούν μεθοδολογίες που εντοπίζουν και αποδεικνύουν την τεχνητή προέλευση εικόνων/βίντεο.
Συμπέρασμα
Η χρήση εργαλείων γενετικής AI για τη δημιουργία δυστοπικών, ρατσιστικών απεικονίσεων ευρωπαϊκών πόλεων αποτελεί μια μείζονα πρόκληση για τη δημοκρατία, την κοινωνική συνοχή και την αξιοπιστία των πληροφοριών. Αν δεν αντιμετωπιστεί έγκαιρα με συνδυασμό τεχνολογικών, ρυθμιστικών και εκπαιδευτικών μέτρων, υπάρχει σοβαρός κίνδυνος αυτά τα εργαλεία να γίνουν όχημα μαζικής ριζοσπαστικοποίησης και διασποράς μίσους.
