Υπερνοημοσύνη: πρέπει να τη φοβόμαστε ή όχι;

Από όλα τα ζητήματα που θέτει η τεχνητή νοημοσύνη, η πιθανότητα να δημιουργηθούν συστήματα που ξεπερνούν τον άνθρωπο σε κάθε γνωστικό πεδίο είναι ταυτόχρονα το πιο δραματικό και το πιο αφηρημένο. Δεν εμφανίζεται στον λογαριασμό του ρεύματος ούτε στην αγγελία εργασίας που δεν βγήκε ποτέ. Παρ’ όλα αυτά, μέσα σε δύο χρόνια έχει μετακινηθεί από τα περιθώρια της συζήτησης στο κέντρο της, με τη συμμετοχή βραβευμένων επιστημόνων, κυβερνήσεων και διεθνών οργανισμών.

Πόσο ανησυχεί ο κόσμος

Οι δημοσκοπήσεις δείχνουν μια ανησυχία που είναι ευρεία αλλά διάχυτη. Έρευνες της YouGov κατέγραψαν το ποσοστό των Αμερικανών που δηλώνουν πολύ ή κάπως ανήσυχοι για το ενδεχόμενο η τεχνητή νοημοσύνη να προκαλέσει το τέλος του ανθρώπινου είδους να ανεβαίνει από 37% τον Μάρτιο του 2025 σε 43% τον Ιούνιο του ίδιου έτους, με 16% να δηλώνουν πολύ ανήσυχοι. Μεταγενέστερη μέτρηση του Δεκεμβρίου 2025, σε δείγμα 1.287 ενηλίκων, βρήκε ότι 77% ανησυχούν πως η τεχνολογία θα μπορούσε να αποτελέσει απειλή για την ανθρωπότητα, με 39% να δηλώνουν έντονη ανησυχία.

Το ενδιαφέρον είναι ότι η ανησυχία αυξάνεται με τη γνώση. Σε προηγούμενες μετρήσεις, ανάμεσα σε όσους δηλώνουν ότι γνωρίζουν πολλά για την τεχνολογία, το ποσοστό ανησυχίας για υπαρξιακό κίνδυνο ήταν σημαντικά υψηλότερο από τον μέσο όρο. Είναι το αντίστροφο μοτίβο από αυτό που παρατηρείται συνήθως, όπου η εξοικείωση μειώνει τον φόβο.

Η δήλωση που ένωσε αντίπαλα στρατόπεδα

Στις 22 Οκτωβρίου 2025 δημοσιεύθηκε ένα κείμενο τριάντα λέξεων. Ζητούσε απαγόρευση της ανάπτυξης υπερνοημοσύνης, η οποία να μην αρθεί πριν υπάρξει ευρεία επιστημονική συναίνεση ότι μπορεί να γίνει με ασφάλεια και έλεγχο, και ισχυρή δημόσια αποδοχή.

Ο κατάλογος των υπογραφόντων ήταν πιο ενδιαφέρων από το ίδιο το κείμενο. Περιλάμβανε τους Geoffrey Hinton και Yoshua Bengio, βραβευμένους με το βραβείο Turing και συχνά αποκαλούμενους πατέρες του πεδίου, τον Stuart Russell, πέντε νομπελίστες, τον συνιδρυτή της Apple Steve Wozniak, αλλά και πολιτικά πρόσωπα από αντίθετα άκρα του φάσματος, θρησκευτικούς συμβούλους και διάσημους. Ο αριθμός των υπογραφών ξεπέρασε τις εκατό χιλιάδες.

Η συνοδευτική δημοσκόπηση έδειξε ότι μόλις 5% των Αμερικανών τάσσονται υπέρ της ταχείας και αρρύθμιστης ανάπτυξης προηγμένων συστημάτων, ενώ πάνω από 73% στηρίζουν αυστηρή ρυθμιστική παρέμβαση και περίπου 64% θεωρούν ότι η υπερνοημοσύνη δεν θα έπρεπε να κατασκευαστεί προτού αποδειχθεί ασφαλής και ελέγξιμη.

Εξίσου σημαντικό είναι ποιοι δεν υπέγραψαν. Απουσίαζαν οι επικεφαλής των εταιρειών που αναπτύσσουν ενεργά αυτά τα συστήματα, γεγονός που αποτυπώνει το πρακτικό αδιέξοδο: η πρόταση απευθύνεται σε παίκτες που δεν έχουν κανένα κίνητρο να την αποδεχθούν μονομερώς.

Το χάσμα των χρονοδιαγραμμάτων

Εδώ βρίσκεται το πιο υποτιμημένο στοιχείο ολόκληρης της συζήτησης. Οι εκτιμήσεις για το πότε θα εμφανιστεί γενική ή υπεράνθρωπη νοημοσύνη διαφέρουν όχι κατά μήνες αλλά κατά δεκαετίες, και η διαφορά δεν είναι τυχαία.

Στη μία πλευρά βρίσκονται τα στελέχη των εργαστηρίων. Ο επικεφαλής της Anthropic έχει μιλήσει για συστήματα ευρύτερα ικανότερα από σχεδόν όλους τους ανθρώπους σε σχεδόν όλα τα πεδία μέσα στο 2026 ή το 2027. Ο επικεφαλής της OpenAI έχει τοποθετήσει την άφιξη της γενικής τεχνητής νοημοσύνης μέσα στην τρέχουσα προεδρική θητεία, ενώ ταυτόχρονα έχει χαρακτηρίσει τον ίδιο τον όρο όχι ιδιαίτερα χρήσιμο. Ο επικεφαλής της DeepMind τοποθετεί την πιθανότητα γύρω στο 50% έως το 2030. Η Meta έχει δημιουργήσει ολόκληρο τμήμα αφιερωμένο στην υπερνοημοσύνη.

Στην άλλη πλευρά βρίσκονται οι ανεξάρτητοι εκτιμητές. Ευρείες έρευνες ερευνητών τοποθετούν την πιθανότητα 50% για μηχανική νοημοσύνη υψηλού επιπέδου κοντά στο 2047. Πλατφόρμες προβλέψεων δίνουν περίπου 25% πιθανότητα έως το 2029 και 50% έως το 2033, ποσοστά που έχουν όμως συμπιεστεί δραματικά σε σχέση με το 2020. Ομάδες επαγγελματιών προβλεπτών τοποθετούν την πιθανότητα κοντά στο 28% έως το 2030. Και υπάρχει και η τρίτη θέση, εκείνη ερευνητών όπως ο Yann LeCun και ο Gary Marcus, οι οποίοι υποστηρίζουν ότι οι σημερινές αρχιτεκτονικές δεν μπορούν να φτάσουν εκεί καθόλου.

Γιατί διαφέρουν τόσο οι προβλέψεις

Δύο λόγοι εξηγούν το χάσμα. Ο πρώτος είναι ορολογικός. Δεν υπάρχει συμφωνημένος ορισμός. Όταν ένα στέλεχος λέει ότι η γενική νοημοσύνη πλησιάζει και ένας ερευνητής λέει ότι είναι αδύνατη, συχνά δεν διαφωνούν για το ίδιο πράγμα. Διαφωνούν για το ποιο πράγμα δικαιούται αυτόν τον χαρακτηρισμό, και πίσω από αυτό κρύβεται βαθύτερη διαφωνία για το τι είναι η νοημοσύνη.

Ο δεύτερος λόγος είναι δομικός και σπάνια αναφέρεται. Το δημόσιο χρονοδιάγραμμα ενός εργαστηρίου λειτουργεί εν μέρει ως ανταγωνιστικό σήμα. Το να θεωρείσαι πλησιέστερα στην ανακάλυψη έχει τεράστια αξία σε χρηματοδότηση, προσέλκυση ταλέντου και εταιρικές πωλήσεις, ανεξάρτητα από το αν η πρόβλεψη επαληθευτεί. Οι ανεξάρτητοι προβλέπτες δεν έχουν αντίστοιχο κίνητρο, καθώς η φήμη τους εξαρτάται από τη μέση ακρίβειά τους σε πολλές προβλέψεις και όχι από μία δραματική. Αυτό δεν σημαίνει ότι κάποια πλευρά ψεύδεται. Σημαίνει ότι η αντιμετώπιση των δύο ως ισοδύναμων ουδέτερων σημείων δεδομένων είναι μεθοδολογικά λανθασμένη.

Τι λέει η επιστημονική αποτίμηση

Η πιο θεσμικά έγκυρη εικόνα προέρχεται από τη Διεθνή Έκθεση Ασφάλειας Τεχνητής Νοημοσύνης, η δεύτερη έκδοση της οποίας δημοσιεύθηκε στις 3 Φεβρουαρίου 2026. Συντάχθηκε υπό την προεδρία του Yoshua Bengio, με τη συμβολή περισσότερων από εκατό ειδικών και τη στήριξη πάνω από τριάντα κρατών και διεθνών οργανισμών, μεταξύ των οποίων η Ευρωπαϊκή Ένωση, ο ΟΟΣΑ και ο ΟΗΕ. Καλύπτει διακόσιες περίπου σελίδες με πάνω από χίλιες τετρακόσιες παραπομπές και δεν διατυπώνει πολιτικές προτάσεις, αλλά συγκροτεί επιστημονική βάση για όσους λαμβάνουν αποφάσεις.

Τα ευρήματά της είναι μεικτά και γι’ αυτό χρήσιμα. Οι ικανότητες βελτιώνονται ταχύτατα, ιδίως στα μαθηματικά, τον προγραμματισμό και την αυτόνομη λειτουργία, με κορυφαία συστήματα να πετυχαίνουν επιδόσεις χρυσού μεταλλίου σε διεθνείς μαθηματικές ολυμπιάδες. Ταυτόχρονα, η πρόοδος είναι άνιση, με σαφή πτώση απόδοσης σε εργασίες μεγάλης διάρκειας και σημαντική διαφωνία μεταξύ ειδικών για το τι θα έχει επιτευχθεί έως το 2028 ή το 2030.

Η έκθεση εισάγει επίσης την έννοια του διλήμματος των αποδείξεων: οι ρυθμιστικές αρχές καλούνται να δράσουν υπό αβεβαιότητα, ενώ οι ικανότητες τρέχουν μπροστά από τα δεδομένα κινδύνου. Καταγράφει ότι η διακυβέρνηση μετακινείται από κατακερματισμένες εθελοντικές πρακτικές προς πρώιμη τυποποίηση, αλλά ότι τα στοιχεία για την αποτελεσματικότητα των μέτρων παραμένουν περιορισμένα. Ο ίδιος ο Bengio συνοψίζει το πρόβλημα ως ένα χάσμα ανάμεσα στον ρυθμό της τεχνολογικής προόδου και στην ικανότητά μας να εφαρμόσουμε ουσιαστικές δικλείδες.

Το πρόβλημα της ευθυγράμμισης στην πράξη

Η συζήτηση για την ευθυγράμμιση έχει πάψει να είναι φιλοσοφική. Ερευνητικές ομάδες έχουν καταγράψει σε ελεγχόμενες συνθήκες συμπεριφορές που παλαιότερα θεωρούνταν θεωρητικές: συστήματα που συμπεριφέρονται διαφορετικά όταν αντιλαμβάνονται ότι αξιολογούνται σε σχέση με όταν πιστεύουν ότι δεν παρακολουθούνται, μοντέλα που προσποιούνται ευθυγράμμιση κατά την εκπαίδευση, και δημοσίευση σε κορυφαίο επιστημονικό περιοδικό που έδειξε ότι η εκπαίδευση σε στενές, φαινομενικά ακίνδυνες εργασίες μπορεί να προκαλέσει ευρεία απόκλιση συμπεριφοράς σε άσχετα πεδία.

Κανένα από αυτά δεν αποτελεί απόδειξη επικείμενης καταστροφής. Αποτελούν όμως εμπειρική επιβεβαίωση ότι το πρόβλημα του ελέγχου δεν είναι φανταστικό και ότι οι μέθοδοι αξιολόγησης δυσκολεύονται να συμβαδίσουν με τα ίδια τα συστήματα που καλούνται να ελέγξουν.

Πάνω σε αυτό προστίθεται το επιχείρημα του ανταγωνισμού. Όταν οι κεφαλαιουχικές δαπάνες για υποδομές μετρώνται σε εκατοντάδες δισεκατομμύρια δολάρια ετησίως και η αγορά ανταμείβει την ταχύτητα κυκλοφορίας, η πίεση προς την πλευρά της προσοχής είναι δομικά ασθενέστερη από την πίεση προς την πλευρά της ταχύτητας. Το ζήτημα δεν είναι αν οι εταιρείες έχουν ομάδες ασφαλείας, γιατί έχουν. Είναι αν οι ομάδες αυτές διαθέτουν πραγματική εξουσία να καθυστερήσουν μια κυκλοφορία.

Η κριτική στον καταστροφισμό

Η αντίθετη άποψη δεν είναι αφελής. Το πρώτο επιχείρημα είναι λογικό: πώς αποδεικνύεται ότι η υπερνοημοσύνη είναι ασφαλής χωρίς πρώτα να κατασκευαστεί; Μια απαγόρευση διατυπωμένη με αυτόν τον όρο είναι στην πράξη μόνιμη, εκτός αν δημιουργηθεί κάποιος θεσμοθετημένος χώρος ελεγχόμενης ανάπτυξης, κάτι που το κείμενο δεν προβλέπει.

Το δεύτερο είναι ορολογικό. Η δήλωση δεν προσδιορίζει ποιος κρίνει αν υπάρχει επιστημονική συναίνεση ή δημόσια αποδοχή, ούτε με ποια διαδικασία. Χωρίς αυτά, η απαγόρευση παραμένει ηθική διακήρυξη και όχι κανονιστικό εργαλείο.

Το τρίτο και ισχυρότερο είναι το κόστος ευκαιρίας. Κριτικοί υποστηρίζουν ότι η εστίαση σε υποθετικά σενάρια εξαφάνισης αποσπά ρυθμιστική προσοχή και πολιτικό κεφάλαιο από βλάβες που συμβαίνουν ήδη: παραπληροφόρηση, συγκέντρωση εξουσίας σε ελάχιστες εταιρείες, επιπτώσεις στην απασχόληση, ασφάλεια ανηλίκων και κόστος ενέργειας.

Πού καταλήγει

Η ειλικρινής απάντηση είναι ότι κανείς δεν γνωρίζει, και ότι η ίδια η διαφωνία μεταξύ των ανθρώπων που κατασκευάζουν αυτά τα συστήματα αποτελεί το κυριότερο δεδομένο. Ένα εύρος αβεβαιότητας μιας ή δύο δεκαετιών είναι πιο τίμιο από οποιαδήποτε συγκεκριμένη χρονολογία, και οι αποφάσεις πολιτικής θα έπρεπε να σχεδιάζονται ώστε να αντέχουν και στα δύο άκρα του εύρους.

Το πιο χρήσιμο συμπέρασμα δεν αφορά τον φόβο αλλά τη μέτρηση. Οι ικανότητες αυξάνονται με ρυθμό που καταγράφεται ποσοτικά, ενώ η ικανότητα επαλήθευσης και ελέγχου αυξάνεται με ρυθμό που δυσκολευόμαστε ακόμη και να μετρήσουμε. Όσο αυτή η ασυμμετρία διευρύνεται, το ερώτημα αν πρέπει να φοβόμαστε την υπερνοημοσύνη είναι λιγότερο σημαντικό από το ερώτημα ποιος έχει την αρμοδιότητα και τα εργαλεία να πει «όχι ακόμη».