Είμαστε μόλις ένα βήμα μακριά από το να γίνουμε υποτελείς της τεχνητής νοημοσύνης;
Σε κάποιους, αυτό μπορεί να φαίνεται λίγο υπερβολικό, αλλά σύμφωνα με μια νέα μελέτη, φαίνεται να υπάρχει λόγος ανησυχίας.Όπως συμβαίνει με κάθε σημαντική τεχνολογική αλλαγή, πολλοί άνθρωποι αναρωτιούνται εάν η τεχνολογία εξελίσσεται με ρυθμό πέρα από τον έλεγχό μας.
Αυτό είναι πιθανό να συμβεί με την τεχνητή νοημοσύνη γιατί είναι σε θέση να μάθει και να εφαρμόσει τις γνώσεις της πολύ γρήγορα.
Χειραγώγηση, δυσφήμιση και εξαπάτηση
Στη μελέτη, που δημοσιεύτηκε στο περιοδικό Patterns, οι ερευνητές είπαν ότι τα συστήματα τεχνητής νοημοσύνης έχουν δείξει την ικανότητα να εξαπατούν τους ανθρώπους. Χρησιμοποιούν χειραγώγηση, συκοφαντία και εξαπάτηση στις προσπάθειές τους και γίνονται όλο και καλύτεροι σε αυτό.
«Τα συστήματα τεχνητής νοημοσύνης είναι ήδη ικανά να εξαπατήσουν τους ανθρώπους», έγραψαν οι ερευνητές στη μελέτη «Τα μεγάλα γλωσσικά μοντέλα και άλλα συστήματα έχουν μάθει από την εκπαίδευση την ικανότητα εξαπάτησης μέσω τεχνικών όπως η χειραγώγηση, η συκοφαντία και η εξαπάτηση σε τεστ ασφαλείας», εξήγησαν. .
Αν αυτό φαίνεται αρκετά αγχωτικό, υπάρχουν μεγαλύτερα προβλήματα στον ορίζοντα, τόσο βραχυπρόθεσμα όσο και μακροπρόθεσμα.
«Η αυξανόμενη ικανότητα της τεχνητής νοημοσύνης να εξαπατά εγκυμονεί σοβαρούς κινδύνους, που κυμαίνονται από βραχυπρόθεσμους κινδύνους όπως απάτη και παραποίηση εκλογών έως μακροπρόθεσμους κινδύνους όπως απώλεια ελέγχου των συστημάτων τεχνητής νοημοσύνης», σημείωσαν οι ερευνητές.
«Χρειάζονται προληπτικά μέτρα, όπως ρυθμιστικά πλαίσια για την αξιολόγηση του κινδύνου εξαπάτησης της τεχνητής νοημοσύνης, νόμοι που απαιτούν διαφάνεια στις αλληλεπιδράσεις του και περαιτέρω έρευνα για τον εντοπισμό και την πρόληψη της εξαπάτησής του.
«Η αντιμετώπιση αυτού του ζητήματος είναι κρίσιμη για να διασφαλιστεί ότι η τεχνητή νοημοσύνη λειτουργεί ως μια ευεργετική τεχνολογία που ενισχύει αντί να αποσταθεροποιεί την ανθρώπινη γνώση, τον λόγο και τους θεσμούς».
Όσοι εργάζονται στον κλάδο της τεχνητής νοημοσύνης κρούουν επίσης τον κώδωνα του κινδύνου για την ανάπτυξη και την εφαρμογή της τεχνολογίας.
