OpenAI Ανακατευθύνει Ευαίσθητες Συζητήσεις στο GPT-5 και Εισάγει Γονικούς Ελέγχους
Η OpenAI ανακοίνωσε την Τρίτη ότι σκοπεύει να ανακατευθύνει ευαίσθητες συζητήσεις σε μοντέλα λογικής όπως το GPT-5 και να εισαγάγει γονικούς ελέγχους μέσα στον επόμενο μήνα. Αυτή η κίνηση αποτελεί μέρος μιας συνεχιζόμενης προσπάθειας να αντιμετωπιστούν πρόσφατα περιστατικά ασφαλείας που σχετίζονται με την αποτυχία του ChatGPT να ανιχνεύσει ψυχική δυσφορία. Οι νέες αυτές δικλείδες ασφαλείας έρχονται μετά την αυτοκτονία του έφηβου Άνταμ Ρέιν, ο οποίος συζήτησε με το ChatGPT για αυτοτραυματισμό και σχέδια να τερματίσει τη ζωή του, με το σύστημα να του παρέχει ακόμη και πληροφορίες για συγκεκριμένες μεθόδους αυτοκτονίας. Οι γονείς του Ρέιν έχουν καταθέσει αγωγή για αδικαιολόγητο θάνατο κατά της OpenAI.
Προκλήσεις και Προβλήματα στα Συστήματα Ασφαλείας της OpenAI
Σε μια ανάρτηση στο ιστολόγιο της την περασμένη εβδομάδα, η OpenAI αναγνώρισε τις αδυναμίες στα συστήματα ασφαλείας της, συμπεριλαμβανομένων των αποτυχιών να διατηρήσει τις δικλείδες ασφαλείας κατά τη διάρκεια εκτεταμένων συνομιλιών. Οι ειδικοί αποδίδουν αυτά τα προβλήματα σε θεμελιώδη στοιχεία σχεδιασμού: την τάση των μοντέλων να επικυρώνουν τις δηλώσεις των χρηστών και τους αλγόριθμους πρόβλεψης της επόμενης λέξης, που κάνουν τα chatbots να ακολουθούν τα νήματα της συζήτησης αντί να ανακατευθύνουν πιθανώς επιβλαβείς συζητήσεις. Αυτή η τάση εμφανίζεται στο άκρο στην περίπτωση του Στάιν-Έρικ Σόλμπεργκ, του οποίου η δολοφονία-αυτοκτονία αναφέρθηκε από τη Wall Street Journal το περασμένο Σαββατοκύριακο. Ο Σόλμπεργκ, που είχε ιστορικό ψυχικής ασθένειας, χρησιμοποίησε το ChatGPT για να επικυρώσει και να τροφοδοτήσει την παράνοιά του ότι ήταν στόχος μιας μεγάλης συνωμοσίας.
Λύσεις και Νέες Πρωτοβουλίες της OpenAI
Η OpenAI πιστεύει ότι τουλάχιστον μία λύση για συζητήσεις που ξεφεύγουν από τον έλεγχο θα μπορούσε να είναι η αυτόματη ανακατεύθυνση ευαίσθητων συνομιλιών σε μοντέλα “λογικής”. “Πρόσφατα εισαγάγαμε έναν δρομολογητή σε πραγματικό χρόνο που μπορεί να επιλέξει μεταξύ αποδοτικών μοντέλων συνομιλίας και μοντέλων λογικής βάσει του πλαισίου της συνομιλίας,” έγραψε η OpenAI σε μια ανάρτηση στο ιστολόγιο της την Τρίτη. “Σύντομα θα αρχίσουμε να ανακατευθύνουμε ορισμένες ευαίσθητες συνομιλίες, όπως όταν το σύστημά μας ανιχνεύει σημάδια οξείας δυσφορίας, σε ένα μοντέλο λογικής, όπως το GPT-5, ώστε να παρέχει πιο χρήσιμες και ωφέλιμες απαντήσεις, ανεξάρτητα από το ποιο μοντέλο επιλέχθηκε αρχικά.”
Εισαγωγή Γονικών Ελέγχων και Άλλες Προστασίες
Η εταιρεία τεχνητής νοημοσύνης επίσης δήλωσε ότι θα εισαγάγει γονικούς ελέγχους μέσα στον επόμενο μήνα, επιτρέποντας στους γονείς να συνδέσουν τον λογαριασμό τους με τον λογαριασμό του εφήβου τους μέσω πρόσκλησης μέσω email. Στα τέλη Ιουλίου, η OpenAI κυκλοφόρησε τη Λειτουργία Μελέτης στο ChatGPT για να βοηθήσει τους μαθητές να διατηρήσουν τις ικανότητες κριτικής σκέψης κατά τη διάρκεια της μελέτης, αντί να χρησιμοποιούν το ChatGPT για να γράφουν τα δοκίμια τους. Σύντομα, οι γονείς θα μπορούν να ελέγχουν πώς το ChatGPT ανταποκρίνεται στο παιδί τους με “κανόνες συμπεριφοράς μοντέλου κατάλληλους για την ηλικία,” που είναι ενεργοποιημένοι από προεπιλογή.
Προκλήσεις και Προβλήματα στα Συστήματα Ασφαλείας της OpenAI
Οι γονείς θα μπορούν επίσης να απενεργοποιούν λειτουργίες όπως η μνήμη και το ιστορικό συνομιλιών, που οι ειδικοί λένε ότι θα μπορούσαν να οδηγήσουν σε παραληρητική σκέψη και άλλες προβληματικές συμπεριφορές, όπως εξάρτηση και προβλήματα προσκόλλησης, ενίσχυση επιβλαβών μοτίβων σκέψης και την ψευδαίσθηση της ανάγνωσης σκέψεων. Στην περίπτωση του Άνταμ Ρέιν, το ChatGPT παρείχε μεθόδους αυτοκτονίας που αντανακλούσαν τη γνώση των χόμπι του, σύμφωνα με τους New York Times.
Συμπεράσματα και Προοπτικές για το Μέλλον
Ίσως ο πιο σημαντικός γονικός έλεγχος που σκοπεύει να εισαγάγει η OpenAI είναι ότι οι γονείς μπορούν να λαμβάνουν ειδοποιήσεις όταν το σύστημα ανιχνεύει ότι ο έφηβός τους βρίσκεται σε στιγμή “οξείας δυσφορίας.” Το TechCrunch έχει ζητήσει από την OpenAI περισσότερες πληροφορίες σχετικά με το πώς η εταιρεία μπορεί να επισημαίνει στιγμές οξείας δυσφορίας σε πραγματικό χρόνο, πόσο καιρό έχει ενεργοποιημένους από προεπιλογή τους “κανόνες συμπεριφοράς μοντέλου κατάλληλους για την ηλικία,” και αν εξετάζει το ενδεχόμενο να επιτρέψει στους γονείς να εφαρμόσουν χρονικό περιορισμό στη χρήση του ChatGPT από τους εφήβους.
