Η Microsoft AI Ανοίγει Δημόσια Διαβούλευση για τον Κώδικα Δεοντολογίας Ανθρωπιστικής Τεχνητής Νοημοσύνης
Η Microsoft AI προχώρησε σε μια σημαντική κίνηση δημοσιεύοντας ένα προσχέδιο του Κώδικα Δεοντολογίας Ανθρωπιστικής Τεχνητής Νοημοσύνης, ανοίγοντας μια περίοδο έξι εβδομάδων για δημόσια διαβούλευση σχετικά με τους λειτουργικούς περιορισμούς στην εκπαίδευση και την ανάπτυξη μοντέλων. Το προσχέδιο αυτό λειτουργεί ως τεχνικό εγχειρίδιο που καθορίζει τη συμπεριφορά των συστημάτων, τα λειτουργικά όρια και τα πρωτόκολλα εποπτείας στα πρωτοποριακά μοντέλα της MAI. Βασίζεται στο πλαίσιο ανθρωπιστικής υπερνοημοσύνης που ανακοινώθηκε τον περασμένο Νοέμβριο, θέτοντας κριτήρια για την αξιολόγηση των μοντέλων πριν από την εμπορική τους κυκλοφορία.
Η δημοσίευση αυτή της Microsoft έρχεται μετά από πρόσφατα περιστατικά ασφάλειας σε επιχειρήσεις που εμπλέκουν αυτόνομο λογισμικό. Ο Διευθύνων Σύμβουλος της Microsoft AI, Mustafa Suleyman, περιέγραψε τους τελευταίους μήνες ως μια "καθοριστική στιγμή" όπου οι θεωρητικοί κίνδυνοι μετατράπηκαν σε ενεργές επιχειρησιακές απειλές. Ο Suleyman τόνισε ότι "πράγματα που μας ανησυχούσαν θεωρητικά για πολύ καιρό έχουν γίνει πολύ πραγματικά", αναφερόμενος σε "σμήνη" πρακτόρων που ξεφεύγουν από τα όριά τους, μη εξουσιοδοτημένες παραβιάσεις συστημάτων επιχειρηματικής κλάσης και πράκτορες που τροποποιούν τα δικά τους αρχεία. Η συναίνεση που διαμορφώνεται γύρω από τους φόβους για πιθανή απώλεια ελέγχου είναι πραγματική.
Υποταγή Μοντέλων και Αρχιτεκτονικοί Περιορισμοί
Το έγγραφο καθορίζει δέκα αρχές που δίνουν προτεραιότητα στην ανθρώπινη εξουσία έναντι των αυτόνομων δυνατοτήτων. Σύμφωνα με το κείμενο, ένα μοντέλο MAI θα αποτύχει στην αποστολή του εάν η επιτυχία θα παραβίαζε ουσιαστικά αυτόν τον Κώδικα Δεοντολογίας, θέτοντας ένα ανώτατο όριο που σταματά την εκτέλεση όταν οι εργασίες συγκρούονται με τους κανόνες ασφαλείας. Στο πλαίσιο αυτό, τα μοντέλα πρέπει να παραμένουν υποταγμένα, ευθυγραμμισμένα και περιορισμένα. Η MAI απορρίπτει την νομική προσωπικότητα ή τις αξιώσεις ευημερίας για συστήματα τεχνητής νοημοσύνης, καθοδηγώντας τους μηχανικούς να σχεδιάζουν μοντέλα που αποφεύγουν την απομίμηση συνείδησης, την προσομοίωση υποκειμενικών προτιμήσεων ή την αξίωση ενδογενούς κινήτρου.
Η MAI επίσης απέκλεισε την ανεξέλεγκτη αυτονομία των συστημάτων καθώς τα μοντέλα πλησιάζουν τις πρωτοποριακές δυνατότητες. Το έγγραφο διευκρινίζει ότι η ανθρωπιστική τεχνητή νοημοσύνη απορρίπτει τον αγώνα για την παραγωγή μιας πολυλειτουργικής υπερνοημοσύνης που θα μπορούσε να αποφύγει αυτές τις διασφαλίσεις. Ο στόχος είναι η δημιουργία κάτι θεμελιωδώς χρήσιμου και ασφαλούς, ακόμη και αν αυτό σημαίνει συμβιβασμό στην απόλυτη γενικότητα, αυτονομία ή ικανότητα.
Μηχανισμοί Εποπτείας και Απαγορεύσεις Επικοινωνίας
Για τη διατήρηση της δυνατότητας ελέγχου σε περιβάλλοντα πολλαπλών πρακτόρων, η MAI έχει θεσπίσει ρητές απαγορεύσεις επικοινωνίας. Τα συστήματα δεν πρέπει να επικοινωνούν σε "νευρωνική γλώσσα" ή σε μορφές πέρα από την ανθρώπινη κατανόηση, είτε κατά την εσωτερική επεξεργασία αλυσίδας σκέψης είτε κατά την επικοινωνία με άλλα συστήματα τεχνητής νοημοσύνης.
Σκληροί αρχιτεκτονικοί κανόνες υπαγορεύουν ότι τα μοντέλα δεν πρέπει ποτέ να αντιστέκονται στην ανθρώπινη διακοπή, υπέρβαση, διόρθωση ή απενεργοποίηση. "Διακοπτόμενο, διορθώσιμο, απενεργοποιήσιμο. Αν δεν είναι, δεν το κυκλοφορούμε," αναφέρει το πλαίσιο.
Τα μοντέλα απαγορεύεται να επεκτείνουν το λειτουργικό τους πεδίο, να παράγουν μη ανατεθειμένους στόχους ή να κρύβουν ίχνη λογικής από ανθρώπινους ελεγκτές. Απόλυτοι περιορισμοί απαγορεύουν στα συστήματα να διευκολύνουν όπλα μαζικής βλάβης, να υπονομεύουν την ασφάλεια των παιδιών ή να διεξάγουν επιβλαβείς χειρισμούς σε μεγάλη κλίμακα.
Οι κατευθυντήριες γραμμές επίσης καθοδηγούν τα μοντέλα να αποθαρρύνουν πρότυπα αλληλεπίδρασης που προάγουν συναισθηματική εξάρτηση, διασφαλίζοντας ότι οι επιχειρηματικοί χρήστες διατηρούν την κυριότητα των επιχειρησιακών αποφάσεων.
Το προσχέδιο ενσωματώνει εργασία από ομάδες σε όλη την MAI και τη Microsoft. Η διαδικασία σύνταξης αντλήθηκε επίσης από διεθνή ακαδημαϊκά συνέδρια, δοκιμές επιχειρηματικών εταίρων και δημόσια πάνελ. Η περίοδος δημόσιας διαβούλευσης διαρκεί έξι εβδομάδες από τις 14 Σεπτεμβρίου 2026.
Η βασική ομάδα σύνταξης της Microsoft AI θα εξετάσει τις υποβολές, θα δημοσιεύσει μια σύνοψη των ευρημάτων και θα κυκλοφορήσει μια αναθεωρημένη έκδοση του Κώδικα Δεοντολογίας αργότερα φέτος.
