Νέα Εργαλεία της Amazon Web Services για την Αντιμετώπιση των Ψευδαισθήσεων στην Τεχνητή Νοημοσύνη
Η Amazon Web Services, η μονάδα υπολογιστικού νέφους της Amazon, παρουσίασε πρόσφατα ένα νέο εργαλείο για την καταπολέμηση των ψευδαισθήσεων στην τεχνητή νοημοσύνη. Αυτές οι ψευδαισθήσεις αναφέρονται σε περιπτώσεις όπου ένα μοντέλο τεχνητής νοημοσύνης συμπεριφέρεται με μη αξιόπιστο τρόπο. Η ανακοίνωση έγινε στο συνέδριο re:Invent 2024 στο Λας Βέγκας, όπου παρουσιάστηκε η υπηρεσία Automated Reasoning checks, η οποία ελέγχει και επικυρώνει τις απαντήσεις ενός μοντέλου διασταυρώνοντας πληροφορίες που παρέχονται από τους πελάτες για την ακρίβεια τους.
Καινοτομία ή Κοινή Πρακτική; Η Σύγκριση με Άλλες Τεχνολογίες
Η AWS ισχυρίζεται ότι το Automated Reasoning checks είναι το "πρώτο" και "μοναδικό" εργαλείο για την προστασία από τις ψευδαισθήσεις. Ωστόσο, αυτός ο ισχυρισμός μπορεί να θεωρηθεί υπερβολικός, καθώς η Microsoft έχει ήδη κυκλοφορήσει μια παρόμοια λειτουργία, την Correction, το περασμένο καλοκαίρι, η οποία επίσης επισημαίνει κείμενα που μπορεί να είναι ανακριβή. Η Google παρέχει επίσης ένα εργαλείο στην πλατφόρμα ανάπτυξης AI, Vertex AI, που επιτρέπει στους πελάτες να "θεμελιώνουν" μοντέλα χρησιμοποιώντας δεδομένα από τρίτους παρόχους, τις δικές τους βάσεις δεδομένων ή την Αναζήτηση Google.
Πώς Λειτουργεί το Automated Reasoning Checks
Το Automated Reasoning checks, διαθέσιμο μέσω της υπηρεσίας φιλοξενίας μοντέλων Bedrock της AWS (ειδικά το εργαλείο Guardrails), προσπαθεί να κατανοήσει πώς ένα μοντέλο έφτασε σε μια απάντηση και να διακρίνει αν η απάντηση είναι σωστή. Οι πελάτες ανεβάζουν πληροφορίες για να δημιουργήσουν μια βάση αλήθειας και το Automated Reasoning checks δημιουργεί κανόνες που μπορούν να βελτιωθούν και να εφαρμοστούν σε ένα μοντέλο. Καθώς το μοντέλο παράγει απαντήσεις, το εργαλείο τις επαληθεύει και, σε περίπτωση πιθανής ψευδαίσθησης, αντλεί από τη βάση αλήθειας για τη σωστή απάντηση.
Η Ανάπτυξη και η Αποδοχή του Automated Reasoning Checks
Η AWS αναφέρει ότι η PwC ήδη χρησιμοποιεί το Automated Reasoning checks για να σχεδιάσει βοηθούς τεχνητής νοημοσύνης για τους πελάτες της. Ο Swami Sivasubramanian, αντιπρόεδρος AI και δεδομένων στην AWS, υποστήριξε ότι αυτού του είδους τα εργαλεία είναι αυτό που προσελκύει τους πελάτες στο Bedrock. "Με την κυκλοφορία αυτών των νέων δυνατοτήτων, καινοτομούμε για λογαριασμό των πελατών για να λύσουμε μερικές από τις κορυφαίες προκλήσεις που αντιμετωπίζει ολόκληρη η βιομηχανία όταν προχωρούν οι εφαρμογές γεννητικής τεχνητής νοημοσύνης στην παραγωγή," δήλωσε.
Η Πρόκληση της Εξάλειψης των Ψευδαισθήσεων στην Τεχνητή Νοημοσύνη
Ωστόσο, όπως ανέφερε ένας ειδικός το περασμένο καλοκαίρι, η προσπάθεια εξάλειψης των ψευδαισθήσεων από τη γεννητική τεχνητή νοημοσύνη είναι σαν να προσπαθείς να αφαιρέσεις το υδρογόνο από το νερό. Τα μοντέλα τεχνητής νοημοσύνης δημιουργούν ψευδαισθήσεις επειδή δεν "γνωρίζουν" πραγματικά τίποτα. Είναι στατιστικά συστήματα που αναγνωρίζουν μοτίβα σε μια σειρά δεδομένων και προβλέπουν ποια δεδομένα έρχονται στη συνέχεια βάσει προηγούμενων παραδειγμάτων.
Νέες Δυνατότητες στο Bedrock: Απόσταξη Μοντέλων και Συνεργασία Πολλαπλών Πρακτόρων
Σε άλλες ειδήσεις του Bedrock, η AWS ανακοίνωσε το Model Distillation, ένα εργαλείο για τη μεταφορά των δυνατοτήτων ενός μεγάλου μοντέλου σε ένα μικρότερο μοντέλο που είναι πιο οικονομικό και γρήγορο στη λειτουργία. Αυτή η δυνατότητα επιτρέπει πειραματισμούς με διάφορα μοντέλα χωρίς να επιβαρύνεται ο προϋπολογισμός. Ωστόσο, υπάρχουν ορισμένες επιφυλάξεις, καθώς το Model Distillation λειτουργεί μόνο με μοντέλα φιλοξενούμενα στο Bedrock από την Anthropic και τη Meta προς το παρόν.
Επιπλέον, είναι διαθέσιμη σε προεπισκόπηση και η "συνεργασία πολλαπλών πρακτόρων", μια νέα λειτουργία του Bedrock που επιτρέπει στους πελάτες να αναθέτουν στην τεχνητή νοημοσύνη υποκαθήκοντα σε μεγαλύτερα έργα. Οι πελάτες μπορούν ακόμη και να ορίσουν έναν "επόπτη πράκτορα" για να διασπάσει και να κατευθύνει εργασίες στους AI αυτόματα.
Συμπέρασμα: Το Μέλλον της Τεχνητής Νοημοσύνης στην AWS
Η AWS συνεχίζει να καινοτομεί στον τομέα της τεχνητής νοημοσύνης, προσφέροντας εργαλεία που στοχεύουν στην αντιμετώπιση των προκλήσεων της βιομηχανίας. Παρά τις προκλήσεις, τα νέα εργαλεία της AWS υπόσχονται να βελτιώσουν την αξιοπιστία και την αποτελεσματικότητα των εφαρμογών τεχνητής νοημοσύνης. Η εξέλιξη αυτών των τεχνολογιών θα είναι ενδιαφέρουσα να παρακολουθήσουμε καθώς εφαρμόζονται στον πραγματικό κόσμο.
