Η Red Hat, η NVIDIA και η IBM υποστηρίζουν το έργο που μετατρέπει την πολιτική AI σε κώδικα
Η Red Hat ανακοίνωσε την έναρξη του asago, ενός κοινοτικού έργου ανοιχτού κώδικα που στοχεύει στη μετατροπή των πολιτικών διακυβέρνησης AI σε κώδικα έτοιμο για παραγωγή. Το έργο αυτό περιγράφεται ως μια αυτοματοποιημένη, ελέγξιμη ροή εργασίας που συνδέει τα «κατακερματισμένα βήματα, εργαλεία και απαιτήσεις» των ομάδων μηχανικών και συμμόρφωσης. Με την εφαρμογή κανονισμών όπως ο Ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη, η Red Hat παρουσιάζει την επιλογή που αντιμετωπίζουν οι οργανισμοί: είτε να επιβραδύνουν την καινοτομία της AI μέσω χειροκίνητης ανασκόπησης, είτε να επιτρέψουν σε μη κυβερνώμενους πράκτορες να λειτουργούν στην παραγωγή χωρίς κανείς να ελέγχει τη συμπεριφορά τους σε σχέση με την πολιτική.
Τέσσερα στάδια από το κείμενο πολιτικής έως τους ελέγχους σε λειτουργία
Η ροή εργασίας που περιγράφει η Red Hat εκτείνεται σε τέσσερα στάδια. Πρώτο είναι η χαρτογράφηση κινδύνου: το πλαίσιο διαβάζει την πολιτική διακυβέρνησης που έχει ανεβάσει ένας οργανισμός και αντιστοιχίζει τις συγκεκριμένες απαιτήσεις του με καθιερωμένα πλαίσια, όπως το NIST AI RMF και το OWASP LLM Top 10. Η γλώσσα της πολιτικής μετατρέπεται αυτόματα σε προφίλ κινδύνου, αποφεύγοντας την ανάγκη χειροκίνητης διασταύρωσης από την ομάδα συμμόρφωσης.
Στη συνέχεια, το asago προχωρά στην αξιολόγηση κινδύνου. Το έργο δημιουργεί και εκτελεί σενάρια προσαρμοσμένα στην ειδική περίπτωση χρήσης, ερευνώντας για επιβλαβείς συμπεριφορές που εντόπισε η χαρτογράφηση κινδύνου. Ακολουθεί η μετρίαση κινδύνου: το σύστημα προτείνει μέτρα ασφαλείας βάσει των δοκιμών και δημιουργεί ένα μονοπάτι αιτιολόγησης που μπορεί να αντέξει την εξέταση ενός αναθεωρητή.
Το asago οργανώνει τους προτεινόμενους ελέγχους σε ρυθμίσεις έτοιμες για ανάπτυξη σε περιβάλλοντα υβριδικού cloud και Kubernetes, σύμφωνα με τη Red Hat, εξαλείφοντας την ανάγκη για χειροκίνητο κώδικα υποδομής που θα υπήρχε μεταξύ μιας πρότασης μετρίασης και ενός ελέγχου σε λειτουργία. Ο στόχος της Red Hat είναι να μειώσει τους χρόνους ανάπτυξης από μήνες σε ημέρες.
Κάθε στάδιο τροφοδοτεί ένα ενιαίο, συνεχή μονοπάτι ελέγχου
Κάθε στάδιο έχει σχεδιαστεί για να τροφοδοτεί ένα ενιαίο, συνεχή μονοπάτι ελέγχου. Κάθε ρήτρα πολιτικής συνδέεται με μια συγκεκριμένη δοκιμή και κάθε δοκιμή συνδέεται με έναν έλεγχο σε πραγματικό χρόνο. Ένας αναθεωρητής μπορεί, κατ’ αρχήν, να ανιχνεύσει οποιονδήποτε ενεργό έλεγχο σε μια ζωντανή ανάπτυξη απευθείας πίσω στη γραμμή πολιτικής που τον αιτιολόγησε.
Αυτή η ανιχνευσιμότητα είναι το πραγματικό σημείο πώλησης. Η ίδια η Red Hat αντιμετωπίζει την ασφάλεια της AI λιγότερο ως μια μοναδική άσκηση πιστοποίησης και περισσότερο ως μια διαρκή επιχειρησιακή χρησιμότητα, δηλαδή κάτι που παραμένει ελέγξιμο καθώς οι πράκτορες συνεχίζουν να λειτουργούν, όχι μόνο τη στιγμή που εγκρίνονται για πρώτη φορά.
Η σημασία του asago για την καινοτομία στην AI
Η μετάφραση αφηρημένων κατευθυντήριων γραμμών πολιτικής σε λειτουργικές διαμορφώσεις λογισμικού επιβραδύνει την καινοτομία στην AI και εισάγει περαιτέρω κινδύνους από ανθρώπινες παρανοήσεις και παρανοήσεις. Οι υπεύθυνοι συμμόρφωσης απαιτούν αυστηρές αξιολογήσεις κινδύνου και επαληθεύσιμα στοιχεία, ενώ οι μηχανικοί πλατφόρμας χρειάζονται δομημένες διαμορφώσεις που μπορούν να διατηρηθούν εντός των τυπικών ροών εργασίας DevOps και GitOps. Καθώς οι ευρείας κλίμακας κανονισμοί όπως ο Ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη τίθενται σε εφαρμογή, οι οργανισμοί δεν μπορούν να διακινδυνεύσουν είτε να σταματήσουν την καινοτομία σε μήνες χειροκίνητης ανασκόπησης είτε να δημιουργήσουν μη παρακολουθούμενες σκιώδεις αναπτύξεις AI που στερούνται κατάλληλων μέτρων ασφαλείας.
Το asago επιδιώκει να επιλύσει αυτή την τριβή παρέχοντας ένα ενιαίο, ανοιχτό πρότυπο στο οποίο μπορούν να συγκλίνουν οι ομάδες συμμόρφωσης, οι επιστήμονες δεδομένων και οι διαχειριστές υποδομών. Με το να αντιμετωπίζει κάθε ενδιαφερόμενο ως χρήστη πρώτης κατηγορίας, η πλατφόρμα θα δημιουργήσει ελέγχους ασφαλείας για αυτόνομους πράκτορες AI και μεγάλες γλωσσικές μοντέλα (LLMs) επιχειρήσεων, χωρίς να εισάγει τις ασυνέπειες της χειροκίνητης μετάφρασης.
Συνεργασία και εξέλιξη μέσω ανοιχτού κώδικα
Το έργο asago ενώνει ηγέτες της βιομηχανίας και ακαδημαϊκά ιδρύματα, συμπεριλαμβανομένων των Red Hat, Brave Software, EvalEval coalition, IBM Research, Interdisciplinary Transformation University Austria, Microsoft, MIT Lincoln Laboratory, North Carolina State University, NVIDIA και The Alan Turing Institute, υπό μια πολυοργανωτική προσπάθεια να ενσωματώσει ποικίλες γνώσεις σε έρευνα ασφάλειας AI, μηχανική λογισμικού επιχειρήσεων, εχθρική μηχανική μάθηση και κανονιστική συμμόρφωση.
Το έργο θα ενσωματωθεί με εργαλεία ανοιχτού κώδικα κορυφαίας κατηγορίας και στοχεύει συγκεκριμένα τα επιχειρησιακά κενά μεταξύ τους. Θα επιδιώξει να παρέχει πλήρεις, διανεμημένες δυνατότητες ανίχνευσης που καταγράφουν τις βάσεις αποδεικτικών στοιχείων που απαιτούνται από ελεγκτές για να αποδείξουν τη συμμόρφωση. Αυτό επιτρέπει σε κάθε έλεγχο ενεργό σε ένα ζωντανό περιβάλλον παραγωγής να χαρτογραφείται πίσω στη ρητή αιτιολόγηση της πολιτικής του, καθιερώνοντας συνεχή επαλήθευση για τα χαρτοφυλάκια AI των επιχειρήσεων.
Συμπεράσματα και μελλοντικές προοπτικές του asago
Το έργο asago βρίσκεται επί του παρόντος στη φάση σχηματισμού του. Οι προγραμματιστές, οι ακαδημαϊκοί ερευνητές και οι πρώτοι υιοθετητές επιχειρήσεων μπορούν να δουν το αποθετήριο και να συμμετάσχουν στη διακυβέρνηση του έργου μέσω του GitHub. Το asago στοχεύει στη δημιουργία ενός πιο διαφανούς και υπεύθυνου θεμελίου για την υιοθέτηση της AI από τις επιχειρήσεις, ενσωματώνοντας την πολυφωνία της κοινότητας και την τεχνολογική καινοτομία.
