Πολλές εξέχουσες εταιρείες τεχνολογίας συγκεντρώθηκαν πρόσφατα για να σχηματίσουν μια συνεργατική βιομηχανική ομάδα με στόχο τη διασφάλιση της ασφάλειας των εφαρμογών τεχνητής νοημοσύνης.
Στο Aspen Security Forum, έγινε η ανακοίνωση για τη σύσταση του Coalition for Secure AI (CoSAI), ο οποίος θα βρίσκεται υπό την εποπτεία του OASIS, ενός μη κερδοσκοπικού οργανισμού που είναι υπεύθυνος για την επίβλεψη της προώθησης πολλών πρωτοβουλιών λογισμικού ανοιχτού κώδικα. Το OASIS είναι γνωστό για την αφοσίωσή του στην ενίσχυση των πρακτικών ασφάλειας στον κυβερνοχώρο, συμπεριλαμβανομένου του εξορθολογισμού των ροών εργασίας απόκρισης συμβάντων μέσω της αυτοματοποίησης.
Μεταξύ των ιδρυτικών μελών του CoSAI είναι η OpenAI και η Anthropic, που είναι οι δύο startups AI που έχουν εξασφαλίσει τις μεγαλύτερες επενδύσεις. Επιπλέον, οι αντίπαλες εταιρείες Cohere και GenLab αποτελούν μέρος της κοινοπραξίας. Όσον αφορά την υποστήριξη από την αγορά δημόσιου cloud, το CoSAI έχει την υποστήριξη των Υπηρεσιών Ιστού της Amazon, της Microsoft και της Google. Άλλοι συμμετέχοντες στην κοινοπραξία περιλαμβάνουν Nvidia, Intel, IBM, Cisco Systems, PayPal, Wiz και Chainguard.
Ο συνασπισμός θέτει τους στόχους του με διπλή εστίαση. Αρχικά, στοχεύει στην παραγωγή πόρων και στην παροχή τεχνικών συμβουλών που θα βοηθήσουν τους οργανισμούς να προστατεύσουν τις εφαρμογές τεχνητής νοημοσύνης τους. Επιπλέον, ο συνασπισμός προσπαθεί να προωθήσει ένα περιβάλλον που ενθαρρύνει την ανταλλαγή μεθοδολογιών και τεχνολογιών αιχμής που σχετίζονται με την τεχνητή νοημοσύνη μεταξύ των εταιρειών.
«Η ίδρυση του CoSAI έχει τις ρίζες της στην ανάγκη εκδημοκρατισμού της γνώσης και της προόδου που απαιτούνται για την ασφαλή ενσωμάτωση και ανάπτυξη της τεχνητής νοημοσύνης», δήλωσε ο David LaBianca, συμπρόεδρος του διοικητικού συμβουλίου του CoSAI. Κάθε έργο αντιμετωπίζει ένα διαφορετικό υποσύνολο των εργασιών που εμπλέκονται στην ασφάλεια των εφαρμογών τεχνητής νοημοσύνης. Το CoSAI εγκαινιάζει τρεις πρωτοβουλίες ανοιχτού κώδικα για την προώθηση αυτών των στόχων.
Η αρχική προσπάθεια στοχεύει να βοηθήσει τις ομάδες λογισμικού στην εξέταση του φόρτου εργασίας μηχανικής εκμάθησης για πιθανές απειλές στον κυβερνοχώρο. Στο πλαίσιο αυτής της προσπάθειας, η κοινοπραξία θα δημιουργήσει ένα σύστημα ταξινόμησης για τις επικρατούσες ευπάθειες και θα παράσχει στρατηγικές για τον μετριασμό τους. Επιπλέον, τα μέλη του CoSAI θα επινοήσουν μια κάρτα βαθμολογίας για την ασφάλεια στον κυβερνοχώρο που θα επιτρέπει στους προγραμματιστές να επιβλέπουν την ασφάλεια των συστημάτων AI, να εντοπίζουν έγκαιρα τα τρωτά σημεία και να αναφέρουν τυχόν ανησυχίες.
Μια δεύτερη προσπάθεια βρίσκεται σε εξέλιξη για τον εξορθολογισμό του έργου ελαχιστοποίησης των κινδύνων που συνδέονται με την τεχνητή νοημοσύνη στον τομέα της κυβερνοασφάλειας. Ο στόχος είναι να διευκολυνθεί ο εντοπισμός «επενδύσεων και στρατηγικών για τη μείωση του αντίκτυπου της τεχνητής νοημοσύνης στην ασφάλεια», σύμφωνα με τη Heather Adkins και τον Phil Venables, στελέχη κυβερνοασφάλειας της Google.
Η έμφαση της τρίτης πρωτοβουλίας είναι να αντιμετωπίσει τους κινδύνους που σχετίζονται με τις αλυσίδες εφοδιασμού λογισμικού, συγκεκριμένα τις ευπάθειες που προκύπτουν από τη χρήση στοιχείων λογισμικού που προέρχονται από εξωτερικές πλατφόρμες όπως το GitHub.
Προτού οι προγραμματιστές μπορέσουν να αναλύσουν τις εξωτερικές επιπτώσεις μιας εφαρμογής τεχνητής νοημοσύνης για τρωτά σημεία, πρέπει να χαρτογραφήσουν ποιες εξωτερικές ιδιότητες περιέχει. Αυτή μπορεί να είναι μια χρονοβόρα διαδικασία σε μεγάλα έργα λογισμικού με σημαντικό αριθμό αρχείων κώδικα. Μία από τις προτεραιότητες του CoSAI θα είναι η διευκόλυνση αυτής της ροής εργασιών.
Ταυτόχρονα, τα μέλη της κοινοπραξίας θα αναπτύξουν τρόπους αντιμετώπισης των κινδύνων στον κυβερνοχώρο που σχετίζονται με μοντέλα τεχνητής νοημοσύνης τρίτων. Πολλά έργα γύρω από την τεχνητή νοημοσύνη βασίζονται σε νευρωνικά δίκτυα από το οικοσύστημα ανοιχτού κώδικα, επειδή η κατασκευή ενός προσαρμοσμένου αλγορίθμου μπορεί να είναι απαγορευτικά δαπανηρή. Θεωρητικά, ένα εξωτερικό νευρωνικό δίκτυο θα μπορούσε να εισάγει τρωτά σημεία σε ένα έργο λογισμικού, το οποίο θα μπορούσε να επιτρέψει στους χάκερ να εξαπολύσουν επιθέσεις στον κυβερνοχώρο.
Το CoSAI σχεδιάζει να ξεκινήσει πρόσθετες πρωτοβουλίες στο μέλλον. Αυτά θα επιβλέπονται από μια τεχνική συντονιστική επιτροπή εμπειρογνωμόνων τεχνητής νοημοσύνης από τον ιδιωτικό τομέα και τον ακαδημαϊκό κόσμο.
