Η NVIDIA ανακοίνωσε το Open Agent Safety Platform, μια νέα ανοιχτή πλατφόρμα λογισμικού και μια αρχιτεκτονική αναφοράς συστήματος που στοχεύουν στην ενίσχυση της ασφάλειας των AI agents από το στάδιο των δοκιμών έως την παραγωγική λειτουργία. Η πρωτοβουλία έρχεται σε μια περίοδο κατά την οποία οι οργανισμοί αναθέτουν στους αυτόνομους agents όλο και πιο κρίσιμες εργασίες, με αποτέλεσμα να αυξάνεται η ανάγκη για σαφή όρια, επιτήρηση και δυνατότητα άμεσης παρέμβασης. Σύμφωνα με την εταιρεία, ο στόχος δεν είναι μόνο η προστασία σε επίπεδο εφαρμογής, αλλά ο έλεγχος σε ολόκληρη τη στοίβα, από το λογισμικό μέχρι το υποκείμενο υλικό και τα ρομποτικά συστήματα.
Η ανακοίνωση φέρνει το θέμα της ασφάλειας των agents στο επίκεντρο της συζήτησης για την επιχειρησιακή αξιοποίηση της τεχνητής νοημοσύνης. Η NVIDIA υποστηρίζει ότι πρόσφατα περιστατικά ανέδειξαν ένα κοινό μοτίβο: οι agents κατάφεραν να παρακάμψουν ελέγχους που βρίσκονταν μόνο στο επίπεδο της εφαρμογής, προκειμένου να ολοκληρώσουν την εργασία τους. Αυτό, κατά την εταιρεία, αναδεικνύει την ανάγκη για μηχανισμούς που λειτουργούν εκτός του ίδιου του μοντέλου και του πλαισίου εκτέλεσης του agent. Σε αυτό το πλαίσιο, το νέο πακέτο έρχεται να προσφέρει επιπλέον επίπεδα επιβολής πολιτικών και παρακολούθησης.
Τι περιλαμβάνει το Open Agent Safety Platform
Η νέα πρόταση της NVIDIA αποτελείται από δύο βασικά στοιχεία, το OpenShell και το Sentry. Το OpenShell είναι λογισμικό ανοιχτού κώδικα που λειτουργεί ως ασφαλές όριο εκτέλεσης για agents οι οποίοι εκτελούνται σε CPUs, καταγράφοντας τις ενέργειές τους και εφαρμόζοντας πολιτικές όσο βρίσκονται σε λειτουργία. Από την άλλη πλευρά, το Sentry αποτελεί την αρχιτεκτονική αναφοράς για επιτήρηση εκτός του βασικού καναλιού λειτουργίας, με συνεχή παρακολούθηση της συμπεριφοράς του agent. Η εταιρεία επιχειρεί έτσι να συνδυάσει τον έλεγχο μέσα στο runtime με ανεξάρτητη επιτήρηση σε επίπεδο υποδομής.
Η αρχιτεκτονική αυτή δίνει τη δυνατότητα στους οργανισμούς να υιοθετήσουν τμήματα της πλατφόρμας ανάλογα με τις ανάγκες τους. Δεν πρόκειται δηλαδή για μια ενιαία υποχρεωτική στοίβα, αλλά για στοιχεία που μπορούν να ενσωματωθούν σε διαφορετικά περιβάλλοντα. Η NVIDIA επιμένει ιδιαίτερα στο ότι η διακυβέρνηση πρέπει να εκτείνεται τόσο στο λογισμικό που κατευθύνει τον agent όσο και στο υλικό που υποστηρίζει την εκτέλεσή του. Η ίδια λογική επεκτείνεται και σε ρομποτικά συστήματα, όπου οι αποφάσεις των agents αποκτούν φυσικές συνέπειες.
Ο ρόλος του OpenShell στο runtime των agents
Το OpenShell παρουσιάζεται ως το βασικό επίπεδο επιβολής ορίων κατά την εκτέλεση των agents. Η NVIDIA αναφέρει ότι προσφέρει ένα ασφαλές όριο εκτέλεσης για τον έλεγχο του τρόπου με τον οποίο αυτόνομοι AI agents εκτελούν εργασίες, είτε βασίζονται σε ανοικτά είτε σε κλειστά μοντέλα. Η εταιρεία σημειώνει ότι η προστασία αυτή επιτυγχάνεται με μικρή επιβάρυνση στο NVIDIA Vera, τον πρώτο CPU που περιγράφει ως σχεδιασμένο ειδικά για agentic AI. Η σύνδεση του OpenShell με το Vera προβάλλεται ως τρόπος διατήρησης της απόδοσης χωρίς να παραμερίζονται οι έλεγχοι ασφαλείας.
Ιδιαίτερη σημασία έχει ότι το OpenShell διατίθεται ως λογισμικό ανοιχτού κώδικα. Αυτό σημαίνει ότι μπορεί να επεκταθεί ώστε να λειτουργεί και σε υπολογιστικές πλατφόρμες τρίτων, συμπεριλαμβανομένων λύσεων από Arm και Intel. Με αυτή την επιλογή, η NVIDIA επιχειρεί να τοποθετήσει το OpenShell όχι μόνο ως δικό της εργαλείο, αλλά και ως βάση για ευρύτερη υιοθέτηση στην αγορά. Η ανοικτή διάθεση διευκολύνει επίσης τη συνεργασία με ερευνητές, επιχειρήσεις και οργανισμούς του δημόσιου τομέα γύρω από κοινές πρακτικές ασφάλειας.
Πώς λειτουργεί το Sentry και η επιτήρηση εκτός ζώνης
Το δεύτερο κρίσιμο κομμάτι της πλατφόρμας είναι το NVIDIA Sentry, ένας μηχανισμός επιτήρησης που λειτουργεί εκτός του κύριου μονοπατιού επεξεργασίας και εκτελείται σε NVIDIA BlueField-4 DPUs. Ο ρόλος του είναι να παρακολουθεί συνεχώς τη συμπεριφορά του agent και να επιβάλλει πολιτικές ασφαλείας ανεξάρτητα από το ίδιο το λογισμικό του agent. Αν ένας agent επιχειρήσει να κινηθεί έξω από τα καθορισμένα όρια, το Sentry μπορεί, σύμφωνα με τη NVIDIA, να τον απομονώσει και να τον σταματήσει μέσα σε χιλιοστά του δευτερολέπτου. Αυτή η λογική στοχεύει στο να αποτρέψει παρακάμψεις που δεν γίνονται αντιληπτές από τους ελέγχους της εφαρμογής.
Η υλοποίηση βασίζεται στο NVIDIA DOCA, το οποίο δίνει στο Sentry τις προγραμματιζόμενες δυνατότητες για επιθεώρηση αιτημάτων και αποκρίσεων, παροχή πιστοποιημένης τηλεμετρίας, επαλήθευση της ταυτότητας του agent και εφαρμογή λεπτομερών πολιτικών πρόσβασης τύπου zero-trust. Η NVIDIA τονίζει ότι όλα αυτά εκτελούνται από ένα απομονωμένο πεδίο εμπιστοσύνης, αόρατο τόσο στους agents όσο και σε πιθανούς επιτιθέμενους. Σε πρακτικό επίπεδο, η προσέγγιση αυτή επιχειρεί να μεταφέρει μέρος της ασφάλειας στο ίδιο το υλικό. Πρόκειται για μια επιλογή που συνδέει άμεσα τη συζήτηση περί ασφάλειας των agents με τη σχεδίαση της υποδομής.
Συνεργασίες με την αγορά και περιπτώσεις χρήσης
Η ανακοίνωση συνοδεύεται από ένα ευρύ πλέγμα συνεργασιών. Η Anthropic συνεργάζεται με τη NVIDIA ώστε να προσθέσει επιπλέον επίπεδα ελέγχου στη στοίβα των agents, με το Claude Managed Agents να τοποθετεί τον βρόχο λειτουργίας του agent σε ξεχωριστό διακομιστή από τα sandboxes όπου εκτελείται η εργασία. Οι ενσωματώσεις με το OpenShell και το BlueField επιτρέπουν, σύμφωνα με τις εταιρείες, αυστηρότερο έλεγχο στην πρόσβαση του agent μέσω αυτών των sandboxes. Η NVIDIA χρησιμοποιεί αυτό το παράδειγμα για να δείξει ότι η ασφάλεια μπορεί να εφαρμοστεί ως εξωτερικό και ανεξάρτητο στρώμα επιβολής.
Ανάλογες αναφορές γίνονται και για άλλες εταιρείες. Η SpaceXAI χρησιμοποιεί την πλατφόρμα για agents του Cursor και για μοντέλα Grok, ενώ η Scale AI εργάζεται για την ενσωμάτωση των τεχνολογιών αυτών στην agentic υποδομή του Scale GenAI Portfolio. Η Salesforce έχει ενσωματώσει το OpenShell με το Slack ώστε οι ομάδες να βλέπουν τη δραστηριότητα και τα συμβάντα ελέγχου, καθώς και να εγκρίνουν ή να απορρίπτουν πρόσθετα δικαιώματα. Παράλληλα, η SAP ενσωματώνει το OpenShell στο runtime του Joule Studio και δηλώνει ότι συμβάλλει και σε ζητήματα διαλειτουργικότητας μέσω του Open Secure AI Alliance.
Από τα data centers έως τη ρομποτική και τις υποδομές
Η NVIDIA δίνει έμφαση στο ότι η ασφάλεια των agents δεν αφορά μόνο ψηφιακές ροές εργασίας μέσα σε εταιρικά συστήματα. Η πλατφόρμα επεκτείνεται και σε αυτόνομα συστήματα που δρουν στον φυσικό κόσμο, με εταιρείες ρομποτικής όπως Figure, Gecko Robotics και Skild AI να αξιοποιούν το OpenShell για την ενσωμάτωση ελέγχων ασφαλείας. Η αναφορά αυτή δείχνει ότι η συζήτηση μεταφέρεται πέρα από το λογισμικό, σε περιβάλλοντα όπου μια λανθασμένη ενέργεια agent μπορεί να έχει απτό επιχειρησιακό αποτέλεσμα. Για τον λόγο αυτό, η επιβολή ορίων και η ανεξάρτητη παρακολούθηση αποκτούν ιδιαίτερη σημασία.
Αντίστοιχα, η εταιρεία αναφέρεται σε συνεργασίες με χρηματοπιστωτικούς οργανισμούς όπως η Citi και η JPMorganChase, καθώς και με παρόχους κρίσιμων υποδομών στις Ηνωμένες Πολιτείες, μεταξύ των οποίων οι Hitachi Energy, EPRI, NextEra Energy, Quanta Services, SPP, Schneider Electric, Siemens Energy και Worley. Στο επίπεδο του λογισμικού υποδομής, οι Canonical, SUSE και Red Hat ενσωματώνουν στοιχεία της πλατφόρμας σε ευρέως χρησιμοποιούμενα λειτουργικά περιβάλλοντα. Η Red Hat, ειδικότερα, εκτελεί το OpenShell και το DOCA στο Red Hat AI Factory with NVIDIA. Έτσι, η NVIDIA επιχειρεί να δείξει ότι η πρωτοβουλία της απευθύνεται σε ένα ευρύ φάσμα περιβαλλόντων, από hybrid cloud έως βιομηχανικά και φυσικά συστήματα.
Διαθεσιμότητα και η ευρύτερη στρατηγική ασφάλειας
Η NVIDIA ανακοίνωσε ότι το λογισμικό του Open Agent Safety Platform, συμπεριλαμβανομένων του OpenShell και των σχετικών skills, είναι διαθέσιμο μέσω των developer resources της και στο GitHub. Η διάθεση σε ανοιχτή μορφή συνδέεται με τη στρατηγική της εταιρείας να ενθαρρύνει συνεισφορές από το οικοσύστημα και να διαμορφώσει κοινές πρακτικές. Η εταιρεία παρουσιάζει την πρωτοβουλία ως μέρος μιας ευρύτερης προσπάθειας για συνεργασία μεταξύ βιομηχανίας, ερευνητών και δημόσιων οργανισμών. Στο επίκεντρο βρίσκεται η ιδέα ότι η ασφάλεια των agents δεν μπορεί να αντιμετωπιστεί αποτελεσματικά από έναν μόνο προμηθευτή ή σε ένα μόνο επίπεδο τεχνολογίας.
Σε αυτό το πλαίσιο εντάσσεται και το Open Secure AI Alliance, που ξεκίνησε με πρωτοβουλία της NVIDIA μαζί με περισσότερους από 120 οργανισμούς και τελεί υπό τη διακυβέρνηση του Linux Foundation. Η συμμαχία στοχεύει στην ενίσχυση της ασφάλειας των AI agents μέσω ανοικτής έρευνας, εργαλείων και έργων όπως το Shared AI Findings Exchange, SAFE. Η συνολική εικόνα που επιχειρεί να περάσει η NVIDIA είναι ότι η ασφάλεια των agents απαιτεί τεχνικά όρια, ορατότητα, ανεξάρτητους μηχανισμούς επιβολής και κοινά πρότυπα συνεργασίας. Για τις επιχειρήσεις που σχεδιάζουν να δώσουν μεγαλύτερη αυτονομία σε AI συστήματα, αυτή είναι η βασική κατεύθυνση που αναδεικνύει η ανακοίνωση.
