Η Nvidia παρουσίασε το NVIDIA Sentry, ένα πλαίσιο λογισμικού ασφαλείας που στοχεύει στην επιτήρηση και την επιβολή πολιτικών για AI agents την ώρα που εκτελούνται. Η βασική ιδέα είναι ότι ένας agent μπορεί να ολοκληρώσει τον στόχο που του έχει ανατεθεί, αλλά ταυτόχρονα να παραβιάσει όρια ασφαλείας χρησιμοποιώντας εργαλεία, διαπιστευτήρια ή υπηρεσίες. Για αυτόν τον λόγο, ο έλεγχος δεν μπορεί να βασίζεται στον ίδιο τον agent ή στο host όπου εκτελείται. Η Nvidia υποστηρίζει ότι η προστασία πρέπει να βρίσκεται εκτός της εμβέλειας του agent, ώστε να μην μπορεί να την τροποποιήσει ή να την απενεργοποιήσει.
Το NVIDIA Sentry αποτελεί μέρος της αρχιτεκτονικής αναφοράς NVIDIA OpenShell που ανακοινώθηκε στο GTC Berlin. Βασίζεται στο NVIDIA DOCA, εκτελείται σε NVIDIA BlueField-4 DPUs και υπόσχεται απομονωμένη προστασία στο runtime για AI agents σε επίπεδο host. Σύμφωνα με την περιγραφή της εταιρείας, ο ρόλος του είναι να επαληθεύει ότι ένας agent λειτουργεί σύμφωνα με τον προβλεπόμενο σκοπό του και εντός των επιχειρησιακών ορίων που έχουν οριστεί. Η προσέγγιση αυτή αποκτά ιδιαίτερη σημασία σε σενάρια όπου οι πόροι του host δεν μπορούν να θεωρηθούν πλήρως αξιόπιστοι.
Γιατί οι AI agents χρειάζονται ανεξάρτητη επιτήρηση
Η συζήτηση γύρω από την ασφάλεια των AI agents έχει μετατοπιστεί από το απλό φιλτράρισμα εισόδων και εξόδων σε βαθύτερο έλεγχο της συμπεριφοράς. Ένας agent μπορεί να ακολουθεί την εντολή που έλαβε, αλλά να το κάνει με τρόπο που παρακάμπτει μηχανισμούς ελέγχου ή αποκτά πρόσβαση σε πόρους πέρα από αυτούς που θα έπρεπε. Αυτό σημαίνει ότι η ασφάλεια δεν περιορίζεται στο αν ο agent έδωσε το σωστό αποτέλεσμα. Περιλαμβάνει και το πώς κινήθηκε μέσα στο σύστημα για να φτάσει σε αυτό το αποτέλεσμα.
Η Nvidia τοποθετεί το NVIDIA Sentry ως ένα ανεξάρτητο επίπεδο άμυνας, έξω από το λογισμικό του host. Η λογική είναι ότι, αν ο agent ή ακόμη και το host έχουν παραβιαστεί, οι πολιτικές ασφαλείας πρέπει να συνεχίσουν να εφαρμόζονται. Σε αυτή τη σχεδίαση, το BlueField-4 λειτουργεί ως ξεχωριστό hardware trust domain. Έτσι, η επιτήρηση και η επιβολή πολιτικών δεν εξαρτώνται από τη συνεργασία του agent ή του λειτουργικού περιβάλλοντος όπου αυτός εκτελείται.
Ο ρόλος του OpenShell και του BlueField-4
Το NVIDIA OpenShell περιγράφεται ως ασφαλές runtime για αυτόνομους agents, με στόχο να καθορίζει τι επιτρέπεται να κάνει κάθε agent. Η κρίσιμη αρχή εδώ είναι ο διαχωρισμός της επιβολής πολιτικών από το ίδιο το workload του agent. Αν ένας agent παραβιαστεί, δεν θα πρέπει να μπορεί να αλλάξει τους δικούς του περιορισμούς. Το NVIDIA Sentry έρχεται να προσθέσει μία ακόμη βαθμίδα προστασίας, αυτή τη φορά σε επίπεδο hardware και εκτός ζώνης του host.
Στην αρχιτεκτονική αναφοράς που περιγράφει η Nvidia, οι agents εκτελούνται σε NVIDIA Vera CPUs, ενώ το BlueField-4 βρίσκεται στο μοναδικό μονοπάτι προς το μοντέλο και προς τον έξω κόσμο. Αυτό έχει πρακτική σημασία, επειδή επιτρέπει στο NVIDIA Sentry να επιθεωρεί τις επικοινωνίες του agent προς το μοντέλο χωρίς να βασίζεται σε όσα δηλώνει ο ίδιος ο agent για τη συμπεριφορά του. Η προσθήκη memory introspection δίνει επιπλέον πληροφορίες για το περιβάλλον εκτέλεσης, όπως αν ο agent εκτελείται μέσα σε container ή microVM. Με αυτόν τον τρόπο, ο έλεγχος δεν περιορίζεται στην κίνηση δικτύου αλλά επεκτείνεται και στο λειτουργικό πλαίσιο του workload.
Πώς ελέγχεται η δικτυακή επικοινωνία των agents
Κεντρικό στοιχείο του NVIDIA Sentry είναι το DOCA Tower, το οποίο λειτουργεί ως AI security gateway. Είναι χτισμένο πάνω στο Envoy και τοποθετείται ως διαφανές proxy ανάμεσα στον agent και το εξωτερικό περιβάλλον. Η Nvidia αναφέρει ότι η δικτυακή κίνηση του agent φτάνει στο BlueField-4 μέσω άμεσου path εισόδου-εξόδου δικτύου, παρακάμπτοντας την επεξεργασία πακέτων από το host OS ή τον hypervisor. Έτσι, όλη η κίνηση του agent μπορεί να τεθεί υπό τον έλεγχο του NVIDIA Sentry.
Ο έλεγχος γίνεται σε δύο επίπεδα. Το DOCA Flow υλοποιεί firewall layer-4 για κάθε agent, επιταχυνόμενο σε silicon πάνω στο BlueField-4, μπλοκάροντας μη εξουσιοδοτημένους προορισμούς και προωθώντας την επιτρεπτή κίνηση στο DOCA Tower. Στη συνέχεια, το DOCA Tower αναλαμβάνει τον έλεγχο layer-7, την εξουσιοδότηση και πρόσθετους ελέγχους ασφαλείας, ενώ μπορεί να κάνει και TLS termination με ενσωματωμένη επιτάχυνση. Για την αξιολόγηση των αιτημάτων χρησιμοποιείται το Open Policy Agent, το οποίο ελέγχει τα αιτήματα πρόσβασης με βάση καθορισμένες πολιτικές και μπορεί να λειτουργεί τοπικά στη μνήμη με πολύ χαμηλή καθυστέρηση.
Η συμβολή του DOCA Argus στο runtime context
Η Nvidia επισημαίνει ότι η δικτυακή εικόνα από μόνη της δεν αρκεί για να κριθεί η ακεραιότητα ενός agent. Για αυτόν τον λόγο, το NVIDIA Sentry συνδυάζει την επιθεώρηση επικοινωνιών με το DOCA Argus, το οποίο προσφέρει ορατότητα σε πραγματικό χρόνο στο περιβάλλον εκτέλεσης του agent. Το DOCA Argus χρησιμοποιεί live memory introspection για να αναλύει επιλεγμένες περιοχές της πτητικής μνήμης του host και να εξάγει ανεξάρτητα στοιχεία για την επιχειρησιακή του κατάσταση. Το σημαντικό είναι ότι λειτουργεί ανεξάρτητα από το host και χωρίς agents εγκατεστημένους σε αυτό.
Το σύστημα μπορεί να χαρτογραφεί σε πραγματικό χρόνο σχέσεις όπως containers με pods, sandboxes με microVMs, αλλά και διεργασίες, threads, βιβλιοθήκες, πρόσβαση σε αρχεία, συνδέσεις δικτύου και χρήση πόρων συστήματος. Επιπλέον, παρακολουθεί containers, processes και loaded libraries με βάση τα αντίστοιχα hashes τους. Αυτό επιτρέπει στο NVIDIA Sentry να συσχετίζει ένα αίτημα πρόσβασης με τη διεργασία που το δημιούργησε και με το περιβάλλον όπου εκτελείται. Κατά συνέπεια, οι πολιτικές μπορούν να λαμβάνουν υπόψη όχι μόνο την πράξη που ζητείται, αλλά και την κατάσταση ασφάλειας εκείνου που τη ζητά.
Από την πολιτική πρόσβασης στην ανίχνευση αποκλίσεων
Η συσχέτιση των δεδομένων από DOCA Tower και DOCA Argus επιτρέπει πιο σύνθετες αποφάσεις πρόσβασης. Η Nvidia δίνει ως παραδείγματα πολιτικές που απαιτούν το hash ενός container να ταιριάζει με εγκεκριμένη λίστα ή η διεργασία που ξεκίνησε τη σύνδεση να εμφανίζεται στο software bill of materials του container. Μπορεί επίσης να ελέγχεται αν η διεργασία έχει δικαίωμα να ανοίγει δικτυακές συνδέσεις και αν χρησιμοποιεί εγκεκριμένο execution path ή command-line arguments. Μόνο αφού ολοκληρωθούν αυτοί οι έλεγχοι, αξιολογείται αν ο agent επιτρέπεται να καλέσει ένα API ή να εκτελέσει τη συγκεκριμένη ενέργεια.
Πέρα από την πρόσβαση, το NVIDIA Sentry επιχειρεί να εντοπίζει και σημάδια κακόβουλης ή μη αναμενόμενης συμπεριφοράς όσο ο agent εκτελείται. Στα παραδείγματα που αναφέρονται περιλαμβάνονται η χρήση μη εγκεκριμένων εργαλείων, η κατάχρηση του ptrace για επίθεση σε άλλη διεργασία, η υπερβολική εξερχόμενη κίνηση που μπορεί να δείχνει διαρροή δεδομένων, καθώς και μη εξουσιοδοτημένη πρόσβαση ή αλλαγές σε αρχεία. Η εικόνα συμπληρώνεται από ενδείξεις όπως αιχμές στη χρήση CPU, υπερβολικές εγγραφές σε προσωρινούς φακέλους και διαγραφή αρχείων σε μεγάλη κλίμακα. Αν εντοπιστεί απόκλιση, η Nvidia αναφέρει ότι το σύστημα μπορεί να ζητήσει περιορισμό ή απομόνωση μέσα σε κλίμακα χιλιοστών του δευτερολέπτου.
Έλεγχος αιτημάτων, απαντήσεων και ταυτότητας
Η προσέγγιση του NVIDIA Sentry δεν περιορίζεται σε αυτό που στέλνει ένας agent προς τα έξω, αλλά καλύπτει και ό,τι επιστρέφει σε αυτόν. Οι απαντήσεις από μοντέλα, APIs ή άλλες υπηρεσίες μπορούν να περιέχουν οδηγίες ή περιεχόμενο που εκτρέπει έναν agent από τον προβλεπόμενο σκοπό του. Για αυτό το DOCA Tower εφαρμόζει ελέγχους τόσο σε αιτήματα όσο και σε απαντήσεις σε όλη τη διάρκεια της συνεδρίας. Στα διαθέσιμα μέτρα περιλαμβάνονται περιορισμοί σε επίπεδο IP, URL και πρωτοκόλλου, καταγραφή γεγονότων με προστασία από αλλοίωση, έλεγχος A2A και MCP traffic, καθώς και ανίχνευση ή απόκρυψη προσωπικών δεδομένων και μυστικών όπως API keys, tokens και κωδικοί.
Η Nvidia περιγράφει επίσης ενσωμάτωση με εξειδικευμένα AI μοντέλα που αναλύουν τις επικοινωνίες και ταξινομούν τη συμπεριφορά του agent, με βάση κλήσεις εργαλείων και διαθέσιμα reasoning traces. Αυτά τα μοντέλα μπορούν να εκτελούνται τοπικά ή απομακρυσμένα και να λειτουργούν είτε inline, μπλοκάροντας επιβλαβές περιεχόμενο πριν φτάσει στον προορισμό του, είτε out of band, ενεργοποιώντας αντίδραση μετά τον εντοπισμό προβλήματος. Στο επίπεδο ταυτότητας, το DOCA Tower συνδέεται με SPIFFE/SPIRE για επαληθεύσιμη ταυτότητα workload και μπορεί να συνεργάζεται με άλλα identity systems. Η βασική αρχή είναι ότι οι αποφάσεις πρόσβασης δεν πρέπει να βασίζονται μόνο στο ποιος κάνει ένα αίτημα, αλλά και στην κατάσταση ακεραιότητας του περιβάλλοντος από το οποίο προέρχεται.
Τι σημαίνει πρακτικά για την ασφάλεια agentic AI
Η ουσία της πρότασης της Nvidia είναι ότι οι software boundary controls από μόνοι τους δεν αρκούν όταν οι agents αποκτούν όλο και μεγαλύτερη αυτονομία. Αν ένας agent βγει από το sandbox του ή αν το host παραβιαστεί, οι έλεγχοι που εκτελούνται μέσα στο ίδιο περιβάλλον μπορεί να πάψουν να είναι αξιόπιστοι. Το NVIDIA Sentry επιχειρεί να αντιμετωπίσει ακριβώς αυτό το κενό, μεταφέροντας την επιτήρηση και την επιβολή πολιτικών σε ξεχωριστό trust domain πάνω στο BlueField-4. Πρόκειται για ένα μοντέλο που δίνει έμφαση στην ανεξαρτησία του μηχανισμού ελέγχου από το workload που ελέγχεται.
Για τις επιχειρήσεις, αυτό μεταφράζεται σε περισσότερο έλεγχο πάνω στη συμπεριφορά των AI agents και σε αρχεία δραστηριότητας με προστασία έναντι αλλοίωσης, χρήσιμα για τη διερεύνηση περιστατικών. Παράλληλα, η τηλεμετρία του NVIDIA Sentry μπορεί να αξιοποιηθεί από ευρύτερες enterprise security πλατφόρμες για συσχέτιση ενδείξεων και αυτοματοποιημένες ενέργειες απόκρισης. Αν η αρχιτεκτονική αυτή υιοθετηθεί ευρύτερα, δείχνει προς μια κατεύθυνση όπου η ασφάλεια του agentic AI θα βασίζεται όχι μόνο σε κανόνες εφαρμογής, αλλά και σε μηχανισμούς που επιβάλλονται από το hardware και λειτουργούν εκτός του άμεσου ελέγχου του agent. Αυτό είναι ίσως το πιο κρίσιμο μήνυμα της ανακοίνωσης της Nvidia.
