Η NVIDIA έδωσε στη δημοσιότητα νέα στοιχεία απόδοσης για το Vera Rubin NVL72, εστιάζοντας σε ένα ζήτημα που γίνεται ολοένα πιο κρίσιμο για την αγορά της τεχνητής νοημοσύνης: την ενεργειακή αποδοτικότητα των AI agents. Σύμφωνα με τα στοιχεία που επικαλείται η εταιρεία, τα agentic workloads καταναλώνουν πολύ περισσότερα tokens από ένα απλό αίτημα συνομιλίας, επειδή περιλαμβάνουν διαδοχικά βήματα έρευνας, κλήσεις εργαλείων και δημιουργία υπο-πρακτόρων. Σε αυτό το πλαίσιο, η NVIDIA υποστηρίζει ότι το Vera Rubin NVL72 προσφέρει έως και 30 φορές υψηλότερο throughput ανά μεγαβάτ σε σχέση με το GB300 NVL72 σε τέτοιου τύπου φορτία. Η συζήτηση δεν αφορά μόνο την ακατέργαστη ισχύ, αλλά και το κατά πόσο μια υποδομή μπορεί να στηρίξει παραγωγικά συστήματα AI με βιώσιμο ενεργειακό κόστος.
Η συγκεκριμένη ανακοίνωση αποκτά βάρος επειδή η agentic AI περνά από τα πειραματικά περιβάλλοντα σε πραγματικές επιχειρησιακές εφαρμογές. Εργασίες όπως ο προγραμματισμός, η εξυπηρέτηση πελατών και η εις βάθος έρευνα απαιτούν μεγάλα και διαρκώς αυξανόμενα συμφραζόμενα, καθώς κάθε βήμα τροφοδοτεί το επόμενο. Αυτό σημαίνει ότι η διαχείριση του long-context inference δεν είναι πλέον δευτερεύον τεχνικό χαρακτηριστικό, αλλά βασική προϋπόθεση για την απόδοση. Με αυτή την οπτική, η NVIDIA επιχειρεί να τοποθετήσει το Vera Rubin NVL72 ως πλατφόρμα ειδικά προσανατολισμένη στις ανάγκες των AI agents.
Γιατί τα agentic workloads είναι διαφορετικά
Η βασική διαφορά ανάμεσα σε έναν AI agent και ένα κλασικό chatbot βρίσκεται στη δομή της εργασίας που εκτελεί. Ένα απλό αίτημα συνομιλίας ή μια σύνοψη εγγράφου έχει σχετικά περιορισμένο μήκος εισόδου και εξόδου, συχνά από 1.000 έως 8.000 tokens. Αντίθετα, ένας agent μπορεί να εκτελέσει πολλαπλά στάδια αναζήτησης, να ανακτήσει νέα δεδομένα, να ενεργοποιήσει εργαλεία και να αναθέσει επιμέρους εργασίες σε sub-agents. Έτσι, το συνολικό context διογκώνεται σταδιακά και μπορεί να φτάσει σε εκατοντάδες χιλιάδες tokens.
Η OpenRouter, σύμφωνα με τα στοιχεία που αναφέρει η NVIDIA, έχει καταγράψει ότι τα agentic AI workloads καταναλώνουν περίπου 15 φορές περισσότερα tokens από ένα απλό αίτημα συνομιλίας. Αυτό εξηγεί γιατί οι μετρήσεις που χρησιμοποιούνται για το κλασικό inference δεν αρκούν για να αποτυπώσουν την πραγματική συμπεριφορά των agents. Η απόδοση πρέπει να αξιολογείται σε ολόκληρη την ακολουθία εργασίας και όχι σε ένα μόνο βήμα παραγωγής απάντησης. Για τις υποδομές που λειτουργούν με περιορισμούς ισχύος, αυτή η μεταβολή αλλάζει πλήρως την εξίσωση κόστους και χωρητικότητας.
Τι δείχνουν οι νέες μετρήσεις της NVIDIA
Η NVIDIA αναφέρει ότι οι μετρήσεις έγιναν με το SemiAnalysis AgentX workload, ένα σύνολο καταγεγραμμένων πραγματικών συνεδριών agentic coding. Το σημαντικό εδώ είναι ότι διατηρούνται στοιχεία όπως η φυσική αύξηση του context, οι tool calls και η δημιουργία sub-agents, ώστε η αξιολόγηση να προσεγγίζει πραγματικές συνθήκες χρήσης. Με βάση αυτά τα δεδομένα, το Vera Rubin NVL72 εμφανίζεται να προσφέρει έως και 30x υψηλότερο throughput ανά μεγαβάτ από το GB300 NVL72 σε agentic workloads. Η NVIDIA σημειώνει επίσης ότι τα αποτελέσματα είναι πρώιμα και τελούν υπό αξιολόγηση από τη SemiAnalysis.
Η εταιρεία προσθέτει ότι το throughput ανά μεγαβάτ μεταφράζεται άμεσα σε περισσότερο παραγόμενο έργο για το ίδιο ενεργειακό αποτύπωμα. Σε περιβάλλοντα όπου η διαθέσιμη ηλεκτρική ισχύς είναι πεπερασμένη, αυτό δεν αποτελεί αφηρημένη τεχνική λεπτομέρεια αλλά βασικό επιχειρησιακό δείκτη. Παράλληλα, η NVIDIA υποστηρίζει ότι το Vera Rubin NVL72 μπορεί να πετύχει έως και 35 φορές χαμηλότερο κόστος ανά εκατομμύριο tokens σε σχέση με το GB300 NVL72. Αν αυτή η σχέση αποτυπωθεί και στην πράξη, τότε η οικονομία λειτουργίας μεγάλων agentic deployments θα μπορούσε να αλλάξει αισθητά.
Η σύγκριση με τις προηγούμενες πλατφόρμες
Πριν από το Vera Rubin, η NVIDIA τοποθετούσε το GB300 NVL72 ως την κύρια βάση για agentic AI πάνω στην αρχιτεκτονική Blackwell. Στα στοιχεία που παραθέτει, το GB300 NVL72 εμφανίζεται να προσφέρει έως και 15x καλύτερο throughput ανά μεγαβάτ από την αρχιτεκτονική Hopper στο μοντέλο DeepSeek V4 Pro. Η εταιρεία αποδίδει αυτή τη βελτίωση τόσο στη μεγαλύτερη κλίμακα του GPU domain όσο και στη συν-σχεδίαση hardware και software. Με άλλα λόγια, η αποδοτικότητα δεν προέρχεται μόνο από τα chips, αλλά και από τον τρόπο με τον οποίο ενοποιούνται στο σύνολο της πλατφόρμας.
Το Vera Rubin, σύμφωνα με την NVIDIA, πηγαίνει αυτή τη λογική ένα βήμα παραπέρα και μετακινεί ολόκληρη την καμπύλη απόδοσης προς τα πάνω. Η αναφορά στο DeepSeek V4 Pro δείχνει ότι οι συγκρίσεις γίνονται πάνω σε απαιτητικά agentic μοντέλα και όχι σε απλά benchmarks συνομιλίας. Παρ’ όλα αυτά, η ίδια η εταιρεία διευκρινίζει ότι οι τρέχουσες μετρήσεις δεν αποτυπώνουν ακόμη την επίδοση του Vera CPU στις διαδικασίες tool calling. Αυτό σημαίνει ότι τα δημοσιευμένα στοιχεία αφορούν ένα συγκεκριμένο τμήμα της συνολικής εικόνας και όχι την πλήρη συμπεριφορά όλης της πλατφόρμας.
Οι τεχνικές βελτιστοποίησης πίσω από την απόδοση
Η NVIDIA αποδίδει το αποτέλεσμα σε ένα σύνολο τεχνικών βελτιστοποίησης που θεωρεί κρίσιμες για το agentic inference. Μεταξύ αυτών περιλαμβάνεται το disaggregated serving, όπου ο χειρισμός του context και η παραγωγή απάντησης διαχωρίζονται ώστε να κλιμακώνονται ανεξάρτητα. Η εταιρεία αναφέρεται επίσης στο rate matching, που συγχρονίζει τον ρυθμό παραγωγής tokens ανάμεσα σε prefill και decode GPUs. Σε περιβάλλοντα με μεγάλα και ακανόνιστα αιτήματα, τέτοιες μέθοδοι μπορούν να επηρεάσουν σημαντικά την αξιοποίηση της διαθέσιμης υποδομής.
Ιδιαίτερη έμφαση δίνεται ακόμη στο distributed KV caching, στο KV-cache offloading και στο KV-aware routing. Αυτές οι τεχνικές έχουν στόχο να διατηρούν διαθέσιμο το ήδη επεξεργασμένο context χωρίς επανυπολογισμό, κάτι ιδιαίτερα σημαντικό όταν οι συνεδρίες διαρκούν πολύ και το context διογκώνεται. Η NVIDIA αναφέρει επίσης fused CUDA kernels όπως το MegaMoE, καθώς και τη χρήση NVFP4 quantization για συμπίεση βαρών στα 4-bit χωρίς απώλεια ποιότητας εξόδου. Σε συνδυασμό με τα Tensor Cores πέμπτης γενιάς και το Transformer Engine τρίτης γενιάς, η εταιρεία περιγράφει ένα μοντέλο βελτιστοποίησης που καλύπτει τόσο το hardware όσο και το επίπεδο runtime.
Ο ρόλος της διασύνδεσης και της κλίμακας
Ένα από τα βασικά σημεία της ανακοίνωσης είναι ότι το NVL72 scale-up domain λειτουργεί ως θεμέλιο για πολλές από τις παραπάνω τεχνικές. Η NVIDIA υποστηρίζει ότι η επικοινωνία από GPU σε GPU με υψηλό bandwidth και χαμηλή καθυστέρηση είναι απαραίτητη για μεγάλης κλίμακας expert parallelism και για κατανεμημένο KV caching. Γι’ αυτόν τον λόγο δίνει έμφαση στο NVLink και στα NVLink Switches έκτης γενιάς. Σύμφωνα με τα στοιχεία της, προσφέρουν 10 φορές υψηλότερο packet rate και τρεις φορές χαμηλότερη καθυστέρηση σε σύγκριση με εμπορικές εναλλακτικές Ethernet.
Η εικόνα αυτή συμπληρώνεται από τη στοίβα λογισμικού της εταιρείας, όπως το NVIDIA TensorRT LLM και το NVIDIA Dynamo. Η NVIDIA υποστηρίζει ότι η συν-σχεδίαση λογισμικού και υλικού είναι αναγκαία για να περάσουν οι βελτιστοποιήσεις από τη θεωρία στην πράξη. Αυτό είναι κρίσιμο ειδικά σε AI factories, όπου η απόδοση μετριέται όχι μόνο σε tokens ανά δευτερόλεπτο αλλά και σε έσοδο ανά μονάδα ισχύος. Σε αυτό το σημείο, η συζήτηση ξεφεύγει από το επίπεδο του μεμονωμένου server και μεταφέρεται στη συνολική αρχιτεκτονική του data center.
Τι σημαίνει για τις AI factories και την αγορά
Η NVIDIA συνδέει άμεσα το throughput ανά μεγαβάτ με τη δυνατότητα μιας AI factory να εξυπηρετεί περισσότερα agentic workloads εντός του ίδιου ενεργειακού ορίου. Παράλληλα, το κόστος ανά εκατομμύριο tokens επηρεάζει το περιθώριο κέρδους αυτής της λειτουργίας. Η αναφορά στην τεχνολογία NVIDIA DSX MaxLPS δείχνει ότι η εταιρεία εξετάζει τη διαχείριση ισχύος σε επίπεδο GPU, rack και workload, με στόχο έως και 40% περισσότερες GPUs μέσα στον ίδιο προϋπολογισμό μεγαβάτ. Για οργανισμούς που σχεδιάζουν μεγάλης κλίμακας υποδομές inference, αυτά τα μεγέθη έχουν πλέον κεντρική σημασία.
Ταυτόχρονα, η ανακοίνωση πρέπει να διαβαστεί με τη συνήθη προσοχή που απαιτούν τα vendor benchmarks. Η NVIDIA μιλά για πρώιμα αποτελέσματα, συνεχιζόμενες βελτιστοποιήσεις λογισμικού και μετρήσεις που ακόμη αναμένουν εξωτερική αξιολόγηση. Αυτό δεν ακυρώνει τη σημασία των στοιχείων, αλλά υπενθυμίζει ότι η τελική αποτίμηση μιας πλατφόρμας θα εξαρτηθεί από ανεξάρτητες δοκιμές και από πραγματικές υλοποιήσεις πελατών. Παρ’ όλα αυτά, η κατεύθυνση είναι σαφής: η ενεργειακή αποδοτικότητα αναδεικνύεται σε καθοριστικό κριτήριο για την επόμενη φάση της agentic AI.
