Η νέα πρόκληση στις υποδομές agentic AI
Η NVIDIA περιγράφει τα σύγχρονα AI factories ως διασυνδεδεμένα συστήματα, όπου η πραγματική αποδοτικότητα δεν κρίνεται μόνο από την ισχύ των GPU, αλλά από το πόσο αποτελεσματικά ολόκληρη η τεχνολογική στοίβα μετατρέπει ενέργεια και κεφάλαιο σε ολοκληρωμένες εργασίες agent. Σε αυτό το μοντέλο, οι GPU αναλαμβάνουν την εκτέλεση των μοντέλων, ενώ οι CPU έχουν κρίσιμο ρόλο στην ορχήστρωση, στην εκτέλεση εργαλείων και σε απομονωμένους υπολογισμούς. Η ιδιαιτερότητα των agentic φορτίων είναι ότι δεν εμφανίζουν σταθερό ή εύκολα προβλέψιμο προφίλ εκτέλεσης. Αυτό δυσκολεύει σημαντικά τον σχεδιασμό ενός στόλου συστημάτων που να είναι αποδοτικός σε μεγάλη κλίμακα.
Η εταιρεία στηρίζει το επιχείρημά της σε τηλεμετρία από 163.594 agentic συνεδρίες, από τις οποίες πάνω από το 97% εμφάνισε μοναδικό προφίλ πορείας. Με απλά λόγια, σχεδόν κάθε συνεδρία ακολουθεί διαφορετική διαδρομή ως προς τα βήματα λογικής, τις κλήσεις εργαλείων, τις επαναλήψεις και τα παράλληλα υποέργα. Αυτό σημαίνει ότι δεν είναι πρακτικό να δημιουργηθεί ένας στόλος CPU με πολλά εξειδικευμένα σημεία σχεδίασης, καθένα προσαρμοσμένο σε διαφορετικό σενάριο. Κατά την NVIDIA, η ανάγκη πλέον είναι για μια πιο ισορροπημένη αρχιτεκτονική που να αποδίδει καλά σε μεγάλο εύρος συνθηκών.
Γιατί η σειριακή διαδρομή παραμένει καθοριστική
Η NVIDIA εξηγεί ότι κάθε agentic τροχιά έχει δύο βασικές διαστάσεις, το μήκος και το πλάτος. Το μήκος αφορά πόσα βήματα συλλογισμού, κλήσεις εργαλείων, retries και επιμέρους εργασίες απαιτούνται μέχρι να ολοκληρωθεί ένα turn. Το πλάτος αφορά πόση εργασία ανοίγει παράλληλα σε κάθε στάδιο, όπως ταυτόχρονες κλήσεις εργαλείων, ανακτήσεις δεδομένων, sandboxes ή sub-agents. Παρότι αυτές οι εξάρσεις παράλληλης δραστηριότητας είναι σημαντικές, δεν είναι εκείνες που καθορίζουν πάντοτε τον συνολικό χρόνο ολοκλήρωσης.
Σύμφωνα με τα δεδομένα της εταιρείας, η κυρίαρχη ακολουθία εκτέλεσης στις πραγματικές συνεδρίες είναι μακρά και ιδιαίτερα ευαίσθητη στην καθυστέρηση. Ακόμη και όταν υπάρχουν σύντομες περίοδοι έντονου fan-out, ο κύριος agent συχνά περιμένει να ολοκληρωθούν οι παράλληλες εργασίες πριν προχωρήσει στο επόμενο βήμα. Αυτό σημαίνει ότι η απόδοση ανά νήμα, και τελικά ανά πυρήνα, εξακολουθεί να επηρεάζει άμεσα τον χρόνο απόκρισης από άκρο σε άκρο. Για τον λόγο αυτό, η βελτιστοποίηση ενός στόλου CPU δεν μπορεί να βασίζεται μόνο στον αριθμό των πυρήνων.
Τι δείχνει η τηλεμετρία από πραγματικές συνεδρίες
Η NVIDIA φέρνει ως παράδειγμα μια πραγματική συνεδρία Claude Code, όπου ο κύριος agent προχωρά σε μια μακρά σειριακή πορεία στο μεγαλύτερο μέρος μιας εκτέλεσης διάρκειας 33 λεπτών. Μέσα σε αυτή τη συνεδρία εμφανίζονται και περίοδοι παράλληλης δραστηριότητας από sub-agents, οι οποίες όμως είναι παροδικές. Η εικόνα που προκύπτει δεν είναι αυτή ενός φορτίου καθαρά παράλληλου, αλλά ενός υβριδικού μοτίβου με ισχυρή εξάρτηση από διαδοχικά βήματα. Αυτό ενισχύει τη θέση ότι η CPU πρέπει να εξυπηρετεί και τις δύο όψεις του προβλήματος χωρίς μεγάλους συμβιβασμούς.
Η πρακτική σημασία αυτής της παρατήρησης είναι ότι ένα σύστημα με πολύ υψηλή πυκνότητα πυρήνων μπορεί να φαίνεται αποδοτικό στα χαρτιά, αλλά να υστερεί σε πραγματικές agentic συνθήκες. Αν η αύξηση των πυρήνων συνοδεύεται από χαμηλότερη απόδοση ανά νήμα, τότε η κρίσιμη σειριακή διαδρομή επιβραδύνεται. Επιπλέον, σε ιδιαίτερα παράλληλα ή ετερογενή clusters μπορεί να αυξηθεί και το κόστος συγχρονισμού. Έτσι, η μέτρηση που έχει πραγματική αξία δεν είναι απλώς η ακατέργαστη υπολογιστική πυκνότητα, αλλά ο συνολικός αριθμός ολοκληρωμένων user sessions.
Το πρόβλημα της μνήμης και των αδρανών πόρων
Ένα από τα πιο ενδιαφέροντα σημεία της ανάλυσης αφορά τη σχέση απόδοσης και μνήμης. Η NVIDIA σημειώνει ότι μια CPU μπορεί στιγμιαία να «κλείνει» πυρήνες ώστε να ανεβάζει τη μονονηματική απόδοση. Όμως αυτή η προσέγγιση μπορεί να αφήνει αχρησιμοποίητη τη συνδεδεμένη μνήμη, με εκτιμώμενο κόστος έως και 8 GB ανά πυρήνα. Σε μεγάλη κλίμακα, αυτό μετατρέπεται σε ζήτημα συνολικού κόστους ιδιοκτησίας και όχι μόνο σε τεχνική λεπτομέρεια.
Η εταιρεία υποστηρίζει ότι μια σωστά ισορροπημένη σχεδίαση πρέπει να αξιοποιεί αποτελεσματικά όλη την τροχιά του φορτίου, όχι μόνο μία φάση της. Αυτό σημαίνει συνδυασμό καλής απόκρισης ανά νήμα, επαρκούς ταυτόχρονης εκτέλεσης, μεγάλου εύρους ζώνης μνήμης και αποδοτικής χρήσης ισχύος. Στόχος είναι να αποφεύγονται οι «παγιδευμένοι» πόροι, είτε μιλάμε για CPU cores είτε για DRAM, είτε για τη μνήμη HBM των GPU. Με αυτή τη λογική, η αρχιτεκτονική της CPU επηρεάζει άμεσα την οικονομία του συνολικού στόλου.
Πώς το Vera CPU τοποθετείται απέναντι σε αυτά τα φορτία
Η NVIDIA παρουσιάζει το Vera CPU ως σχεδιασμό προσανατολισμένο ακριβώς σε αυτό το σημείο ισορροπίας. Όπως αναφέρει, οι πυρήνες NVIDIA Olympus έχουν σχεδιαστεί ώστε να διατηρούν υψηλή απόδοση ανά νήμα ακόμη και όταν ολόκληρο το socket βρίσκεται σε πλήρες φορτίο. Η εταιρεία αποδίδει αυτή τη συμπεριφορά σε στοιχεία όπως ευρύ front end, προηγμένη πρόβλεψη διακλαδώσεων, βαθιά out-of-order εκτέλεση και υποσύστημα μνήμης υψηλού bandwidth. Αυτά είναι χαρακτηριστικά που στοχεύουν σε κώδικα με πολλά branches, δυναμικά runtimes και μεγάλες αλυσίδες εξαρτήσεων.
Το επιχείρημα της NVIDIA είναι ότι τα agentic workloads δεν απαιτούν μόνο περισσότερους πυρήνες, αλλά πυρήνες που να παραμένουν γρήγοροι σε πραγματικές συνθήκες φόρτου. Η ανάγκη για σύντομες εξάρσεις concurrency δεν αναιρεί τη σημασία της χαμηλής καθυστέρησης στο κρίσιμο μονοπάτι εκτέλεσης. Αντίθετα, οι δύο απαιτήσεις συνυπάρχουν μέσα στην ίδια συνεδρία. Γι’ αυτό και το Vera προβάλλεται ως βάση για έναν ενιαίο σχεδιασμό στόλου, αντί για ξεχωριστές κατηγορίες CPU ανά χρήση.
Οι επιδόσεις που επικαλείται η NVIDIA και το πλαίσιο σύγκρισης
Για να υποστηρίξει τη θέση της, η NVIDIA παραπέμπει σε εκτιμώμενα αποτελέσματα SPEC CPU 2026, τα οποία σύμφωνα με την ίδια αναδεικνύουν την απόδοση ανά πυρήνα του Vera σε τυπικά agentic φορτία. Στη σύγκριση περιλαμβάνονται εργασίες όπως compiler workloads, static analysis και Python benchmarks, δηλαδή πεδία που σχετίζονται με τις λειτουργίες που συναντώνται σε agents και toolchains. Με βάση αυτές τις εσωτερικές μετρήσεις, η εταιρεία αναφέρει έως και 1,5x agentic απόδοση σε σχέση με το νεότερο ανταγωνιστικό σύστημα AMD Venice. Ωστόσο, τονίζει ότι πρόκειται για εσωτερικές μετρήσεις και ότι τα αποτελέσματα μπορεί να διαφέρουν.
Η σύγκριση με το AMD Venice δίνεται με επιπλέον τεχνικές διευκρινίσεις, καθώς μέρος της εκτίμησης βασίστηκε σε κανονικοποίηση αποτελεσμάτων από εσωτερικές μετρήσεις Turin και σε SPECrate 2026_int_base score 2070. Αυτό έχει σημασία, επειδή δείχνει ότι η εικόνα που παρουσιάζεται δεν είναι ανεξάρτητο benchmark τρίτου φορέα, αλλά τεχνική εκτίμηση της ίδιας της NVIDIA. Παρ’ όλα αυτά, η ουσία της ανάλυσης δεν αλλάζει: η εταιρεία επιχειρεί να μεταφέρει τη συζήτηση από τον ακατέργαστο αριθμό πυρήνων στην ολοκλήρωση πραγματικών συνεδριών agent. Εκεί είναι που θεωρεί ότι η ισορροπημένη αρχιτεκτονική του Vera έχει πλεονέκτημα.
Τι σημαίνει αυτό για τα AI factories
Το βασικό συμπέρασμα της ανάρτησης είναι ότι ένας βέλτιστος agentic στόλος δεν χρειάζεται απαραίτητα πολλαπλά εξειδικευμένα σημεία σχεδίασης CPU. Αν οι πραγματικές συνεδρίες είναι τόσο απρόβλεπτες όσο δείχνει η τηλεμετρία, τότε η πολυδιάσπαση της υποδομής αυξάνει την πολυπλοκότητα χωρίς να εγγυάται καλύτερη αξιοποίηση. Η NVIDIA προτείνει ένα ενιαίο, ισορροπημένο σημείο σχεδίασης που να εξυπηρετεί τόσο τη σειριακή πρόοδο όσο και τις παροδικές εξάρσεις παραλληλισμού. Σε θεωρητικό επίπεδο, αυτή η προσέγγιση υπόσχεται πιο ομοιόμορφη χρήση υπολογιστικών και μνημονικών πόρων.
Για τις επιχειρήσεις που επενδύουν σε AI factories, η συζήτηση αυτή αφορά τελικά την παραγωγικότητα του συστήματος σε επίπεδο ολοκληρωμένων εργασιών. Η καθυστέρηση στο κρίσιμο μονοπάτι, η διαχείριση της μνήμης και η συμπεριφορά υπό πλήρες φορτίο γίνονται βασικά κριτήρια, όχι δευτερεύουσες λεπτομέρειες. Το Vera CPU παρουσιάζεται από την NVIDIA ως απάντηση σε αυτή τη μετατόπιση των προτεραιοτήτων, με έμφαση στη σταθερή απόδοση ανά πυρήνα και στη μείωση των αδρανών πόρων. Το κατά πόσο αυτό θα επιβεβαιωθεί ευρύτερα θα φανεί όταν υπάρξουν περισσότερα ανεξάρτητα δεδομένα από πραγματικές εγκαταστάσεις.
