Η NVIDIA παρουσιάζει τη Minerva: Μια πλατφόρμα AIOps για την αύξηση της παραγωγικότητας των εργοστασίων AI
Η NVIDIA έχει λανσάρει τη Minerva, μια πλατφόρμα AIOps σχεδιασμένη να διατηρεί τα εργοστάσια τεχνητής νοημοσύνης παραγωγικά, συσχετίζοντας την τηλεμετρία υποδομής και φόρτου εργασίας σε ένα ενιαίο σημείο. Αυτή η καινοτομία στοχεύει να υποστηρίξει τους διαχειριστές που διαχειρίζονται μεγάλες συστοιχίες, όπου ένα μόνο υποβαθμισμένο εξάρτημα μπορεί να επιβραδύνει μια ολόκληρη εργασία εκπαίδευσης. Η εταιρεία ανακοίνωσε το εργαλείο αυτό σήμερα, με την IREN να αποτελεί έναν από τους συνεργάτες που το έχουν ήδη υιοθετήσει.
Συσχέτιση τηλεμετρίας στις GPU και υποδομές δικτύου
Η παραδοσιακή παρακολούθηση διαχωρίζει ένα κέντρο δεδομένων σε ξεχωριστές προβολές. Οι ομάδες δικτύωσης παρακολουθούν ένα μέρος, οι μηχανικοί υπολογιστών ένα άλλο, και το προσωπικό αξιοπιστίας του ιστότοπου εργάζεται από κονσόλες που δεν μοιράζονται ένα μοντέλο με την ομάδα μηχανικής μάθησης. Η Minerva συγχωνεύει αυτά τα σήματα σε μια ενιαία λειτουργική προβολή. Η πλατφόρμα συλλέγει τηλεμετρία από τις GPU και την υποδομή δικτύου, ενώ συμβάλλει και η αποθήκευση, μαζί με τους προγραμματιστές που αποφασίζουν πού θα εκτελεστούν οι εργασίες. Από αυτές τις εισροές, δημιουργεί ένα δυναμικό γράφημα γνώσης και χαρτογραφεί το υλικό σε σχέση με τις εργασίες που εκτελούνται πάνω του. Οι διαχειριστές μπορούν να εντοπίσουν μια αργή εργασία εκπαίδευσης μέχρι το εξάρτημα που την επηρεάζει, ακόμη και μέσα σε ένα εργοστάσιο με εκατοντάδες χιλιάδες GPUs.
Ανάλυση δεδομένων και πρόβλεψη αποτυχιών
Η αδράνεια των GPUs είναι το κόστος που κρύβεται πίσω από όλα αυτά. Όταν μια εργασία σταματά σε μια κάρτα που λειτουργεί πιο ζεστά από τις υπόλοιπες, ή ένας δίσκος NVMe χάνει απόδοση υπό φορτίο, η απόδοση πέφτει σε όλη τη συστοιχία και η παραγωγή μειώνεται. Τα προειδοποιητικά σημάδια είναι εύκολο να παραβλεφθούν σε αυτή την κλίμακα. Η Minerva αναλύει δισεκατομμύρια σημεία δεδομένων ανά ώρα, χρησιμοποιώντας επιβλεπόμενη και μη επιβλεπόμενη μηχανική μάθηση. Τα μοντέλα μαθαίνουν τη φυσιολογική συμπεριφορά για μια δεδομένη τοπολογία, ανιχνεύουν ανωμαλίες που η πλατφόρμα δεν έχει συναντήσει προηγουμένως και προβλέπουν αποτυχίες που βρίσκονται ακόμα σε εξέλιξη.
Μείωση όγκου ειδοποιήσεων και διαχείριση συμβάντων
Ο όγκος των ειδοποιήσεων είναι το σημείο όπου καταλήγει μεγάλο μέρος αυτής της εργασίας. Χωρίς συσχέτιση, ένα οριακό καλώδιο μπορεί να διαρρεύσει συμπτώματα σε κάθε πίνακα ελέγχου στο εργοστάσιο, και ο διαχειριστής καταλήγει να διαχειρίζεται την καταιγίδα αντί για την αιτία. Η Minerva ομαδοποιεί μια καταιγίδα γεγονότων σε ένα εστιασμένο περιστατικό με πιθανή ρίζα αιτίας, το οποίο είναι η διαφορά μεταξύ της καταδίωξης ειδοποιήσεων και του προγραμματισμού συντήρησης.
Αυτόματη αποκατάσταση σε λειτουργίες παραγωγής
Ένας εγγενής βοηθός AI παρέχει στους διαχειριστές μια διεπαφή φυσικής γλώσσας που βασίζεται σε ζωντανή τηλεμετρία. Μπορούν να εξετάσουν την υγεία της συστοιχίας και να λάβουν προτεινόμενες διορθώσεις μέσω συζήτησης, και στη συνέχεια να επιλέξουν αν θα εφαρμόσει την επιδιόρθωση ένα άτομο ή αν η Minerva θα την παραδώσει στην αυτοματοποίηση μέσω APIs υποδομής και εξωτερικών συστημάτων. Υποστηρίζονται επίσης συνδέσεις με εργαλεία AI τρίτων.
Συμπεράσματα και μελλοντικές προοπτικές
Η NVIDIA παρουσιάζει την απόδοση ως απόδοση εργοστασίου AI, μετρημένη σε ώρες GPU και απόδοση. Η πρόταση καλύπτει μεγαλύτερα διαστήματα μεταξύ διακοπών, ταχύτερη επισκευή όταν κάτι σπάει, και λιγότερες ειδοποιήσεις που φτάνουν στην ουρά ενός διαχειριστή. Τίποτα από αυτά δεν έχει επαληθευτεί ανεξάρτητα ακόμα, αλλά η IREN λειτουργεί εργοστάσια AI και έχει υιοθετήσει την πλατφόρμα. Ο Denis Skrinnikoff, CTO της IREN, δήλωσε: «Καθώς επεκτείνουμε τα εργοστάσια AI μας, το κλειδί για την παροχή της καλύτερης υπηρεσίας για τους πελάτες μας είναι η μεγιστοποίηση της παραγωγικότητας των GPUs μας. Η NVIDIA Minerva παρέχει στην ομάδα λειτουργιών μας μια ενιαία προβολή σε όλο το δίκτυο, τις GPUs και τις εργασίες που εκτελούνται πάνω τους, ώστε να επικεντρωνόμαστε περισσότερο στην προληπτική συντήρηση παρά στην αντιμετώπιση προβλημάτων. Αυτή η ορατότητα ενισχύει το λειτουργικό μας μοντέλο για την υποδομή που κατασκευάζουμε στη συνέχεια».
