Πώς να μειώσετε τον προϋπολογισμό για τα tokens χωρίς να μειώσετε την ομάδα
Η διαχείριση των πόρων μιας εταιρείας είναι μια κρίσιμη πρόκληση, ειδικά όταν πρόκειται για την εξισορρόπηση του κόστους των tokens τεχνητής νοημοσύνης με τη διατήρηση μιας ισχυρής ομάδας μηχανικών. Ο Jensen Huang, διευθύνων σύμβουλος της Nvidia, έχει θέσει ένα συγκεκριμένο κριτήριο για την αξιολόγηση των μηχανικών: αν η ετήσια κατανάλωση tokens ενός μηχανικού που αμείβεται με 500.000 δολάρια είναι λιγότερη από το μισό του μισθού του, τότε αυτό αποτελεί λόγο ανησυχίας. Η Nvidia στοχεύει σε έναν ετήσιο λογαριασμό tokens ύψους 2 δισεκατομμυρίων δολαρίων για το προσωπικό της.
Η αύξηση των δαπανών για tokens και η μείωση του προσωπικού
Η τάση αυτή αντικατοπτρίζει μια γενικότερη μετατόπιση που παρατηρείται σε πολλές εταιρείες: χρήματα που κάποτε προορίζονταν για μισθούς τώρα κατευθύνονται προς την αγορά tokens. Οι μεγαλύτερες εταιρείες τεχνολογίας έχουν προβλέψει συνολικές κεφαλαιακές δαπάνες ύψους περίπου 700 δισεκατομμυρίων δολαρίων για το 2026, σχεδόν διπλάσιες από το προηγούμενο έτος. Παράλληλα, οι απολύσεις στις ΗΠΑ έχουν καταγραφεί σε ρεκόρ, με την τεχνητή νοημοσύνη να αποτελεί τον πιο συχνά αναφερόμενο λόγο.
Μια εσωτερική αναφορά της Meta αποκάλυψε ότι οι απολύσεις 8.000 εργαζομένων τον Μάιο αντισταθμίστηκαν από σημαντικές επενδύσεις, ενώ τα έσοδα αυξήθηκαν κατά 33%. Αυτές οι απολύσεις δεν γίνονται για λόγους επιβίωσης, αλλά για να χρηματοδοτήσουν τις νέες τεχνολογίες.
Η αποτυχία των επενδύσεων σε tokens
Ωστόσο, οι επενδύσεις αυτές δεν έχουν αποδώσει τα αναμενόμενα. Σύμφωνα με έρευνα της Gartner σε 350 στελέχη μεγάλων εταιρειών, το 80% αυτών που μείωσαν το προσωπικό δεν είδαν βελτίωση στις αποδόσεις. Η αναλύτρια Helen Poitevin ανέφερε ότι οι μειώσεις προσωπικού μπορεί να δημιουργούν χώρο στον προϋπολογισμό, αλλά δεν αυξάνουν τις αποδόσεις.
Η Uber, για παράδειγμα, έδωσε σε 5.000 μηχανικούς εργαλεία AI για προγραμματισμό, εξαντλώντας τον προϋπολογισμό της για το 2026 μέχρι τον Απρίλιο. Παρά το γεγονός ότι το 70% του κώδικα δημιουργήθηκε από AI, η σύνδεση με τις ανάγκες των πελατών δεν ήταν εμφανής.
Πώς να προσαρμόσετε τον προϋπολογισμό για τα tokens
Η λύση βρίσκεται στη σωστή διαχείριση του προϋπολογισμού για τα tokens. Η πιο οικονομική λύση είναι να αποφεύγεται η επεξεργασία του ίδιου κειμένου πολλές φορές. Η αποθήκευση των προτροπών, που πλέον είναι στάνταρ στους μεγάλους παρόχους API, μπορεί να μειώσει το κόστος κατά 90% για επαναλαμβανόμενες εισόδους.
Επιπλέον, η κατεύθυνση της εργασίας στο κατάλληλο μοντέλο μπορεί να μειώσει το κόστος. Τα κύρια μοντέλα είναι πέντε φορές ακριβότερα από τα μικρότερα, ενώ η επεξεργασία παρτίδων προσφέρει επιπλέον εκπτώσεις για εργασίες που δεν απαιτούν άμεση απάντηση.
Η σημασία του ανθρώπινου παράγοντα
Η βελτιστοποίηση του προϋπολογισμού για τα tokens έχει αξία μόνο αν οι εξοικονομήσεις επενδυθούν παραγωγικά, και οι άνθρωποι είναι το κλειδί. Οι εταιρείες που βελτίωσαν τις αποδόσεις τους ήταν αυτές που χρησιμοποίησαν την AI για να ενισχύσουν το προσωπικό τους και όχι για να το αντικαταστήσουν.
Η Klarna, για παράδειγμα, αντικατέστησε 700 θέσεις εξυπηρέτησης πελατών με έναν βοηθό AI, αλλά η ικανοποίηση των πελατών μειώθηκε. Τώρα, λειτουργεί με ένα μεικτό μοντέλο, όπου η AI αναλαμβάνει τις ρουτίνες και οι άνθρωποι τις πιο περίπλοκες εργασίες.
Συμπέρασμα: Η ευελιξία του προϋπολογισμού για τα tokens
Η πρόκληση για τις εταιρείες είναι να αναγνωρίσουν ότι ο προϋπολογισμός για τα tokens είναι ευέλικτος. Οι εταιρείες που θα προχωρήσουν μπροστά δεν θα είναι αυτές που ξόδεψαν τα περισσότερα σε tokens ή απέλυσαν το περισσότερο προσωπικό. Θα είναι αυτές που κατάλαβαν ότι ο προϋπολογισμός για τα tokens μπορεί να συμπιεστεί μέσω της μηχανικής και επένδυσαν τη διαφορά στους ανθρώπους που δίνουν αξία στα tokens.
