Η Microsoft αφιερώνει το τρίτο μέρος της σειράς The Economics of Agent Optimization σε ένα θέμα που συνήθως μένει στο περιθώριο όταν σχεδιάζονται AI agents για επιχειρησιακή χρήση. Αντί να εστιάζει μόνο στην επιλογή μοντέλου ή στις αρχικές οδηγίες, εξετάζει τι ακριβώς βλέπει το μοντέλο σε κάθε κύκλο εκτέλεσης. Αυτό το σύνολο πληροφοριών, εργαλείων και ιστορικού είναι ο βασικός μοχλός τόσο του κόστους όσο και της ποιότητας. Η εταιρεία ονομάζει τη διαχείρισή του context engineering και το παρουσιάζει ως κρίσιμο πεδίο βελτιστοποίησης για συστήματα που λειτουργούν σε παραγωγή.
Η βασική ιδέα είναι απλή, αλλά οι συνέπειες μεγάλες. Ένα μοντέλο δεν διατηρεί μνήμη από μόνο του, άρα σε κάθε νέο βήμα πρέπει να λαμβάνει ξανά τις οδηγίες, τα έγγραφα, τα διαθέσιμα εργαλεία και το ιστορικό συνομιλίας. Σε ένα απλό chatbot αυτό μπορεί να είναι διαχειρίσιμο. Σε έναν agent που ολοκληρώνει σύνθετες εργασίες σε πολλαπλά βήματα, η συνεχής επανάληψη περιεχομένου μετατρέπεται συχνά στο μεγαλύτερο λειτουργικό κόστος.
Γιατί το context window καθορίζει το κόστος
Η Microsoft υποστηρίζει ότι πολλές ομάδες αφήνουν τις αποφάσεις για το context όπως διαμορφώθηκαν στο στάδιο του πρωτοτύπου. Στην πράξη, όμως, το τι μπαίνει στο context window επηρεάζει κάθε κλήση προς το μοντέλο και άρα χρεώνεται ξανά και ξανά. Όταν προστίθενται άσχετα έγγραφα, μακροσκελείς λίστες εργαλείων ή περιττό ιστορικό, το κόστος δεν ανεβαίνει μία φορά, αλλά σε κάθε διαδοχικό turn. Αυτό κάνει την κακή διαχείριση των συμφραζομένων μια ακριβή συνήθεια.
Το πρόβλημα δεν είναι μόνο οικονομικό. Περισσότερο context δεν σημαίνει αυτομάτως καλύτερες απαντήσεις, γιατί η σχετική πληροφορία μπορεί να χαθεί μέσα σε δεκάδες σελίδες περιεχομένου. Παράλληλα, μια μεγάλη λίστα εργαλείων αυξάνει την πιθανότητα λανθασμένης επιλογής, άρα και την ανάγκη για επιπλέον βήματα διόρθωσης. Έτσι, η αφαίρεση περιττού context παρουσιάζεται ως μια σπάνια μορφή βελτιστοποίησης που μειώνει το κόστος χωρίς να απαιτεί συμβιβασμό στην ποιότητα.
Τι σημαίνει στην πράξη το context engineering
Στο πλαίσιο που περιγράφει η Microsoft, το context engineering είναι η συνεχής επιλογή του τι χρειάζεται ο agent σε κάθε συγκεκριμένο αίτημα. Δεν πρόκειται μόνο για αρχιτεκτονική απόφαση κατά τον σχεδιασμό, αλλά για μηχανισμό βελτίωσης όσο το σύστημα χρησιμοποιείται. Κάθε εκτέλεση δείχνει τι ήταν πράγματι χρήσιμο και τι απλώς κατέλαβε χώρο και tokens. Με αυτόν τον τρόπο, το context γίνεται το σημείο όπου ένας agent μπορεί να βελτιώνεται χωρίς να αλλάζει το υποκείμενο μοντέλο.
Η Microsoft οργανώνει αυτή τη δουλειά γύρω από τέσσερα ερωτήματα. Τι πρέπει να γνωρίζει ο agent, σε ποια εργαλεία πρέπει να έχει πρόσβαση, πώς πρέπει να εκτελεί τη δουλειά του και τι αξίζει να θυμάται. Η λογική αυτής της δομής είναι ότι η ποιότητα ενός agent δεν κρίνεται μόνο από το μοντέλο του, αλλά και από το πόσο πειθαρχημένα επιλέγονται η γνώση, οι διαδικασίες και η συνέχεια της αλληλεπίδρασης. Αυτή η προσέγγιση μεταφέρει το βάρος από το prompt ως στατικό κείμενο σε ένα δυναμικό σύστημα οργάνωσης συμφραζομένων.
Γνώση με λιγότερο θόρυβο και χαμηλότερο κόστος
Στο πεδίο της γνώσης, το άρθρο ασκεί κριτική στη συνήθη πρακτική όπου ο agent φορτώνει ολόκληρα έγγραφα μέσα στο prompt. Η μέθοδος αυτή είναι εύκολη στην υλοποίηση, αλλά ακριβή στη λειτουργία και συχνά αναποτελεσματική, επειδή το μοντέλο καλείται να εντοπίσει το κρίσιμο στοιχείο μέσα σε υπερβολικό υλικό. Ως εναλλακτική, η Microsoft προβάλλει το Foundry IQ ως διαχειριζόμενο επίπεδο γνώσης. Μια knowledge base μπορεί να συνδέεται με πηγές όπως Work IQ, Fabric IQ, Web IQ, Azure Blob Storage, SharePoint, OneLake και Azure SQL.
Όταν υποβάλλεται ένα ερώτημα, το Foundry IQ το διασπά σε υποερωτήματα, αναζητά παράλληλα στις συνδεδεμένες πηγές, κάνει semantic reranking και επιστρέφει τεκμηριωμένα αποσπάσματα με παραπομπές. Η λογική είναι ότι στο context μπαίνει μόνο το πιο σχετικό τεκμήριο και όχι όλο το αρχικό υλικό. Η Microsoft αναφέρει επίσης ότι η ίδια knowledge base μπορεί να εξυπηρετεί πολλούς agents και ότι μπορούν να εφαρμόζονται πολιτικές πρόσβασης με βάση το Microsoft Entra, συγχρονισμός λιστών ελέγχου πρόσβασης και labels ευαισθησίας από το Microsoft Purview. Σε εσωτερικές αξιολογήσεις, οι knowledge bases του Foundry IQ βελτίωσαν την ανάκληση τεκμηρίων έως 54% στο benchmark BrowseComp-Plus, ενώ μείωσαν το retrieval token cost κατά 34%.
Εργαλεία, αλλά χωρίς μόνιμη επιβάρυνση στο prompt
Η δεύτερη μεγάλη πηγή κόστους είναι τα εργαλεία που εκτίθενται στο μοντέλο. Κάθε νέο εργαλείο μπορεί να προστίθεται εύκολα στον κώδικα, όμως η πλήρης περιγραφή του συνοδεύει τον agent σε κάθε turn, είτε χρησιμοποιηθεί είτε όχι. Σε enterprise περιβάλλοντα, όπου οι agents συνδέονται με όλο και περισσότερα συστήματα, αυτή η επιβάρυνση μπορεί να αυξηθεί γρήγορα. Η Microsoft προτείνει εδώ τα Toolboxes στο Foundry, τα οποία συγκεντρώνουν built-in εργαλεία, custom MCP servers, OpenAPI 3.0 και 3.1 APIs και A2A agents σε ένα διαχειριζόμενο endpoint.
Το καθοριστικό στοιχείο δεν είναι μόνο η οργάνωση των εργαλείων, αλλά η δυνατότητα tool search μέσα στο Toolbox. Αντί το μοντέλο να βλέπει εξαρχής ολόκληρη τη λίστα, λαμβάνει έναν τρόπο να περιγράψει τι χρειάζεται και έναν τρόπο να καλέσει ό,τι επιστραφεί. Έτσι, το κόστος της λίστας εργαλείων παραμένει σταθερό ακόμη κι αν η βιβλιοθήκη μεγαλώνει. Σύμφωνα με τα εσωτερικά benchmarks που παραθέτει η Microsoft, τα Toolboxes στο Foundry μείωσαν την κατανάλωση input tokens κατά περίπου 97% σε μεγάλες βιβλιοθήκες εργαλείων, ενώ ταυτόχρονα περιόρισαν τα λάθη επιλογής και τα επόμενα βήματα αποκατάστασης.
Διαδικασίες και οδηγίες που επαναχρησιμοποιούνται
Ένας agent δεν χρειάζεται μόνο γνώση και πρόσβαση σε εργαλεία, αλλά και σαφή τρόπο εργασίας σύμφωνα με τις πολιτικές μιας επιχείρησης. Συχνά, αυτές οι διαδικασίες ενσωματώνονται αυτούσιες στις οδηγίες του agent και αντιγράφονται σε πολλά διαφορετικά συστήματα. Αυτό σημαίνει ότι οι ίδιες εκτενείς οδηγίες μεταφέρονται επανειλημμένα ακόμη και όταν δεν είναι σχετικές με το τρέχον αίτημα. Η Microsoft προτείνει να μετατραπούν αυτές οι διαδικασίες σε Skills, δηλαδή σε ονομασμένες και επαναχρησιμοποιήσιμες ρουτίνες που αποθηκεύονται κεντρικά στο Foundry.
Μέσα από το Toolbox, κάθε agent βλέπει αρχικά μόνο το όνομα και μια σύντομη περιγραφή του Skill. Οι πλήρεις οδηγίες φορτώνονται μόνο όταν το Skill είναι πράγματι χρήσιμο για τη συγκεκριμένη εργασία. Αυτό επιτρέπει σε έναν οργανισμό να διατηρεί μεγάλη βιβλιοθήκη διαδικασιών χωρίς να γεμίζει κάθε αλληλεπίδραση με περιττό κείμενο. Παράλληλα, όταν μια εταιρική πολιτική αλλάζει, μπορεί να εκδοθεί νέα έκδοση του Skill και να υιοθετηθεί από τους agents χωρίς νέο deployment ή αλλαγές στον κώδικα.
Μνήμη με έλεγχο και όχι άσκοπη επανάληψη
Η μνήμη είναι το τέταρτο στοιχείο της εξίσωσης και αφορά κυρίως τη συνέχεια μιας σχέσης με τον χρήστη ή μιας επαναλαμβανόμενης εργασίας. Η Microsoft σημειώνει ότι η επαναποστολή ολόκληρου του ιστορικού συνομιλιών στο μοντέλο καταναλώνει context και αυξάνει το κόστος, ακόμη κι όταν ελάχιστες λεπτομέρειες είναι πραγματικά χρήσιμες. Στο Foundry Agent Service, η μνήμη διαχωρίζεται σε session memory για την τρέχουσα συνομιλία, user memory για προτιμήσεις και σταθερά στοιχεία μεταξύ συνεδριών και procedural memory για μοτίβα εκτέλεσης εργασιών. Η διάκριση αυτή επιτρέπει στο σύστημα να κρατά ό,τι έχει αξία χωρίς να επαναλαμβάνει τα πάντα.
Ιδιαίτερο ενδιαφέρον έχει η procedural memory, επειδή λειτουργεί συμπληρωματικά προς τα centrally managed Skills. Το Skill ορίζει την εγκεκριμένη οργανωσιακή διαδικασία, ενώ η procedural memory βοηθά τον agent να μαθαίνει από τη δική του εκτέλεση καθηκόντων. Στις αξιολογήσεις της Microsoft, η ενεργοποίηση της procedural memory έφερε βελτίωση περίπου 5% στα STATE-Bench και Tau-Bench. Η εταιρεία προσθέτει ότι οι οργανισμοί μπορούν να ελέγχουν τι αποθηκεύεται μέσω user-level isolation, πολιτικών διατήρησης και ρυθμίσεων time-to-live.
Από μεμονωμένες τεχνικές σε ενιαίο σύστημα
Το τελικό επιχείρημα του άρθρου είναι ότι η πραγματική δυσκολία δεν βρίσκεται στο να στηθεί ξεχωριστά η ανάκτηση γνώσης, η μνήμη ή η πρόσβαση σε εργαλεία. Το δύσκολο μέρος είναι να λειτουργούν όλα μαζί, κάτω από κοινές άδειες πρόσβασης και με συνεχή ενημέρωση όταν αλλάζουν δεδομένα, πολιτικές και διαδικασίες. Η Microsoft τοποθετεί το Foundry ως το ενιαίο στρώμα που συντονίζει knowledge, tools, skills και memory. Ταυτόχρονα, αναφέρει συμβατότητα με frameworks όπως Microsoft Agent Framework, LangGraph, GitHub Copilot SDK και Claude Agent SDK.
Σε αυτό το μοντέλο, ο agent δεν χρειάζεται να ξαναχτίζεται κάθε φορά που αλλάζει ένα επιμέρους στοιχείο. Οι knowledge bases ανανεώνονται καθώς μεταβάλλονται οι πηγές, τα Skills εξελίσσονται μαζί με τις πολιτικές και η μνήμη συσσωρεύει ό,τι είναι χρήσιμο για χρήστες και ροές εργασίας. Επιπλέον, το agent optimizer στο Foundry Agent Service κλείνει τον κύκλο αναλύοντας τη συμπεριφορά του agent και προτείνοντας βελτιώσεις σε οδηγίες, Skills, περιγραφές εργαλείων και ρυθμίσεις μοντέλων. Το συμπέρασμα της Microsoft είναι ότι η ουσία του context engineering δεν είναι μόνο η μείωση των prompts, αλλά η σταδιακή δημιουργία agents που γίνονται ταυτόχρονα αποδοτικότεροι και αποτελεσματικότεροι όσο χρησιμοποιούνται.
