Η κλινική έρευνα σπάνια περιορίζεται στα αυστηρά ερωτήματα που ορίζει ένα πρωτόκολλο δοκιμής. Στην πράξη, οι ιατρικοί ειδικοί θέλουν να επιστρέφουν στα δεδομένα, να δοκιμάζουν νέες υποθέσεις, να συγκρίνουν ομάδες ασθενών και να αναζητούν τάσεις που μπορεί να οδηγήσουν σε επόμενα ερευνητικά βήματα. Σε αυτό το πλαίσιο, μια κοινή ομάδα της Microsoft και της Novo Nordisk ανέπτυξε έναν AI agent που υποστηρίζει τη λεγόμενη δευτερογενή ανάλυση κλινικών δεδομένων. Η Microsoft περιγράφει πλέον όχι μόνο το αρχικό έργο, αλλά και τη μετάβασή του σε φιλοξενούμενη αρχιτεκτονική μέσω του Microsoft Foundry.
Η μετάβαση αυτή δεν παρουσιάζεται ως μια απλή αλλαγή υποδομής. Αντίθετα, αναδεικνύεται ως ανασχεδιασμός του τρόπου με τον οποίο ο agent κλιμακώνεται, απομονώνει κάθε συνεδρία, παρακολουθείται και βελτιώνεται με μετρήσιμο τρόπο. Σύμφωνα με το κείμενο της Microsoft, ο στόχος ήταν να διατηρηθεί ο έλεγχος στη λογική του agent, ενώ τα γενικότερα λειτουργικά βάρη να περάσουν στην πλατφόρμα. Το αποτέλεσμα, όπως υποστηρίζεται, είναι ένα καθαρότερο μοντέλο λειτουργίας για χρήση από χιλιάδες ερευνητές.
Ένας agent για ερωτήματα χωρίς προκαθορισμένη ροή
Η δευτερογενής ανάλυση κλινικών δεδομένων ταιριάζει σε μια agentic προσέγγιση, επειδή δεν ακολουθεί μία σταθερή αλυσίδα βημάτων. Κάθε ερώτημα μπορεί να απαιτεί διαφορετική ερμηνεία των διαθέσιμων δεδομένων, παραγωγή κώδικα, εκτέλεση ανάλυσης, έλεγχο του αποτελέσματος και επανάληψη της διαδικασίας. Ο agent που περιγράφει η Microsoft λειτουργεί ακριβώς με αυτή τη λογική. Δεν είναι ένα chatbot που καλεί μία μόνο διεπαφή, αλλά ένα σύστημα που συνδυάζει συλλογισμό, εργαλεία και εκτέλεση κώδικα.
Στην υλοποίηση αυτή, η εκτέλεση κώδικα βρίσκεται στον πυρήνα της λειτουργίας. Ο agent μπορεί να δημιουργεί κώδικα ανάλυσης και οπτικοποιήσεις μέσα σε ελεγχόμενο περιβάλλον, ενώ η ευρύτερη εφαρμογή αναλαμβάνει τη συνομιλία με τον χρήστη και την παρουσίαση των αποτελεσμάτων. Αυτό είναι σημαντικό σε επιστημονικά περιβάλλοντα, όπου το ζητούμενο δεν είναι μόνο μια λεκτική απάντηση, αλλά ένα αναπαραγώγιμο αναλυτικό βήμα. Για αυτόν τον λόγο, η ποιότητα του runtime και η ασφάλεια της συνεδρίας γίνονται εξίσου κρίσιμες με την ποιότητα του ίδιου του μοντέλου.
Από προσαρμοσμένη αρχιτεκτονική σε φιλοξενούμενους agents
Η πρώτη παραγωγική αρχιτεκτονική του έργου έτρεχε σε Azure Container Apps. Η ομάδα χρησιμοποιούσε PostgreSQL για την αποθήκευση συνομιλιών και Azure Container Apps dynamic sessions για απομονωμένη εκτέλεση κώδικα. Το σχήμα αυτό έδωσε άμεσο έλεγχο σε κάθε επιμέρους στοιχείο και βοήθησε να αποδειχθεί η αξία της συγκεκριμένης περίπτωσης χρήσης. Ταυτόχρονα, όμως, σήμαινε ότι η ομάδα έπρεπε να διαχειρίζεται την κλιμάκωση των containers, τον κύκλο ζωής των συνεδριών, την απομόνωση της εκτέλεσης, την τηλεμετρία, το δίκτυο και τις διασυνδέσεις μεταξύ όλων αυτών.
Με τους φιλοξενούμενους agents του Foundry, το όριο ευθύνης μετακινείται. Ο κώδικας του agent παραμένει στην ομάδα, μαζί με τη λογική orchestration, τα μοντέλα και τα εργαλεία. Όμως το Foundry Agent Service αναλαμβάνει το endpoint, την ταυτότητα του agent, τους υπολογιστικούς πόρους ανά συνεδρία, την αποθήκευση κατάστασης, την κλιμάκωση και τον κύκλο ζωής. Η Microsoft τονίζει ότι αυτή η διαίρεση ευθυνών είναι πιο κοντά στις πραγματικές ανάγκες του συγκεκριμένου φόρτου εργασίας, όπου η βασική μονάδα είναι ένας ειδικός που πραγματοποιεί μία ανεξάρτητη ερευνητική συνεδρία.
Τι αλλάζει σε κλιμάκωση, απομόνωση και δίκτυο
Η σημαντικότερη αλλαγή είναι ότι η κλιμάκωση γίνεται πλέον με φυσική μονάδα τη συνεδρία. Η ομάδα δεν χρειάζεται να συνδέει τη δημιουργία συνεδριών της εφαρμογής με ξεχωριστό pool εκτέλεσης που πρέπει να ρυθμίζεται εκ των προτέρων. Το Foundry ενεργοποιεί υπολογιστικούς πόρους κατά απαίτηση, κρατά ενεργή τη συνεδρία όσο χρησιμοποιείται και την αποδεσμεύει έπειτα από περίοδο αδράνειας. Επιπλέον, αρχεία της συνεδρίας μπορούν να διατηρούνται και να επαναφέρονται όταν η εργασία συνεχίζεται.
Εξίσου κρίσιμη είναι η απομόνωση. Κάθε συνεδρία εκτελείται σε sandbox με απομόνωση σε επίπεδο VM, αντί να μοιράζεται διεργασία ή γενικό container με άλλες συνεδρίες. Αυτό έχει ιδιαίτερη βαρύτητα όταν ο agent εκτελεί κώδικα που έχει παραχθεί από μοντέλο πάνω σε ευαίσθητα κλινικά δεδομένα. Παράλληλα, η υποστήριξη για private networking, virtual network integration και ιδιωτική πρόσβαση σε εξαρτώμενους πόρους Azure προσφέρει ένα πιο αυστηρό πλαίσιο ελέγχου για την εισερχόμενη και την εξερχόμενη κίνηση.
Η παρατηρησιμότητα ως εργαλείο ποιότητας
Η Microsoft δίνει ιδιαίτερη έμφαση στην ιχνηλάτηση και στην αξιολόγηση του agent. Το tracing του Foundry βασίζεται σε OpenTelemetry και αποθηκεύει τηλεμετρία στο Azure Monitor Application Insights. Μπορεί να καταγράφει εισόδους χρηστών, εξόδους του agent, κλήσεις μοντέλων, δραστηριότητα εργαλείων, κατανάλωση tokens και καθυστερήσεις. Αυτά τα δεδομένα είναι απαραίτητα όχι μόνο για την αξιοπιστία, αλλά και για την κατανόηση του τρόπου με τον οποίο ο agent λαμβάνει αποφάσεις.
Κατά τη μετάβαση, η ομάδα διατήρησε παράλληλα και την υπάρχουσα διαδρομή τηλεμετρίας προς το Langfuse. Με αυτόν τον τρόπο εξασφαλίστηκε συνέχεια στις διαδικασίες των μηχανικών, ενώ παράλληλα προστέθηκαν οι δυνατότητες παρατηρησιμότητας του Foundry. Η πρακτική σύσταση που προκύπτει είναι σαφής: τα ίχνη πρέπει να είναι εύκολα στην πλοήγηση και να συνδέονται με σταθερά αναγνωριστικά για χρήστη, συνεδρία, συνομιλία, έκδοση agent και trace. Χωρίς αυτή τη δομή, η διερεύνηση ενός προβλήματος σε περιβάλλον παραγωγής γίνεται πολύ πιο αργή και αβέβαιη.
Υποδομή και ασφάλεια ως αποφάσεις προϊόντος
Ένα από τα βασικά συμπεράσματα του έργου είναι ότι οι επιλογές υποδομής δεν πρέπει να αντιμετωπίζονται ως τεχνικές λεπτομέρειες που λύνονται αργότερα. Η Microsoft επισημαίνει ότι το private networking πρέπει να αποφασίζεται από τα πρώτα στάδια της αρχιτεκτονικής και όχι ως τελικό στάδιο σκλήρυνσης. Η κατανάλωση δικτυακής χωρητικότητας εξαρτάται από τον αριθμό λογαριασμών, projects, φιλοξενούμενων agents, ταυτόχρονων συνεδριών και αναθεωρήσεων agent. Επειδή το subnet ορίζεται αμετάβλητα σε επίπεδο λογαριασμού, μια λανθασμένη αρχική εκτίμηση μπορεί να οδηγήσει αργότερα σε πολύ πιο εκτεταμένη μεταφορά υποδομής.
Στο ίδιο πνεύμα, η ομάδα αναφέρει ότι ακόμη και με χρήση Azure Verified Modules, οι παραγόμενες εξαρτήσεις πρέπει να ελέγχονται προσεκτικά. Η απόδοση υπηρεσιών όπως το Azure Cosmos DB πρέπει να συμβαδίζει με την αναμενόμενη ταυτόχρονη χρήση και με τα μοτίβα πρόσβασης στα δεδομένα. Ρυθμίσεις όπως το μέγεθος του subnet, το throughput των βάσεων, τα private endpoints, το DNS και τα όρια concurrency δεν είναι ξεχωριστές τεχνικές παράμετροι. Μαζί καθορίζουν το ανώτατο όριο κλίμακας και την αξιοπιστία του ίδιου του προϊόντος.
Η μετανάστευση χωρίς να χαθεί ο κύκλος μάθησης
Ιδιαίτερο ενδιαφέρον έχει η επιλογή να διατηρηθούν σταθερά τα backend contracts κατά τη μετανάστευση. Έτσι, το υπάρχον framework αξιολόγησης μπορούσε να καλεί τη νέα υλοποίηση στο Foundry μέσω της ίδιας διεπαφής που χρησιμοποιούσε και πριν. Αυτό επέτρεψε στην ομάδα να συνεχίσει να τρέχει το ίδιο evaluation set και τους ίδιους μηχανισμούς βαθμολόγησης πάνω στις απαντήσεις του agent. Στις μετρήσεις περιλαμβάνονταν και συγκρίσεις με golden answers που είχαν δοθεί από ειδικούς του αντικειμένου.
Η αξία αυτής της προσέγγισης είναι διπλή. Από τη μία πλευρά, δημιουργεί μια σαφή γραμμή βάσης, ώστε η μετάβαση σε νέα υποδομή να μην εισάγει σιωπηρές υποβαθμίσεις. Από την άλλη, βοηθά να εντοπιστούν τα σημεία όπου αλλαγές σε οδηγίες, εργαλεία ή orchestration οδηγούν σε πραγματική βελτίωση. Η Microsoft συνοψίζει τον κύκλο αυτό ως trace, evaluate, experiment, optimize, δηλαδή μια σύντομη διαδρομή από την παρατήρηση στην παραγωγή μέχρι τη δοκιμασμένη βελτίωση.
Τι σημαίνει η εμπειρία αυτή για άλλες ομάδες
Το βασικό συμπέρασμα της Microsoft είναι ότι η μεταφορά ενός agent από πρωτότυπο σε παραγωγή δεν αφορά μόνο το πού εκτελείται ένα container. Αφορά το αν υπάρχει καθαρό όριο ανάμεσα σε αυτό που διαφοροποιεί πραγματικά το προϊόν και σε αυτό που αποτελεί κοινό λειτουργικό βάρος για κάθε παραγωγικό agent. Στην περίπτωση της Novo, η λογική του agent παρέμεινε υπό τον έλεγχο της ομάδας, ενώ η πλατφόρμα ανέλαβε περισσότερα στοιχεία γύρω από το runtime. Αυτό οδήγησε σε πιο σαφή απομόνωση ανά συνεδρία, διαχειριζόμενη κλιμάκωση, ανθεκτική κατάσταση και πιο ενιαία σύνδεση μεταξύ tracing, αξιολόγησης και βελτιστοποίησης.
Για ομάδες που σχεδιάζουν αντίστοιχα έργα σε ευαίσθητα περιβάλλοντα, το μήνυμα είναι ότι η αρχιτεκτονική πρέπει να εξετάζεται νωρίς και με όρους προϊόντος. Η ποιότητα ενός agent δεν εξαρτάται μόνο από το μοντέλο ή το prompt, αλλά και από το πώς απομονώνεται, πώς παρακολουθείται και πώς τεκμηριώνεται η πρόοδός του με συστηματικές μετρήσεις. Σε εφαρμογές που αγγίζουν κλινικά δεδομένα, αυτά τα στοιχεία δεν είναι δευτερεύοντα. Είναι μέρος του ίδιου του σχεδιασμού της υπηρεσίας.
