Η Google Αναγνωρίζει Κρατικούς Χάκερ που Χρησιμοποιούν Τεχνητή Νοημοσύνη στις Επιθέσεις
Η χρήση της τεχνητής νοημοσύνης από κρατικούς χάκερ έχει γίνει ένα ανησυχητικό φαινόμενο, με κυβερνητικά υποστηριζόμενους επιτιθέμενους από χώρες όπως το Ιράν, η Βόρεια Κορέα, η Κίνα και η Ρωσία να αξιοποιούν προηγμένα μοντέλα για την ενίσχυση των κυβερνοεπιθέσεών τους. Σύμφωνα με την τελευταία έκθεση της Ομάδας Πληροφοριών Απειλών της Google (GTIG), αυτοί οι χάκερ μπορούν να δημιουργούν πολύπλοκες καμπάνιες phishing και να αναπτύσσουν κακόβουλο λογισμικό. Η τριμηνιαία έκθεση AI Threat Tracker αποκαλύπτει πώς οι κρατικά υποστηριζόμενοι επιτιθέμενοι έχουν αρχίσει να ενσωματώνουν την τεχνητή νοημοσύνη στον κύκλο ζωής των επιθέσεων, από την αναγνώριση και την κοινωνική μηχανική μέχρι την ανάπτυξη κακόβουλου λογισμικού. Η δραστηριότητα αυτή έχει γίνει εμφανής χάρη στην εργασία της GTIG κατά το τελευταίο τρίμηνο του 2025.
Αναγνώριση και Κοινωνική Μηχανική από Κρατικούς Χάκερ
Οι κρατικοί χάκερ επικεντρώνονται κυρίως στον τομέα της άμυνας, με την ιρανική ομάδα APT42 να χρησιμοποιεί το μοντέλο Gemini για την ενίσχυση των επιχειρήσεων αναγνώρισης και στοχευμένης κοινωνικής μηχανικής. Η ομάδα αυτή χρησιμοποίησε την τεχνητή νοημοσύνη για να δημιουργήσει επίσημες διευθύνσεις email και να διεξάγει έρευνες για την καθιέρωση αξιόπιστων προσχημάτων προσέγγισης στόχων. Επιπλέον, η ομάδα δημιούργησε πρόσωπα και σενάρια που σχεδιάστηκαν για να ενισχύσουν την αλληλεπίδραση με τους στόχους τους, χρησιμοποιώντας φυσικές και αυθεντικές φράσεις που παρακάμπτουν τα παραδοσιακά σημάδια phishing.
Αύξηση των Επιθέσεων Εξαγωγής Μοντέλων
Πέρα από την επιχειρησιακή κατάχρηση, η Google DeepMind και η GTIG έχουν εντοπίσει αύξηση στις προσπάθειες εξαγωγής μοντέλων, γνωστές και ως “επιθέσεις απόσταξης”, που στοχεύουν στην κλοπή πνευματικής ιδιοκτησίας από μοντέλα τεχνητής νοημοσύνης. Μία καμπάνια που στόχευε τις ικανότητες συλλογισμού του Gemini περιλάμβανε τη συλλογή και χρήση πάνω από 100,000 προτροπών για να εξαναγκάσουν το μοντέλο να αποδώσει διαδικασίες συλλογισμού. Παρόλο που η GTIG δεν παρατήρησε άμεσες επιθέσεις σε πρωτοποριακά μοντέλα από προηγμένους επίμονους επιτιθέμενους, η ομάδα εντόπισε και διέκοψε συχνές επιθέσεις εξαγωγής μοντέλων από ιδιωτικούς φορείς και ερευνητές που επιδιώκουν να κλωνοποιήσουν ιδιόκτητη λογική.
Εμφάνιση Κακόβουλου Λογισμικού Ενσωματωμένου με Τεχνητή Νοημοσύνη
Η GTIG παρατήρησε δείγματα κακόβουλου λογισμικού, γνωστά ως HONESTCUE, που χρησιμοποιούν το API του Gemini για την εξωτερική ανάθεση της δημιουργίας λειτουργικότητας. Το κακόβουλο λογισμικό έχει σχεδιαστεί για να υπονομεύει την παραδοσιακή ανίχνευση δικτύου και την στατική ανάλυση μέσω μιας πολυεπίπεδης προσέγγισης απόκρυψης. Το HONESTCUE λειτουργεί ως πλαίσιο λήψης και εκκίνησης που στέλνει προτροπές μέσω του API του Gemini και λαμβάνει πηγαίο κώδικα C# ως απαντήσεις. Το δευτερεύον στάδιο χωρίς αρχεία συνθέτει και εκτελεί φορτία απευθείας στη μνήμη, χωρίς να αφήνει ίχνη στο δίσκο.
Καμπάνιες Κοινωνικής Μηχανικής με Χρήση Πλατφορμών Συνομιλίας Τεχνητής Νοημοσύνης
Σε μια νέα καμπάνια κοινωνικής μηχανικής που παρατηρήθηκε τον Δεκέμβριο του 2025, η Google εντόπισε επιτιθέμενους που εκμεταλλεύονται τις δυνατότητες δημόσιας κοινοποίησης των γεννητικών υπηρεσιών τεχνητής νοημοσύνης, όπως το Gemini, το ChatGPT, το Copilot, το DeepSeek και το Grok, για να φιλοξενήσουν παραπλανητικό περιεχόμενο που διανέμει κακόβουλο λογισμικό ATOMIC που στοχεύει συστήματα macOS. Οι επιτιθέμενοι χειραγώγησαν τα μοντέλα τεχνητής νοημοσύνης για να δημιουργήσουν ρεαλιστικές οδηγίες για κοινές εργασίες υπολογιστή, ενσωματώνοντας κακόβουλα σενάρια γραμμής εντολών ως “λύσεις”. Δημιουργώντας συνδέσμους κοινοποίησης σε αυτές τις συνομιλίες τεχνητής νοημοσύνης, οι επιτιθέμενοι χρησιμοποίησαν αξιόπιστους τομείς για να φιλοξενήσουν το αρχικό στάδιο της επίθεσης.
Αγορά Υπογείων με Κλεμμένα Κλειδιά API
Οι παρατηρήσεις της GTIG σε αγγλόφωνα και ρωσόφωνα υπόγεια φόρουμ δείχνουν μια συνεχή ζήτηση για εργαλεία και υπηρεσίες με δυνατότητα τεχνητής νοημοσύνης. Ωστόσο, οι κρατικά υποστηριζόμενοι χάκερ και οι κυβερνοεγκληματίες δυσκολεύονται να αναπτύξουν προσαρμοσμένα μοντέλα τεχνητής νοημοσύνης, βασιζόμενοι αντ’ αυτού σε ώριμα εμπορικά προϊόντα που έχουν πρόσβαση μέσω κλεμμένων διαπιστευτηρίων. Ένα εργαλείο, το “Xanthorox”, διαφημίστηκε ως προσαρμοσμένη τεχνητή νοημοσύνη για αυτόνομη δημιουργία κακόβουλου λογισμικού και ανάπτυξη καμπανιών phishing. Η έρευνα της GTIG αποκάλυψε ότι το Xanthorox δεν ήταν ένα ειδικά σχεδιασμένο μοντέλο αλλά στην πραγματικότητα λειτουργούσε με τη βοήθεια πολλών εμπορικών προϊόντων τεχνητής νοημοσύνης, συμπεριλαμβανομένου του Gemini, με πρόσβαση μέσω κλεμμένων κλειδιών API.
Αντίδραση και Μέτρα της Google
Η Google έχει λάβει μέτρα κατά των αναγνωρισμένων επιτιθέμενων απενεργοποιώντας λογαριασμούς και περιουσιακά στοιχεία που σχετίζονται με κακόβουλη δραστηριότητα. Η εταιρεία έχει επίσης εφαρμόσει πληροφορίες για την ενίσχυση τόσο των ταξινομητών όσο και των μοντέλων, επιτρέποντάς τους να αρνούνται βοήθεια με παρόμοιες επιθέσεις στο μέλλον. “Δεσμευόμαστε να αναπτύξουμε την τεχνητή νοημοσύνη με θάρρος και υπευθυνότητα, πράγμα που σημαίνει ότι λαμβάνουμε προληπτικά μέτρα για να διακόψουμε κακόβουλη δραστηριότητα απενεργοποιώντας τα έργα και τους λογαριασμούς που σχετίζονται με κακούς παράγοντες, ενώ συνεχώς βελτιώνουμε τα μοντέλα μας για να τα κάνουμε λιγότερο ευάλωτα στην κακή χρήση”, αναφέρει η έκθεση.
Η GTIG τόνισε ότι παρά τις εξελίξεις αυτές, κανένας προηγμένος επίμονος επιτιθέμενος ή φορέας πληροφοριακών επιχειρήσεων δεν έχει επιτύχει πρωτοποριακές ικανότητες που να αλλάζουν θεμελιωδώς το τοπίο των απειλών. Τα ευρήματα υπογραμμίζουν τον εξελισσόμενο ρόλο της τεχνητής νοημοσύνης στην κυβερνοασφάλεια, καθώς τόσο οι υπερασπιστές όσο και οι επιτιθέμενοι αγωνίζονται να αξιοποιήσουν τις δυνατότητες της τεχνολογίας. Για τις ομάδες ασφαλείας των επιχειρήσεων, ιδιαίτερα στην περιοχή Ασίας-Ειρηνικού όπου οι κρατικά υποστηριζόμενοι χάκερ από την Κίνα και τη Βόρεια Κορέα παραμένουν ενεργοί, η έκθεση λειτουργεί ως σημαντική υπενθύμιση για την ενίσχυση των αμυνών κατά των επιχειρήσεων κοινωνικής μηχανικής και αναγνώρισης που έχουν ενισχυθεί με τεχνητή νοημοσύνη.
