Η OpenAI ανατρέπει κακόβουλες επιχειρήσεις και δίκτυα εξαπάτησης παγκοσμίως
Η OpenAI ανακοίνωσε ότι έχει διακόψει περισσότερες από 20 επιχειρήσεις και δίκτυα εξαπάτησης σε όλο τον κόσμο που προσπαθούσαν να χρησιμοποιήσουν την πλατφόρμα της για κακόβουλους σκοπούς από την αρχή του έτους. Αυτές οι δραστηριότητες περιλάμβαναν αποσφαλμάτωση κακόβουλου λογισμικού, συγγραφή άρθρων για ιστοσελίδες, δημιουργία βιογραφικών για λογαριασμούς κοινωνικών μέσων και δημιουργία εικόνων προφίλ με τεχνητή νοημοσύνη για ψεύτικους λογαριασμούς στο X.
Εξέλιξη των απειλών και αντίδραση της OpenAI
Οι κακόβουλοι παράγοντες συνεχίζουν να εξελίσσονται και να πειραματίζονται με τα μοντέλα της OpenAI, αλλά δεν υπάρχουν στοιχεία που να δείχνουν ότι αυτό οδηγεί σε σημαντικές ανακαλύψεις στην ικανότητά τους να δημιουργούν ουσιαστικά νέο κακόβουλο λογισμικό ή να χτίζουν ιικές κοινότητες. Η εταιρεία τεχνητής νοημοσύνης ανέφερε επίσης ότι διέκοψε δραστηριότητες που δημιουργούσαν περιεχόμενο κοινωνικών μέσων σχετικό με εκλογές στις Η.Π.Α., τη Ρουάντα και, σε μικρότερο βαθμό, την Ινδία και την Ευρωπαϊκή Ένωση, και ότι κανένα από αυτά τα δίκτυα δεν προσέλκυσε ιική αλληλεπίδραση ή διαρκείς ακροατήρια.
Αποκάλυψη κακόβουλων επιχειρήσεων
Μερικές από τις κυβερνοεπιχειρήσεις που ανέδειξε η OpenAI περιλαμβάνουν:
- SweetSpecter: Ένας ύποπτος αντίπαλος με βάση την Κίνα που χρησιμοποίησε τις υπηρεσίες της OpenAI για αναγνώριση με ενημέρωση LLM, έρευνα ευπάθειας, υποστήριξη scripting, αποφυγή ανωμαλιών και ανάπτυξη. Παρατηρήθηκε επίσης να διεξάγει ανεπιτυχείς προσπάθειες spear-phishing εναντίον υπαλλήλων της OpenAI για να παραδώσει το SugarGh0st RAT.
- Cyber Av3ngers: Μια ομάδα που συνδέεται με το Σώμα των Φρουρών της Ισλαμικής Επανάστασης του Ιράν (IRGC) χρησιμοποίησε τα μοντέλα της για να διεξάγει έρευνα σε προγραμματιζόμενους λογικούς ελεγκτές.
- Storm-0817: Ένας Ιρανός παράγοντας απειλής χρησιμοποίησε τα μοντέλα της για αποσφαλμάτωση κακόβουλου λογισμικού Android ικανό να συλλέγει ευαίσθητες πληροφορίες, εργαλεία για την απόξεση προφίλ Instagram μέσω Selenium και μετάφραση προφίλ LinkedIn στα Περσικά.
Αντιμετώπιση επιρροών και παραπληροφόρησης
Η εταιρεία έλαβε μέτρα για να μπλοκάρει αρκετές ομάδες, συμπεριλαμβανομένης μιας επιχείρησης επιρροής με κωδικό όνομα A2Z και Stop News, λογαριασμών που δημιούργησαν περιεχόμενο στα αγγλικά και γαλλικά για μεταγενέστερη ανάρτηση σε διάφορες ιστοσελίδες και λογαριασμούς κοινωνικών μέσων σε διάφορες πλατφόρμες. Οι ερευνητές Ben Nimmo και Michael Flossman ανέφεραν ότι το [Stop News] ήταν ασυνήθιστα παραγωγικό στη χρήση εικόνων, με πολλές από τις διαδικτυακές του αναρτήσεις και tweets να συνοδεύονται από εικόνες που δημιουργήθηκαν με το DALL·E.
Κατάχρηση γενετικής τεχνητής νοημοσύνης
Η αποκάλυψη έρχεται σχεδόν δύο μήνες μετά την απαγόρευση από την OpenAI ενός συνόλου λογαριασμών που συνδέονται με μια ιρανική κρυφή επιχείρηση επιρροής που ονομάζεται Storm-2035, η οποία χρησιμοποίησε το ChatGPT για να δημιουργήσει περιεχόμενο που, μεταξύ άλλων, επικεντρώθηκε στις επερχόμενες προεδρικές εκλογές των Η.Π.Α. Οι απειλητικοί παράγοντες χρησιμοποιούν συχνά τα μοντέλα της OpenAI για να εκτελούν εργασίες σε ένα συγκεκριμένο, ενδιάμεσο στάδιο δραστηριότητας, αφού έχουν αποκτήσει βασικά εργαλεία όπως πρόσβαση στο διαδίκτυο, διευθύνσεις email και λογαριασμούς κοινωνικών μέσων, αλλά πριν αναπτύξουν “τελειωμένα” προϊόντα όπως αναρτήσεις κοινωνικών μέσων ή κακόβουλο λογισμικό μέσω ενός εύρους διαύλων διανομής.
Συμπέρασμα: Η πρόκληση της παραπληροφόρησης
Η εταιρεία κυβερνοασφάλειας Sophos, σε μια έκθεση που δημοσιεύθηκε την προηγούμενη εβδομάδα, ανέφερε ότι η γενετική τεχνητή νοημοσύνη θα μπορούσε να καταχραστεί για τη διάδοση προσαρμοσμένης παραπληροφόρησης μέσω μικροστοχευμένων emails. Αυτό περιλαμβάνει την κατάχρηση μοντέλων τεχνητής νοημοσύνης για τη δημιουργία ιστοσελίδων πολιτικών καμπανιών, AI-generated personas σε όλο το πολιτικό φάσμα και μηνύματα email που στοχεύουν συγκεκριμένα σε αυτά βάσει των σημείων της καμπάνιας, επιτρέποντας έτσι ένα νέο επίπεδο αυτοματοποίησης που καθιστά δυνατή τη διάδοση παραπληροφόρησης σε μεγάλη κλίμακα.
