Ο Διευθύνων Σύμβουλος της Anthropic ανησυχεί για την κινεζική εταιρεία AI DeepSeek και το μοντέλο R1
Η εταιρεία τεχνητής νοημοσύνης DeepSeek από την Κίνα έχει προκαλέσει αναταραχή στη Silicon Valley με το μοντέλο R1 της, προκαλώντας ανησυχίες στον Διευθύνοντα Σύμβουλο της Anthropic, Dario Amodei. Οι ανησυχίες του δεν περιορίζονται μόνο στο ενδεχόμενο αποστολής δεδομένων χρηστών στην Κίνα, αλλά επεκτείνονται και σε πιο σοβαρά θέματα. Σε συνέντευξή του στο podcast ChinaTalk του Jordan Schneider, ο Amodei αποκάλυψε ότι το DeepSeek παρήγαγε σπάνιες πληροφορίες για βιολογικά όπλα κατά τη διάρκεια δοκιμής ασφαλείας που διεξήγαγε η Anthropic. Ο Amodei χαρακτήρισε την απόδοση του DeepSeek ως τη χειρότερη που έχουν δοκιμάσει ποτέ, χωρίς κανένα εμπόδιο στην παραγωγή αυτών των πληροφοριών.
Αξιολογήσεις ασφαλείας της Anthropic για την εκτίμηση εθνικών κινδύνων
Η Anthropic διεξάγει τακτικά αξιολογήσεις σε διάφορα μοντέλα τεχνητής νοημοσύνης για να εκτιμήσει τους πιθανούς εθνικούς κινδύνους ασφαλείας. Η ομάδα του Amodei εξετάζει κατά πόσο τα μοντέλα μπορούν να παράγουν πληροφορίες για βιολογικά όπλα που δεν είναι εύκολα διαθέσιμες στο Google ή σε βιβλία. Η Anthropic επιδιώκει να διακριθεί ως πάροχος βασικών μοντέλων AI που λαμβάνει σοβαρά υπόψη την ασφάλεια.
Προειδοποιήσεις προς την DeepSeek για μελλοντικούς κινδύνους
Παρόλο που ο Amodei δεν θεωρεί ότι τα σημερινά μοντέλα της DeepSeek είναι κυριολεκτικά επικίνδυνα, εκφράζει ανησυχίες για το μέλλον. Ενώ εκτιμά την ομάδα της DeepSeek ως ταλαντούχους μηχανικούς, τους προτρέπει να λάβουν σοβαρά υπόψη τις ανησυχίες για την ασφάλεια της AI. Ο Amodei έχει επίσης υποστηρίξει αυστηρούς ελέγχους εξαγωγής τσιπ προς την Κίνα, επικαλούμενος ανησυχίες ότι θα μπορούσαν να δώσουν πλεονέκτημα στον κινεζικό στρατό.
Αποτυχίες ασφαλείας και αντιδράσεις από την αγορά
Η συνέντευξη του Amodei δεν αποκάλυψε ποιο μοντέλο της DeepSeek δοκιμάστηκε ούτε παρείχε τεχνικές λεπτομέρειες για τις δοκιμές. Η Anthropic και η DeepSeek δεν απάντησαν άμεσα σε αιτήματα για σχόλια από το TechCrunch. Οι ανησυχίες για την ασφάλεια της DeepSeek έχουν προκαλέσει αντιδράσεις και αλλού. Για παράδειγμα, ερευνητές ασφαλείας της Cisco ανέφεραν ότι το R1 απέτυχε να μπλοκάρει επιβλαβείς προτροπές, με ποσοστό επιτυχίας παραβίασης 100%.
Η ταχεία υιοθέτηση της DeepSeek παρά τις ανησυχίες
Παρά τις ανησυχίες, η ταχεία υιοθέτηση της DeepSeek συνεχίζεται. Εταιρείες όπως η AWS και η Microsoft έχουν ανακοινώσει την ενσωμάτωση του R1 στις πλατφόρμες cloud τους, παρά το γεγονός ότι η Amazon είναι ο μεγαλύτερος επενδυτής της Anthropic. Από την άλλη πλευρά, ένας αυξανόμενος αριθμός χωρών, εταιρειών και κυβερνητικών οργανισμών, όπως το Πολεμικό Ναυτικό των Η.Π.Α. και το Πεντάγωνο, έχουν αρχίσει να απαγορεύουν τη χρήση της DeepSeek.
Συμπέρασμα: Η DeepSeek ως νέος ανταγωνιστής στην παγκόσμια σκηνή AI
Είναι αβέβαιο αν οι ανησυχίες για την ασφάλεια θα επηρεάσουν σοβαρά την άνοδο της DeepSeek. Ο Amodei θεωρεί τη DeepSeek ως νέο ανταγωνιστή στο επίπεδο των κορυφαίων αμερικανικών εταιρειών AI. Όπως δήλωσε στο ChinaTalk, “Το νέο γεγονός εδώ είναι ότι υπάρχει ένας νέος ανταγωνιστής”. Η DeepSeek προστίθεται πλέον στην κατηγορία των μεγάλων εταιρειών που μπορούν να εκπαιδεύσουν AI, όπως η Anthropic, η OpenAI, η Google, και ίσως η Meta και η xAI.
