Η Meta Παρουσιάζει το Νέο Μοντέλο Τεχνητής Νοημοσύνης Llama 3.3 70B
Η Meta προχώρησε στην ανακοίνωση της τελευταίας προσθήκης στην οικογένεια των μοντέλων τεχνητής νοημοσύνης Llama, με το Llama 3.3 70B να κάνει την εμφάνισή του. Σε ανάρτηση του, ο Αντιπρόεδρος της Meta για την τεχνητή νοημοσύνη, Ahmad Al-Dahle, ανέφερε ότι το νέο αυτό μοντέλο, το οποίο εστιάζει αποκλειστικά στο κείμενο, προσφέρει την απόδοση του μεγαλύτερου μοντέλου της Meta, Llama 3.1 405B, με μειωμένο κόστος. "Αξιοποιώντας τις τελευταίες εξελίξεις στις τεχνικές μετά την εκπαίδευση, αυτό το μοντέλο βελτιώνει την βασική απόδοση με σημαντικά χαμηλότερο κόστος," έγραψε ο Al-Dahle.
Ανταγωνιστική Απόδοση και Βελτιώσεις
Σε ένα διάγραμμα που δημοσίευσε ο Al-Dahle, το Llama 3.3 70B ξεπερνάει τα μοντέλα Gemini 1.5 Pro της Google, GPT-4o της OpenAI και το νέο Nova Pro της Amazon σε διάφορα βιομηχανικά κριτήρια, όπως το MMLU, το οποίο αξιολογεί την ικανότητα ενός μοντέλου να κατανοεί τη γλώσσα. Ένας εκπρόσωπος της Meta ανέφερε μέσω email ότι το μοντέλο αναμένεται να προσφέρει βελτιώσεις σε τομείς όπως τα μαθηματικά, η γενική γνώση, η παρακολούθηση οδηγιών και η χρήση εφαρμογών.
Διαθεσιμότητα και Εμπορική Χρήση
Το Llama 3.3 70B είναι διαθέσιμο για λήψη από την πλατφόρμα ανάπτυξης τεχνητής νοημοσύνης Hugging Face και άλλες πηγές, συμπεριλαμβανομένης της επίσημης ιστοσελίδας του Llama. Αυτή η κίνηση της Meta στοχεύει στην κυριαρχία στον τομέα της τεχνητής νοημοσύνης με "ανοιχτά" μοντέλα που μπορούν να χρησιμοποιηθούν και να εμπορευματοποιηθούν για μια σειρά εφαρμογών. Παρόλο που οι όροι της Meta περιορίζουν τη χρήση των μοντέλων Llama από ορισμένους προγραμματιστές, πλατφόρμες με περισσότερους από 700 εκατομμύρια μηνιαίους χρήστες πρέπει να ζητήσουν ειδική άδεια.
Η Επίδραση του Llama στην Meta
Η Meta έχει αξιοποιήσει τα μοντέλα Llama για δικούς της σκοπούς. Ο βοηθός τεχνητής νοημοσύνης της εταιρείας, Meta AI, που βασίζεται εξ ολοκλήρου σε μοντέλα Llama, έχει πλέον σχεδόν 600 εκατομμύρια μηνιαίους ενεργούς χρήστες, σύμφωνα με τον Διευθύνοντα Σύμβουλο της Meta, Mark Zuckerberg. Ο Zuckerberg ισχυρίζεται ότι το Meta AI είναι καθ’ οδόν να γίνει ο πιο χρησιμοποιούμενος βοηθός τεχνητής νοημοσύνης στον κόσμο.
Προκλήσεις και Αντιδράσεις
Η ανοιχτή φύση του Llama έχει αποτελέσει ευλογία και κατάρα για τη Meta. Τον Νοέμβριο, αναφέρθηκε ότι Κινέζοι στρατιωτικοί ερευνητές χρησιμοποίησαν ένα μοντέλο Llama για την ανάπτυξη ενός αμυντικού chatbot. Η Meta αντέδρασε καθιστώντας τα μοντέλα Llama διαθέσιμα σε αμερικανικούς αμυντικούς συνεργάτες.
Η Meta έχει επίσης εκφράσει ανησυχίες σχετικά με την ικανότητά της να συμμορφωθεί με τον Νόμο για την Τεχνητή Νοημοσύνη, την ευρωπαϊκή νομοθεσία που θεσπίζει νομικό και ρυθμιστικό πλαίσιο για την τεχνητή νοημοσύνη, χαρακτηρίζοντας την εφαρμογή του νόμου "πολύ απρόβλεπτη". Το ζήτημα για την εταιρεία σχετίζεται με διατάξεις του GDPR, του ευρωπαϊκού νόμου για την ιδιωτικότητα, που αφορούν την εκπαίδευση τεχνητής νοημοσύνης.
Επενδύσεις σε Υποδομές Υπολογιστικής Ισχύος
Η Meta, αντιμετωπίζοντας τις τεχνικές προκλήσεις που αντιμετωπίζουν και άλλα εργαστήρια τεχνητής νοημοσύνης, ενισχύει την υπολογιστική της υποδομή για την εκπαίδευση και την εξυπηρέτηση μελλοντικών γενεών μοντέλων Llama. Η εταιρεία ανακοίνωσε την Τετάρτη ότι θα κατασκευάσει ένα κέντρο δεδομένων τεχνητής νοημοσύνης αξίας 10 δισεκατομμυρίων δολαρίων στη Λουιζιάνα, το μεγαλύτερο κέντρο δεδομένων τεχνητής νοημοσύνης που έχει κατασκευάσει ποτέ.
Συμπεράσματα και Προοπτικές
Στην τηλεδιάσκεψη για τα κέρδη του τέταρτου τριμήνου του Αυγούστου, ο Zuckerberg ανέφερε ότι για την εκπαίδευση του επόμενου μεγάλου σετ μοντέλων Llama, Llama 4, η εταιρεία θα χρειαστεί 10 φορές περισσότερη υπολογιστική ισχύ από ό,τι χρειάστηκε για την εκπαίδευση του Llama 3. Η εκπαίδευση μεγάλων γλωσσικών μοντέλων μπορεί να είναι μια δαπανηρή διαδικασία. Οι κεφαλαιουχικές δαπάνες της Meta αυξήθηκαν σχεδόν κατά 33% σε 8,5 δισεκατομμύρια δολάρια το δεύτερο τρίμηνο του 2024, από 6,4 δισεκατομμύρια δολάρια έναν χρόνο νωρίτερα, λόγω επενδύσεων σε διακομιστές, κέντρα δεδομένων και δικτυακή υποδομή.
