Η MediaTek συνεργάζεται με το Alibaba Cloud για τσιπ κινητών μεγάλων μοντέλων

Πηγή:www.ichunt.com

Σύμφωνα με το Sci-Tech Innovation Board Daily, η MediaTek, ένας κατασκευαστής τσιπ smartphone, έχει αναπτύξει με επιτυχία μεγάλα μοντέλα με 1,8 δισεκατομμύρια και 4 δισεκατομμύρια παραμέτρους στα κορυφαία τσιπάκια της, όπως το Dimensity 9300, επιτυγχάνοντας βαθιά προσαρμογή του μεγάλου μοντέλου σε τσιπ κινητών και δίνοντας τη δυνατότητα στον Tongyi Qianwen να εκτελεί πολλαπλούς γύρους διαλόγου AI ακόμη και σε καταστάσεις εκτός σύνδεσης. Στο μέλλον, τα δύο μέρη θα προσαρμόσουν επίσης περισσότερα μεγάλα μοντέλα διαφορετικών μεγεθών, συμπεριλαμβανομένου ενός με 7 δισεκατομμύρια παραμέτρους, με βάση το τσιπ Dimensity.

Η Alibaba Cloud δήλωσε ότι θα συνεργαστεί στενά με την MediaTek για να παρέχει ολοκληρωμένες λύσεις μεγάλων μοντέλων σε παγκόσμιους κατασκευαστές κινητών τηλεφώνων.

Επί του παρόντος, η MediaTek είναι η εταιρεία ημιαγωγών με τον υψηλότερο όγκο αποστολών τσιπ smartphone παγκοσμίως. Σύμφωνα με τα τελευταία στοιχεία της Canalys, απέστειλε πάνω από 117 εκατομμύρια μονάδες το τέταρτο τρίμηνο του 2023, καταλαμβάνοντας την πρώτη θέση, ακολουθούμενη από την Apple με 78 εκατομμύρια αποστολές και την Qualcomm με 69 εκατομμύρια αποστολές. Το Tongyi Qianwen είναι ένα θεμελιώδες μεγάλο μοντέλο που αναπτύχθηκε από την Alibaba Cloud. Μέχρι στιγμής, έχει κυκλοφορήσει εκδόσεις με έως και 100 δισεκατομμύρια παραμέτρους και εκδόσεις ανοιχτού κώδικα με 72 δισεκατομμύρια, 14 δισεκατομμύρια, 7 δισεκατομμύρια, 4 δισεκατομμύρια, 1,8 δισεκατομμύρια και 500 εκατομμύρια παραμέτρους, καθώς και μεγάλα μοντέλα πολλαπλών τρόπων, όπως το οπτική κατανόηση μοντέλο Qwen-VL και το ακουστικό μεγάλο μοντέλο Qwen-Audio.

Κατά τη διάρκεια του MWC2024, η MediaTek παρουσίασε διάφορες εφαρμογές τεχνητής νοημοσύνης, συμπεριλαμβανομένων των τσιπ Dimensity 9300 και 8300. Είναι κατανοητό ότι το τσιπ Dimensity 9300 έχει ήδη υποστηρίξει την εφαρμογή του μεγάλου μοντέλου 7 δισεκατομμυρίων παραμέτρων του Meta Llama 2 στο εξωτερικό και έχει εφαρμοστεί σε τηλέφωνα της σειράς vivo X100 στην Κίνα με μοντέλο μεγάλης γλώσσας 7 δισεκατομμυρίων παραμέτρων στο end side, και έχει επίσης τρέξει με επιτυχία ένα μοντέλο 13 δισεκατομμυρίων παραμέτρων σε ένα πειραματικό περιβάλλον στην τελική πλευρά.

Η συνεργασία μεταξύ της MediaTek και της Alibaba Cloud σηματοδοτεί την πρώτη φορά που το μεγάλο μοντέλο Tongyi πέτυχε προσαρμογή υλικού και λογισμικού σε επίπεδο chip. Ο Xu Dong, επικεφαλής των επιχειρήσεων του Tongyi Lab της Alibaba, εξήγησε: "Η τεχνητή νοημοσύνη τελικής πλευράς είναι ένα από τα σημαντικά σενάρια για την εφαρμογή μεγάλων μοντέλων, αλλά αντιμετωπίζει πολλές προκλήσεις, όπως δυσκολίες προσαρμογής υλικού και λογισμικού και ελλιπή περιβάλλοντα ανάπτυξης. Alibaba Το Cloud και η MediaTek έχουν ξεπεράσει μια σειρά τεχνικών και μηχανικών προκλήσεων που σχετίζονται με την υποκείμενη προσαρμογή και την ανάπτυξη ανώτερου επιπέδου, ενσωματώνοντας πραγματικά το μεγάλο μοντέλο στο τσιπ για κινητά και η εξερεύνηση ενός νέου μοντέλου ανάπτυξης του Model-on-Chip για τεχνητή νοημοσύνη τελικής πλευράς."

Εκτός από την MediaTek, η Qualcomm προωθεί επίσης ενεργά την υλοποίηση μεγάλων μοντέλων σε κινητές συσκευές. Στις 18 Μαρτίου, η Qualcomm ανακοίνωσε την κυκλοφορία της τρίτης γενιάς κινητής πλατφόρμας Snapdragon 8s, η οποία υποστηρίζει μοντέλα μεγάλων γλωσσών με έως και 10 δισεκατομμύρια παραμέτρους και μπορεί επίσης να υποστηρίξει μοντέλα πολλαπλών τρόπων παραγωγής AI, συμπεριλαμβανομένων των Baichuan-7B, Gemini Nano, Llama 2 , και Zhipu ChatGLM από εταιρείες όπως η Baidu Xiriver, η Google και η META. Αναφέρεται ότι το Xiaomi Civi 4 Pro θα είναι το πρώτο που θα εξοπλιστεί με την φορητή πλατφόρμα Snapdragon 8s.

Ένας αναλυτής της βιομηχανίας ηλεκτρονικών ειδών ευρείας κατανάλωσης δήλωσε ότι η συνεργασία μεταξύ της Alibaba Cloud και της MediaTek σημαίνει ότι οι εγχώριοι κατασκευαστές κινητών τηλεφώνων έχουν πλέον μια εναλλακτική λύση στο Baidu.

Σύμφωνα με την κατανόηση του δημοσιογράφου, η Honor και η Samsung έχουν ανακοινώσει στο παρελθόν συνεργασίες με την Baidu Wenxin Yiyan. Για παράδειγμα, η τελευταία ναυαρχίδα της Samsung, η σειρά Galaxy S24, ενσωματώνει πολλαπλές δυνατότητες του μεγάλου μοντέλου Wenxin, όπως κλήση, μετάφραση και έξυπνη σύνοψη. Επιπλέον, μια πηγή αποκάλυψε ότι η Apple βρίσκεται αυτή τη στιγμή σε επαφή με την Baidu, ελπίζοντας να χρησιμοποιήσει την τεχνολογία τεχνητής νοημοσύνης της Baidu και έχουν ήδη πραγματοποιηθεί προκαταρκτικές συνομιλίες μεταξύ των δύο μερών.

Ο Lin Dahua, κορυφαίος επιστήμονας στο Εργαστήριο Τεχνητής Νοημοσύνης της Σαγκάης, δήλωσε ότι με την εκθετική ανάπτυξη των μεγάλων μοντέλων που βασίζονται σε σύννεφο, η τελική πλευρά πρόκειται να εισέλθει σε μια χρυσή περίοδο ανάπτυξης. Η συνεργασία στο cloud θα γίνει μια σημαντική τάση στο μέλλον, με το cloud-side computing να καθορίζει το ανώτατο όριο και το end-side computing να υποστηρίζει την υιοθέτηση μεγάλης κλίμακας από τους χρήστες.

Σύμφωνα με προβλέψεις της εταιρείας συμβούλων IDC, ο όγκος αποστολών smartphones στην κινεζική αγορά θα φτάσει τα 277 εκατομμύρια μονάδες το 2024, με ρυθμό αύξησης 2,3% από έτος σε έτος. Μεταξύ αυτών, ο όγκος αποστολών τηλεφώνων τεχνητής νοημοσύνης θα φτάσει τα 36,6 εκατομμύρια, με ρυθμό αύξησης από έτος σε έτος να ξεπερνά τα τριψήφια. Η εφαρμογή μεγάλων μοντέλων AI σε κινητά τηλέφωνα θα γίνει πιο διαδεδομένη.