MediaTek hợp tác với Alibaba Cloud cho chip di động mẫu lớn

Nguồn:www.ichunt.com

Theo Sci-Tech Innovation Board Daily, MediaTek, nhà sản xuất chip điện thoại thông minh, đã triển khai thành công các mô hình lớn với 1,8 tỷ và 4 tỷ thông số trên các chip hàng đầu của mình như Dimensity 9300, đạt được khả năng thích ứng sâu của mô hình lớn trên chip di động và cho phép Tongyi Qianwen thực hiện nhiều vòng đối thoại AI ngay cả trong các tình huống ngoại tuyến. Trong tương lai, hai bên cũng sẽ điều chỉnh thêm nhiều mẫu lớn hơn với nhiều kích cỡ khác nhau, trong đó có mẫu có 7 tỷ thông số, dựa trên chip Dimensity.

Alibaba Cloud tuyên bố rằng họ sẽ hợp tác chặt chẽ với MediaTek để cung cấp các giải pháp mô hình lớn cuối cùng cho các nhà sản xuất điện thoại di động toàn cầu.

Hiện tại, MediaTek là công ty bán dẫn có lượng xuất xưởng chip điện thoại thông minh cao nhất trên toàn cầu. Theo dữ liệu mới nhất từ ​​Canalys, hãng đã xuất xưởng hơn 117 triệu chiếc trong quý 4 năm 2023, đứng đầu, tiếp theo là Apple với 78 triệu chiếc và Qualcomm với 69 triệu chiếc. Tongyi Qianwen là một mô hình lớn cơ bản được phát triển bởi Alibaba Cloud. Cho đến nay, hãng đã tung ra các phiên bản có tới 100 tỷ tham số và các phiên bản nguồn mở với 72 tỷ, 14 tỷ, 7 tỷ, 4 tỷ, 1,8 tỷ và 500 triệu tham số, cũng như các mô hình lớn đa phương thức như mô hình hiểu biết trực quan Qwen-VL và mô hình âm thanh lớn Qwen-Audio.

Tại MWC2024, MediaTek đã giới thiệu nhiều ứng dụng trí tuệ nhân tạo khác nhau, bao gồm chip Dimensity 9300 và 8300. Điều này được hiểu rằng chip Dimensity 9300 đã hỗ trợ ứng dụng mô hình lớn 7 tỷ tham số của Meta Llama 2 ở nước ngoài và nó đã được triển khai trên các điện thoại dòng vivo X100 ở Trung Quốc với mô hình ngôn ngữ lớn 7 tỷ tham số trên phía cuối và cũng đã chạy thành công mô hình 13 tỷ tham số trong môi trường thử nghiệm phía cuối.

Sự hợp tác giữa MediaTek và Alibaba Cloud đánh dấu lần đầu tiên mô hình lớn Tongyi đạt được khả năng thích ứng phần cứng và phần mềm ở cấp độ chip. Xu Dong, giám đốc kinh doanh của Phòng thí nghiệm Tongyi của Alibaba, giải thích: “AI đầu cuối là một trong những kịch bản quan trọng để áp dụng các mô hình lớn, nhưng nó phải đối mặt với nhiều thách thức như khó khăn trong việc thích ứng phần cứng và phần mềm cũng như môi trường phát triển chưa hoàn thiện. Alibaba Cloud và MediaTek đã vượt qua một loạt thách thức về kỹ thuật và kỹ thuật liên quan đến khả năng thích ứng cơ bản và phát triển cấp cao hơn, tích hợp thực sự mô hình lớn vào chip di động và khám phá mô hình triển khai Model-on-Chip mới cho AI đầu cuối.”

Ngoài MediaTek, Qualcomm cũng đang tích cực thúc đẩy triển khai các dòng máy cỡ lớn trên thiết bị di động. Vào ngày 18 tháng 3, Qualcomm đã công bố ra mắt nền tảng di động Snapdragon 8 thế hệ thứ ba, hỗ trợ các mô hình ngôn ngữ lớn với tối đa 10 tỷ thông số và cũng có thể hỗ trợ các mô hình AI tạo đa phương thức, bao gồm Baichuan-7B, Gemini Nano, Llama 2 và Zhipu ChatGLM từ các công ty như Baidu Xiriver, Google và META. Có thông tin cho rằng Xiaomi Civi 4 Pro sẽ là thiết bị đầu tiên được trang bị nền tảng di động Snapdragon 8s.

Một nhà phân tích ngành điện tử tiêu dùng cho biết sự hợp tác giữa Alibaba Cloud và MediaTek có nghĩa là các nhà sản xuất điện thoại di động trong nước giờ đây đã có giải pháp thay thế cho Baidu.

Theo hiểu biết của phóng viên, Honor và Samsung trước đây đã công bố hợp tác với Baidu Wenxin Yiyan. Ví dụ: điện thoại hàng đầu mới nhất của Samsung, dòng Galaxy S24, tích hợp nhiều khả năng của mẫu lớn Wenxin, bao gồm gọi điện, dịch thuật và tóm tắt thông minh. Ngoài ra, một nguồn tin tiết lộ rằng Apple hiện đang liên hệ với Baidu với hy vọng sử dụng công nghệ trí tuệ nhân tạo của Baidu và các cuộc đàm phán sơ bộ đã diễn ra giữa hai bên.

Lin Dahua, nhà khoa học hàng đầu tại Phòng thí nghiệm trí tuệ nhân tạo Thượng Hải, nhận định rằng với sự tăng trưởng theo cấp số nhân của các mô hình lớn dựa trên đám mây, phần cuối sắp bước vào thời kỳ tăng trưởng vàng. Hợp tác trên nền tảng đám mây sẽ trở thành một xu hướng quan trọng trong tương lai, với điện toán phía đám mây thiết lập mức trần và điện toán phía cuối hỗ trợ việc áp dụng của người dùng trên quy mô lớn.

Theo dự đoán từ công ty tư vấn IDC, lượng xuất xưởng điện thoại thông minh tại thị trường Trung Quốc sẽ đạt 277 triệu chiếc vào năm 2024, với tốc độ tăng trưởng hàng năm là 2,3%. Trong số đó, khối lượng xuất xưởng điện thoại AI sẽ đạt 36,6 triệu chiếc, với tốc độ tăng trưởng hàng năm vượt quá ba con số. Việc ứng dụng các mô hình AI lớn trên điện thoại di động sẽ trở nên phổ biến hơn.