Trong sương mù kinh doanh, những "cơ hội" tưởng chừng vàng son đó thường là xiềng xích bẫy người.
Tin tức mới nhất của CNBC cho biết gã khổng lồ chip toàn cầu Qualcomm dự định cắt giảm khoảng 1.258 nhân viên tại hai cơ sở lớn ở California. Trên thực tế, Qualcomm từ lâu đã gửi "danh sách tử thần" này cho bộ phận việc làm California: 1.064 ở San Diego và 194 ở Santa Clara. Trận động đất dự kiến sẽ bùng phát vào ngày 13/12.
Báo cáo của Qualcomm quý trước đã gợi ý về "cuộc tắm máu" này. Từ góc độ cấu trúc tài chính, chip điện thoại di động là nguồn doanh thu chính của Qualcomm, chiếm hơn một nửa, nhưng doanh thu đã giảm 21,6% so với cùng kỳ năm ngoái trong quý III. Sự bão hòa của thị trường điện thoại thông minh, giống như một bàn tay vô hình, đang âm thầm bóp nghẹt những gã khổng lồ của chuỗi cung ứng thượng nguồn.
Sự tăng trưởng của thị trường điện thoại di động hiện nay chủ yếu phụ thuộc vào chu kỳ nâng cấp của thiết bị. Kể từ năm 2019, sự bùng nổ thay thế điện thoại hỗ trợ 5G đã diễn ra trong gần bốn năm. Nhưng Peter Richardson, một nhà phân tích cấp cao tại Counterpoint, đã tiết lộ một sự thật lạnh lùng: đến năm 2022, chu kỳ thay thế điện thoại di động toàn cầu đã đạt đến 43 tháng dài nhất trong lịch sử.
Trong năm năm qua, ngành công nghiệp điện thoại di động đã phải vật lộn để thay đổi sự bế tắc bằng cách theo đuổi con đường đổi mới. Nhưng trong khi ngay cả các nhà lãnh đạo thị trường như Apple cũng phải vật lộn để đưa ra các tính năng mới ấn tượng, các nhà cung cấp khác phải vật lộn để duy trì vị trí thị trường của họ. Ngày càng có nhiều người tiêu dùng bắt đầu đặt câu hỏi, giá trị của việc thay đổi sang điện thoại di động mới là gì?
Một số chuyên gia trong ngành chỉ ra rằng điểm đột phá thực sự có thể là sức mạnh đằng sau phần mềm, đặc biệt là các mô hình lớn như LLM và Transformer trong lĩnh vực AI.
Mặc dù không rõ làm thế nào để tối đa hóa những tiềm năng này, nhưng điều này không ngăn cản những gã khổng lồ điện thoại di động trong nước cố gắng vượt qua. Huami OV và những người khác đã đặt mục tiêu vào các mô hình lớn AI và mong muốn mở ra một chiến trường mới.
** 01 Điện thoại di động Giant Battle Big Model Arena **
** Trong một thời gian, các nhà sản xuất điện thoại di động trong nước dường như đã bắt kịp ánh đèn sân khấu của các mẫu lớn. **
Vào ngày 14 tháng 8, tại cuộc họp báo thường niên của Xiaomi, mẫu Xiaomi AI lớn đã được công bố và nó trở thành tâm điểm chú ý ngay lập tức. Trên hai nền tảng thử nghiệm chính của C- và CMMLU, nó đã giành được vị trí thứ mười và vị trí đầu tiên ở Trung Quốc tương ứng.
Lei Jun tự tin tuyên bố rằng mô hình lớn 1,3 tỷ thông số của Xiaomi đã chạy hoàn hảo trên điện thoại di động và sức mạnh của nó thậm chí có thể phù hợp với mô hình đám mây thông số 6 tỷ trong một số trường hợp. Người bạn cùng lớp nổi tiếng của Xiaoai cũng sẽ tăng cường khả năng của các mô hình lớn AI, và bài kiểm tra lời mời đã bắt đầu vào ngày diễn ra hội nghị.
Khói sói nhắm vào mô hình AI lớn không chỉ gia tăng ở Xiaomi.
Ngay từ Hội nghị nhà phát triển Huawei 2023 vào ngày 4/8, Yu Chengdong đã vẫy tay và thông báo rằng HarmonyOS 4 sẽ được hưởng lợi từ sự ban phước của "mô hình Pangu". Điều khác biệt là Huawei đã quyết định tích hợp sâu mô hình lớn vào hệ thống điện thoại di động để đạt được mức độ tích hợp cao hơn.
**Sau Huami, vivo và OPPO tiếp tục thể hiện tham vọng của mình trong lĩnh vực mô hình lớn. **
Gần đây, OPPO đã công bố vòng thử nghiệm công khai đầu tiên của "Xiaobu Assistant" mới, thu hút sự chú ý trong ngành. Sản phẩm này dựa trên công nghệ mô hình lớn AndesGPT.
Mô hình AndesGPT là một mô hình ngôn ngữ lớn tạo ra cấp cao dựa trên kiến trúc đám mây lai dựa trên nhóm Andean Intelligent Cloud của OPPO. Người dùng có thể tham gia đăng ký phiên bản beta công khai Xiaobu 1.0 bằng cách đánh thức trợ lý giọng nói Xiaobu và nói "Xiaobu Big Model". Thông tin thêm sẽ được công bố tại buổi ra mắt ColorOS 14 ngày 16 tháng 11.
Tương tự như sự công khai của các đồng nghiệp, AndesGPT cũng đã giành được danh hiệu "Nhà lãnh đạo ngành" trong phần giới thiệu chính thức và mô hình này thường xuyên xuất hiện trên nhiều danh sách đánh giá có thẩm quyền.
Ở mặt trận khác, vivo đã khóa ngày 1/11 để tổ chức hội nghị nhà phát triển thường niên. Hội nghị này, vivo sẽ tiết lộ nghiên cứu và phát triển độc quyền mô hình lớn AI và hệ điều hành mới; Và OriginOS 4 rất được mong đợi cũng sẽ được tiết lộ.
Điều đặc biệt thú vị là ma trận mô hình lớn AI do vivo tạo ra vô cùng phong phú, bao gồm ba cấp độ thông số tỷ, hàng chục tỷ và hàng trăm tỷ, tổng cộng năm mô hình, nhằm đáp ứng các kịch bản ứng dụng cốt lõi đa dạng.
Tương tự, lô sản phẩm này, vẫn còn đằng sau bức màn che, đã xuất hiện trong nhiều đánh giá có thẩm quyền. Dữ liệu mới nhất cho thấy mô hình AI lớn tự phát triển của vivo đứng đầu trên hai nền tảng chính là C- và CMMLU.
Gần đây, ngành công nghiệp điện thoại di động đã chứng kiến các thương hiệu lớn lần lượt lao xuống biển sâu của các mẫu AI. ** Sự cạnh tranh khốc liệt trên thị trường chứng khoán khiến các nhà sản xuất lớn hy vọng sẽ sử dụng các công nghệ mới để tạo ra hình ảnh cạnh tranh hơn cho mình trên thị trường cao cấp. **
Một số người có hiểu biết sâu sắc trong ngành tin rằng việc nhấn mạnh những lợi thế của các chức năng AI rõ ràng là một phần quan trọng trong chiến lược của các nhà sản xuất lớn. Nó không chỉ có thể kích thích mong muốn của người dùng đối với các sản phẩm cao cấp, mà còn đẩy giá sản phẩm lên cao, từ đó tạo ra nhiều lợi nhuận sinh lợi hơn cho thương hiệu.
Với thời gian trôi qua, làn sóng đầu tiên của "điện thoại di động AI" thực sự sắp xuất hiện và hai năm tới sẽ là thời điểm đổi mới AI trên điện thoại di động.
**02 Các mô hình lớn cạnh tranh cho điện thoại di động và con đường dần được thống nhất **
Mặc dù các nhà sản xuất điện thoại di động cho thấy trước công chúng rằng chạy các mẫu lớn trên điện thoại di động dễ dàng như uống nước và ăn, ** trong hoạt động thực tế, những thách thức tiềm ẩn vượt xa mong đợi. **
Theo Luan Jian, người đứng đầu nhóm mô hình lớn của AI Lab thuộc Ủy ban kỹ thuật Xiaomi, để thực sự chạy một mô hình lớn trên điện thoại di động, các yêu cầu đối với phần cứng điện thoại di động sẽ không bao giờ thấp, đặc biệt là bộ xử lý và bộ nhớ.
Một khi nó chiếm quá nhiều bộ nhớ làm việc của điện thoại, nó sẽ dẫn đến các ứng dụng khác bị hạn chế, và thậm chí có thể khiến điện thoại không phản hồi, hiệu suất tổng thể bị giảm mạnh hoặc trong trường hợp xấu nhất, nó sẽ gặp sự cố trực tiếp.
Ngoài ra, sức mạnh tính toán cũng là một điểm mấu chốt trong phán đoán. Phải mất vài giây để tạo ra một ký tự, điều này là thảm họa cho trải nghiệm người dùng. Xem xét rằng tốc độ đọc trung bình của mọi người là khoảng một chục ký tự Trung Quốc mỗi giây, "tốc độ thế hệ" của mô hình phải cao hơn thế nhiều.
Vấn đề tiêu thụ điện năng không thể bỏ qua. Nhiều bản demo mô hình trực tuyến thường bỏ qua liên kết quan trọng này. Chip máy tính chịu tải cao sẽ khiến điện thoại di động nóng lên nhanh chóng và nếu hoạt động trong thời gian dài như vậy chắc chắn sẽ gây ra thiệt hại nghiêm trọng cho tuổi thọ pin.
Tóm lại, thách thức thực sự của mẫu điện thoại lớn là làm thế nào để tìm ra sự cân bằng tinh tế giữa tốc độ xử lý, tản nhiệt và thời lượng pin. Do đó, trọng tâm của ngành cũng là hợp tác giữa thiết bị và đám mây. **
Cách đây không lâu, MediaTek và OPPO đã đạt được thỏa thuận cùng phát triển giải pháp triển khai nhẹ cho các mẫu máy cỡ lớn, hướng đến mục tiêu đưa công nghệ mô hình lớn đến gần hơn với thực tế sử dụng của người tiêu dùng.
Ngày 18/10, MediaTek cũng công bố hợp tác chuyên sâu và gỡ lỗi chung với vivo trong lĩnh vực AI, hiện thực hóa sự đổ bộ của các mô hình ngôn ngữ lớn AI 1 tỷ 7 tỷ và 1 tỷ mô hình thị giác AI ở phía điện thoại di động, cùng mang đến cho người tiêu dùng trải nghiệm sáng tạo về các ứng dụng AI tạo ra mặt cuối.
Ưu điểm của mô hình lớn mặt cuối là người dùng có thể tận hưởng tốc độ phản hồi nhanh hơn, đồng thời, dữ liệu không cần phải tải lên đám mây, an toàn hơn. Hiện tại, nhiều nhà sản xuất chính thống đang phát triển các giải pháp triển khai các mô hình lớn AI trên các thiết bị đầu cuối di động để đạt được mục tiêu chạy các mô hình lớn ở phía cuối.
** Tuy nhiên, không thể giả định rằng một mình điện thoại di động sẽ giải quyết tất cả các vấn đề. ** Như Xiaomi tiết lộ, họ sẽ tiếp tục đi theo chiến lược kết hợp thiết bị và đám mây. Một số chức năng hoặc khả năng, nếu chúng có thể được triển khai thông qua mô hình phía cuối, không cần phải chuyển sang đám mây.
Nhìn vào tình hình của Vivo, mặc dù thiếu dữ liệu chính xác, nhưng có lý do để suy đoán rằng nó cũng sẽ áp dụng một chiến lược mô hình lớn kết hợp giữa đám mây và tại chỗ.
Từ độ lớn tham số của mô hình lớn của nó, các mô hình lớn đám mây 66 tỷ, 130 tỷ và 175 tỷ được thiết kế để đảm bảo sức mạnh xử lý để đối phó với các vấn đề phức tạp hơn. Các mô hình địa phương của đơn đặt hàng 1 tỷ và 7 tỷ được thiết kế để đảm bảo quyền riêng tư của người dùng, hiệu quả năng lượng và phản ứng nhanh.
Điều này có nghĩa là Vivo có khả năng áp dụng cách tiếp cận đám mây thiết bị để làm việc cùng nhau, tức là đánh giá mức độ phức tạp của vấn đề để quyết định xem nên xử lý cục bộ hay chuyển sang đám mây.
Kết hợp đám mây và các mô hình lớn cục bộ không chỉ có thể tiết kiệm chi phí hiệu quả mà còn đáp ứng nhu cầu của người dùng về sức mạnh tính toán, hiệu suất, tiêu thụ năng lượng và bảo vệ quyền riêng tư, đây chắc chắn là một trong những chiến lược được ưu tiên để tích hợp điện thoại di động và các mô hình lớn AI.
**03 Các nhà sản xuất làm theo, một số thách thức tiềm ẩn **
Một số ngành công nghiệp xem những nỗ lực hiện tại để chạy các mô hình lớn trên điện thoại di động như một thanh kiếm sắc bén. Tuy nhiên, đi sâu vào hậu trường, không thể tránh khỏi việc bộc lộ cảm giác thiển cận phản ứng với tình huống hơn là thực sự tìm kiếm sự thay đổi. **
Đầu tiên, định nghĩa về "mô hình lớn" vẫn còn mơ hồ. Lấy mô hình mặt cuối của Xiaomi làm ví dụ, số lượng thông số của nó đạt 1.3 tỷ, không khác nhiều so với thông số 1.5B của GPT2, nhưng điều này có thực sự đủ để mang lại cho nó danh hiệu "mô hình lớn"?
Có rất nhiều người trong ngành đã đưa ra những nghi ngờ: việc thực hành các mô hình lớn ở phía điện thoại di động là để đáp ứng sự bùng nổ ngắn hạn của thị trường, hơn là bước nhảy vọt thực sự của công nghệ. Nếu điện thoại di động thực sự có thể lái các mô hình lớn một cách dễ dàng, ý nghĩa của sự tồn tại của gã khổng lồ đồ họa NVIDIA là gì?
Hơn nữa, để thích ứng các mô hình lớn với điện thoại di động, các nhà sản xuất phải nén chúng mạnh mẽ thông qua các chiến lược như cắt tỉa, chưng cất và định lượng. Trong trường hợp của vivo, có thể giảm các thông số từ 175 tỷ xuống chỉ còn 1 tỷ thông qua việc cắt và chưng cất mô hình liên tục, đáng để xem xét liệu thao tác này có quá xa vời hay không.
Nhận ra rằng một mô hình lớn không chỉ là sự chồng chất đơn giản của số lượng tham số, giá trị thực sự của nó nằm ở "chiều sâu" trong học sâu. Một số lượng lớn các tham số có nghĩa là nhiều thông tin, kiến thức và ngữ cảnh được nắm bắt.
Do đó, khi một mô hình với hàng trăm tỷ tham số bị cắt xuống còn hàng tỷ tham số, nó chắc chắn sẽ mất đi một số chiều sâu học tập ban đầu. Đối với các ứng dụng hàng ngày của AI, tác động có thể không đáng kể, nhưng đối với những người dùng cao cấp mong đợi những hiểu biết sâu sắc và hiểu biết sâu sắc từ AI, sự mất mát này là không thể chấp nhận được.
** Ngay cả khi Xiaomi tuyên bố rằng mô hình mặt cuối của nó có thể được so sánh với mô hình đám mây, các chi tiết không thể bỏ qua. **Mô hình mặt cuối với 1,3 tỷ tham số đương nhiên khó so sánh với mô hình đám mây với hàng trăm tỷ tham số. Để bù đắp cho khoảng cách này, Xiaomi có thể chọn làm cho mô hình mặt cuối của mình có thể so sánh với mô hình đám mây trong các tình huống cụ thể, nhưng nó không thể so sánh hoàn toàn.
Từ những cấp độ này, việc triển khai các mô hình lớn hiện nay trên điện thoại di động dường như hơi "quá mức cần thiết". Đối với người dùng trung bình, họ không thực sự quan tâm đến số lượng thông số của mô hình, mà quan tâm nhiều hơn đến giá trị mà nó có thể mang lại cho họ. Mặc dù những nỗ lực này của vivo và Xiaomi rất đáng khích lệ, nhưng chúng cũng nên phản ánh về mục đích và ý nghĩa thực sự của chúng.
Hơn nữa, mặc dù nhiều nhà sản xuất điện thoại di động đang tích cực khám phá ứng dụng của các mô hình lớn AI, nhưng con đường tương lai vẫn còn đầy ẩn số. **Trên thị trường điện thoại di động, ứng dụng "sát thủ" tiếp theo sẽ được hé lộ trong thời gian tới. **
Hiện tại, ứng dụng cụ thể của các nhà sản xuất điện thoại di động cho các mẫu AI cỡ lớn dường như đang quá tập trung vào "trợ lý giọng nói". Phải chăng việc theo đuổi một hướng này chỉ phục vụ cho xu hướng nóng của khoa học công nghệ, chứ không thực sự quan tâm đến nhu cầu thực tế của người dùng?
Lấy những chia sẻ mới đây về mô hình AI mới của vivo của các blogger nổi tiếng làm ví dụ, mặc dù đã được trình làng trong OriginOS 4 với diện mạo mới nhưng cốt lõi không có nhiều tính lật đổ so với trợ lý giọng nói hiện tại.
Nói tóm lại, việc áp dụng thực sự các mô hình AI trong điện thoại di động vẫn đang chùn bước. Những nỗ lực ngày hôm nay chỉ là hành trình đầu tiên của tảng băng chìm.
Tài nguyên:
*Tencent Technology-"tham vọng" mô hình lớn của Xiaomi bắt đầu từ phía cuối *
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Đừng đẩy các mô hình lớn vào điện thoại của bạn
Nguồn gốc: Tin tức Khoa học và Công nghệ
Tác giả: Zhangdao
Trong sương mù kinh doanh, những "cơ hội" tưởng chừng vàng son đó thường là xiềng xích bẫy người.
Tin tức mới nhất của CNBC cho biết gã khổng lồ chip toàn cầu Qualcomm dự định cắt giảm khoảng 1.258 nhân viên tại hai cơ sở lớn ở California. Trên thực tế, Qualcomm từ lâu đã gửi "danh sách tử thần" này cho bộ phận việc làm California: 1.064 ở San Diego và 194 ở Santa Clara. Trận động đất dự kiến sẽ bùng phát vào ngày 13/12.
Báo cáo của Qualcomm quý trước đã gợi ý về "cuộc tắm máu" này. Từ góc độ cấu trúc tài chính, chip điện thoại di động là nguồn doanh thu chính của Qualcomm, chiếm hơn một nửa, nhưng doanh thu đã giảm 21,6% so với cùng kỳ năm ngoái trong quý III. Sự bão hòa của thị trường điện thoại thông minh, giống như một bàn tay vô hình, đang âm thầm bóp nghẹt những gã khổng lồ của chuỗi cung ứng thượng nguồn.
Sự tăng trưởng của thị trường điện thoại di động hiện nay chủ yếu phụ thuộc vào chu kỳ nâng cấp của thiết bị. Kể từ năm 2019, sự bùng nổ thay thế điện thoại hỗ trợ 5G đã diễn ra trong gần bốn năm. Nhưng Peter Richardson, một nhà phân tích cấp cao tại Counterpoint, đã tiết lộ một sự thật lạnh lùng: đến năm 2022, chu kỳ thay thế điện thoại di động toàn cầu đã đạt đến 43 tháng dài nhất trong lịch sử.
Trong năm năm qua, ngành công nghiệp điện thoại di động đã phải vật lộn để thay đổi sự bế tắc bằng cách theo đuổi con đường đổi mới. Nhưng trong khi ngay cả các nhà lãnh đạo thị trường như Apple cũng phải vật lộn để đưa ra các tính năng mới ấn tượng, các nhà cung cấp khác phải vật lộn để duy trì vị trí thị trường của họ. Ngày càng có nhiều người tiêu dùng bắt đầu đặt câu hỏi, giá trị của việc thay đổi sang điện thoại di động mới là gì?
Một số chuyên gia trong ngành chỉ ra rằng điểm đột phá thực sự có thể là sức mạnh đằng sau phần mềm, đặc biệt là các mô hình lớn như LLM và Transformer trong lĩnh vực AI.
Mặc dù không rõ làm thế nào để tối đa hóa những tiềm năng này, nhưng điều này không ngăn cản những gã khổng lồ điện thoại di động trong nước cố gắng vượt qua. Huami OV và những người khác đã đặt mục tiêu vào các mô hình lớn AI và mong muốn mở ra một chiến trường mới.
** 01 Điện thoại di động Giant Battle Big Model Arena **
** Trong một thời gian, các nhà sản xuất điện thoại di động trong nước dường như đã bắt kịp ánh đèn sân khấu của các mẫu lớn. **
Vào ngày 14 tháng 8, tại cuộc họp báo thường niên của Xiaomi, mẫu Xiaomi AI lớn đã được công bố và nó trở thành tâm điểm chú ý ngay lập tức. Trên hai nền tảng thử nghiệm chính của C- và CMMLU, nó đã giành được vị trí thứ mười và vị trí đầu tiên ở Trung Quốc tương ứng.
Lei Jun tự tin tuyên bố rằng mô hình lớn 1,3 tỷ thông số của Xiaomi đã chạy hoàn hảo trên điện thoại di động và sức mạnh của nó thậm chí có thể phù hợp với mô hình đám mây thông số 6 tỷ trong một số trường hợp. Người bạn cùng lớp nổi tiếng của Xiaoai cũng sẽ tăng cường khả năng của các mô hình lớn AI, và bài kiểm tra lời mời đã bắt đầu vào ngày diễn ra hội nghị.
Khói sói nhắm vào mô hình AI lớn không chỉ gia tăng ở Xiaomi.
Ngay từ Hội nghị nhà phát triển Huawei 2023 vào ngày 4/8, Yu Chengdong đã vẫy tay và thông báo rằng HarmonyOS 4 sẽ được hưởng lợi từ sự ban phước của "mô hình Pangu". Điều khác biệt là Huawei đã quyết định tích hợp sâu mô hình lớn vào hệ thống điện thoại di động để đạt được mức độ tích hợp cao hơn.
**Sau Huami, vivo và OPPO tiếp tục thể hiện tham vọng của mình trong lĩnh vực mô hình lớn. **
Gần đây, OPPO đã công bố vòng thử nghiệm công khai đầu tiên của "Xiaobu Assistant" mới, thu hút sự chú ý trong ngành. Sản phẩm này dựa trên công nghệ mô hình lớn AndesGPT.
Mô hình AndesGPT là một mô hình ngôn ngữ lớn tạo ra cấp cao dựa trên kiến trúc đám mây lai dựa trên nhóm Andean Intelligent Cloud của OPPO. Người dùng có thể tham gia đăng ký phiên bản beta công khai Xiaobu 1.0 bằng cách đánh thức trợ lý giọng nói Xiaobu và nói "Xiaobu Big Model". Thông tin thêm sẽ được công bố tại buổi ra mắt ColorOS 14 ngày 16 tháng 11.
Tương tự như sự công khai của các đồng nghiệp, AndesGPT cũng đã giành được danh hiệu "Nhà lãnh đạo ngành" trong phần giới thiệu chính thức và mô hình này thường xuyên xuất hiện trên nhiều danh sách đánh giá có thẩm quyền.
Ở mặt trận khác, vivo đã khóa ngày 1/11 để tổ chức hội nghị nhà phát triển thường niên. Hội nghị này, vivo sẽ tiết lộ nghiên cứu và phát triển độc quyền mô hình lớn AI và hệ điều hành mới; Và OriginOS 4 rất được mong đợi cũng sẽ được tiết lộ.
Điều đặc biệt thú vị là ma trận mô hình lớn AI do vivo tạo ra vô cùng phong phú, bao gồm ba cấp độ thông số tỷ, hàng chục tỷ và hàng trăm tỷ, tổng cộng năm mô hình, nhằm đáp ứng các kịch bản ứng dụng cốt lõi đa dạng.
Tương tự, lô sản phẩm này, vẫn còn đằng sau bức màn che, đã xuất hiện trong nhiều đánh giá có thẩm quyền. Dữ liệu mới nhất cho thấy mô hình AI lớn tự phát triển của vivo đứng đầu trên hai nền tảng chính là C- và CMMLU.
Một số người có hiểu biết sâu sắc trong ngành tin rằng việc nhấn mạnh những lợi thế của các chức năng AI rõ ràng là một phần quan trọng trong chiến lược của các nhà sản xuất lớn. Nó không chỉ có thể kích thích mong muốn của người dùng đối với các sản phẩm cao cấp, mà còn đẩy giá sản phẩm lên cao, từ đó tạo ra nhiều lợi nhuận sinh lợi hơn cho thương hiệu.
Với thời gian trôi qua, làn sóng đầu tiên của "điện thoại di động AI" thực sự sắp xuất hiện và hai năm tới sẽ là thời điểm đổi mới AI trên điện thoại di động.
**02 Các mô hình lớn cạnh tranh cho điện thoại di động và con đường dần được thống nhất **
Mặc dù các nhà sản xuất điện thoại di động cho thấy trước công chúng rằng chạy các mẫu lớn trên điện thoại di động dễ dàng như uống nước và ăn, ** trong hoạt động thực tế, những thách thức tiềm ẩn vượt xa mong đợi. **
Theo Luan Jian, người đứng đầu nhóm mô hình lớn của AI Lab thuộc Ủy ban kỹ thuật Xiaomi, để thực sự chạy một mô hình lớn trên điện thoại di động, các yêu cầu đối với phần cứng điện thoại di động sẽ không bao giờ thấp, đặc biệt là bộ xử lý và bộ nhớ.
Một khi nó chiếm quá nhiều bộ nhớ làm việc của điện thoại, nó sẽ dẫn đến các ứng dụng khác bị hạn chế, và thậm chí có thể khiến điện thoại không phản hồi, hiệu suất tổng thể bị giảm mạnh hoặc trong trường hợp xấu nhất, nó sẽ gặp sự cố trực tiếp.
Ngoài ra, sức mạnh tính toán cũng là một điểm mấu chốt trong phán đoán. Phải mất vài giây để tạo ra một ký tự, điều này là thảm họa cho trải nghiệm người dùng. Xem xét rằng tốc độ đọc trung bình của mọi người là khoảng một chục ký tự Trung Quốc mỗi giây, "tốc độ thế hệ" của mô hình phải cao hơn thế nhiều.
Vấn đề tiêu thụ điện năng không thể bỏ qua. Nhiều bản demo mô hình trực tuyến thường bỏ qua liên kết quan trọng này. Chip máy tính chịu tải cao sẽ khiến điện thoại di động nóng lên nhanh chóng và nếu hoạt động trong thời gian dài như vậy chắc chắn sẽ gây ra thiệt hại nghiêm trọng cho tuổi thọ pin.
Tóm lại, thách thức thực sự của mẫu điện thoại lớn là làm thế nào để tìm ra sự cân bằng tinh tế giữa tốc độ xử lý, tản nhiệt và thời lượng pin. Do đó, trọng tâm của ngành cũng là hợp tác giữa thiết bị và đám mây. **
Ngày 18/10, MediaTek cũng công bố hợp tác chuyên sâu và gỡ lỗi chung với vivo trong lĩnh vực AI, hiện thực hóa sự đổ bộ của các mô hình ngôn ngữ lớn AI 1 tỷ 7 tỷ và 1 tỷ mô hình thị giác AI ở phía điện thoại di động, cùng mang đến cho người tiêu dùng trải nghiệm sáng tạo về các ứng dụng AI tạo ra mặt cuối.
Ưu điểm của mô hình lớn mặt cuối là người dùng có thể tận hưởng tốc độ phản hồi nhanh hơn, đồng thời, dữ liệu không cần phải tải lên đám mây, an toàn hơn. Hiện tại, nhiều nhà sản xuất chính thống đang phát triển các giải pháp triển khai các mô hình lớn AI trên các thiết bị đầu cuối di động để đạt được mục tiêu chạy các mô hình lớn ở phía cuối.
** Tuy nhiên, không thể giả định rằng một mình điện thoại di động sẽ giải quyết tất cả các vấn đề. ** Như Xiaomi tiết lộ, họ sẽ tiếp tục đi theo chiến lược kết hợp thiết bị và đám mây. Một số chức năng hoặc khả năng, nếu chúng có thể được triển khai thông qua mô hình phía cuối, không cần phải chuyển sang đám mây.
Nhìn vào tình hình của Vivo, mặc dù thiếu dữ liệu chính xác, nhưng có lý do để suy đoán rằng nó cũng sẽ áp dụng một chiến lược mô hình lớn kết hợp giữa đám mây và tại chỗ.
Từ độ lớn tham số của mô hình lớn của nó, các mô hình lớn đám mây 66 tỷ, 130 tỷ và 175 tỷ được thiết kế để đảm bảo sức mạnh xử lý để đối phó với các vấn đề phức tạp hơn. Các mô hình địa phương của đơn đặt hàng 1 tỷ và 7 tỷ được thiết kế để đảm bảo quyền riêng tư của người dùng, hiệu quả năng lượng và phản ứng nhanh.
Điều này có nghĩa là Vivo có khả năng áp dụng cách tiếp cận đám mây thiết bị để làm việc cùng nhau, tức là đánh giá mức độ phức tạp của vấn đề để quyết định xem nên xử lý cục bộ hay chuyển sang đám mây.
Kết hợp đám mây và các mô hình lớn cục bộ không chỉ có thể tiết kiệm chi phí hiệu quả mà còn đáp ứng nhu cầu của người dùng về sức mạnh tính toán, hiệu suất, tiêu thụ năng lượng và bảo vệ quyền riêng tư, đây chắc chắn là một trong những chiến lược được ưu tiên để tích hợp điện thoại di động và các mô hình lớn AI.
**03 Các nhà sản xuất làm theo, một số thách thức tiềm ẩn **
Một số ngành công nghiệp xem những nỗ lực hiện tại để chạy các mô hình lớn trên điện thoại di động như một thanh kiếm sắc bén. Tuy nhiên, đi sâu vào hậu trường, không thể tránh khỏi việc bộc lộ cảm giác thiển cận phản ứng với tình huống hơn là thực sự tìm kiếm sự thay đổi. **
Đầu tiên, định nghĩa về "mô hình lớn" vẫn còn mơ hồ. Lấy mô hình mặt cuối của Xiaomi làm ví dụ, số lượng thông số của nó đạt 1.3 tỷ, không khác nhiều so với thông số 1.5B của GPT2, nhưng điều này có thực sự đủ để mang lại cho nó danh hiệu "mô hình lớn"?
Có rất nhiều người trong ngành đã đưa ra những nghi ngờ: việc thực hành các mô hình lớn ở phía điện thoại di động là để đáp ứng sự bùng nổ ngắn hạn của thị trường, hơn là bước nhảy vọt thực sự của công nghệ. Nếu điện thoại di động thực sự có thể lái các mô hình lớn một cách dễ dàng, ý nghĩa của sự tồn tại của gã khổng lồ đồ họa NVIDIA là gì?
Hơn nữa, để thích ứng các mô hình lớn với điện thoại di động, các nhà sản xuất phải nén chúng mạnh mẽ thông qua các chiến lược như cắt tỉa, chưng cất và định lượng. Trong trường hợp của vivo, có thể giảm các thông số từ 175 tỷ xuống chỉ còn 1 tỷ thông qua việc cắt và chưng cất mô hình liên tục, đáng để xem xét liệu thao tác này có quá xa vời hay không.
Nhận ra rằng một mô hình lớn không chỉ là sự chồng chất đơn giản của số lượng tham số, giá trị thực sự của nó nằm ở "chiều sâu" trong học sâu. Một số lượng lớn các tham số có nghĩa là nhiều thông tin, kiến thức và ngữ cảnh được nắm bắt.
Do đó, khi một mô hình với hàng trăm tỷ tham số bị cắt xuống còn hàng tỷ tham số, nó chắc chắn sẽ mất đi một số chiều sâu học tập ban đầu. Đối với các ứng dụng hàng ngày của AI, tác động có thể không đáng kể, nhưng đối với những người dùng cao cấp mong đợi những hiểu biết sâu sắc và hiểu biết sâu sắc từ AI, sự mất mát này là không thể chấp nhận được.
Từ những cấp độ này, việc triển khai các mô hình lớn hiện nay trên điện thoại di động dường như hơi "quá mức cần thiết". Đối với người dùng trung bình, họ không thực sự quan tâm đến số lượng thông số của mô hình, mà quan tâm nhiều hơn đến giá trị mà nó có thể mang lại cho họ. Mặc dù những nỗ lực này của vivo và Xiaomi rất đáng khích lệ, nhưng chúng cũng nên phản ánh về mục đích và ý nghĩa thực sự của chúng.
Hơn nữa, mặc dù nhiều nhà sản xuất điện thoại di động đang tích cực khám phá ứng dụng của các mô hình lớn AI, nhưng con đường tương lai vẫn còn đầy ẩn số. **Trên thị trường điện thoại di động, ứng dụng "sát thủ" tiếp theo sẽ được hé lộ trong thời gian tới. **
Hiện tại, ứng dụng cụ thể của các nhà sản xuất điện thoại di động cho các mẫu AI cỡ lớn dường như đang quá tập trung vào "trợ lý giọng nói". Phải chăng việc theo đuổi một hướng này chỉ phục vụ cho xu hướng nóng của khoa học công nghệ, chứ không thực sự quan tâm đến nhu cầu thực tế của người dùng?
Lấy những chia sẻ mới đây về mô hình AI mới của vivo của các blogger nổi tiếng làm ví dụ, mặc dù đã được trình làng trong OriginOS 4 với diện mạo mới nhưng cốt lõi không có nhiều tính lật đổ so với trợ lý giọng nói hiện tại.
Nói tóm lại, việc áp dụng thực sự các mô hình AI trong điện thoại di động vẫn đang chùn bước. Những nỗ lực ngày hôm nay chỉ là hành trình đầu tiên của tảng băng chìm.
Tài nguyên:
*Tencent Technology-"tham vọng" mô hình lớn của Xiaomi bắt đầu từ phía cuối *