Sau một vài tháng gió về "tất cả các ứng dụng đều đáng làm lại với mô hình lớn", tất cả các thiết bị đầu cuối cũng muốn sử dụng mô hình lớn để định hình lại khả năng cạnh tranh của họ.
Huawei đã trở thành nhà sản xuất đầu tiên trong ngành điện thoại di động đưa ra thời gian biểu cụ thể cho việc triển khai các mẫu máy lớn. Gần đây, với việc HarmonyOS 4.0 truy cập vào khả năng mô hình quy mô lớn của Pangu, Xiaoyi, trợ lý giọng nói tích hợp trong điện thoại di động Huawei, đã trở thành trợ lý thông minh đầu tiên có khả năng mô hình quy mô lớn AI và sẽ được mở để thử nghiệm vào cuối tháng 8 .
Theo tiến độ trên, dòng Huawei Mate 60 sẽ được phát hành vào nửa cuối năm nay cũng sẽ được trang bị các tính năng mô hình quy mô lớn và được kỳ vọng sẽ trở thành điểm nhấn bán hàng lớn so với dòng iPhone 15 của Apple. **
**Trước model lớn, chip 5G từng được thế giới bên ngoài coi là vũ khí bí mật của Huawei để chống lại iPhone 15 mới. **Theo báo cáo trực tuyến, điện thoại di động 5G của Huawei dự kiến sẽ trở lại vào tháng 10 năm nay. Tuy nhiên, so với khả năng mô hình quy mô lớn dự kiến, thời điểm ra mắt điện thoại di động 5G của Huawei vẫn còn nhiều bất ổn.
Hiện tại, Qualcomm và MediaTek đã liên tiếp tuyên bố rằng họ vẫn chưa nhận được sự chấp thuận của chính phủ Hoa Kỳ để bán chipset cho Huawei. Ngay cả khi tin tức về sự trở lại của điện thoại di động 5G của Huawei trở thành sự thật, thì khả năng cạnh tranh của nó cũng không lạc quan, bởi vì khả năng cao hơn là hợp tác với SMIC để đạt được một giải pháp thay thế nội địa hóa hoàn toàn và cái giá phải trả là quy trình sản xuất chip chỉ có thể đạt được tối đa là mức 7nm.So với 3nm trên iPhone 15, nó chậm hơn hai thời đại về mặt công nghệ.
So với hiện trạng chip 5G lạc hậu, Huawei thực sự đang đi trước Apple về model cỡ lớn.
Mặc dù CEO Cook của Apple cũng coi iPhone và các phần cứng khác là phương tiện để công ty phô diễn công nghệ AI, đồng thời nhận ra làn sóng thay đổi to lớn do trí tuệ nhân tạo mang lại, nhưng Apple lại khá thận trọng trong việc phát triển các mẫu máy cỡ lớn. "Chúng tôi sẽ tiếp tục đưa điều đó vào các sản phẩm của mình trên cơ sở rất thận trọng."
Theo phóng viên công nghệ Mark Gurman của Bloomberg, Apple đang âm thầm phát triển các sản phẩm AI trong nội bộ và đã thiết lập khung mô hình quy mô lớn "Ajax" của riêng mình, đồng thời cố gắng áp dụng nó vào các chức năng của sản phẩm như bản đồ và Siri. phát hành "Apple GPT" cho người tiêu dùng chưa.
**Trong mười năm qua, các nhà sản xuất điện thoại di động trong nước đã dẫn đầu hai cuộc thay đổi lớn về sản phẩm: làn sóng màn hình tràn viền ra đời năm 2016 từng đẩy iPhone ra khỏi top 5 tại thị trường Trung Quốc; làn sóng màn hình gập ra mắt năm 2019 chưa những điều cơ bản về iPhone chưa bị lung lay. **
**Là một cơ hội mới khác để thay đổi sản phẩm, mô hình lớn sẽ là "thời điểm toàn màn hình" thúc đẩy sự phổ biến của các nhà sản xuất điện thoại di động trong nước hay "tình thế tiến thoái lưỡng nan màn hình gập" bị giới hạn bởi thị trường ngách? **
**So với các ứng dụng của bên thứ ba như ChatGPT và Wenxin Yiyan đã được đăng nhập vào điện thoại di động, lợi thế trực tiếp nhất của các sản phẩm mẫu quy mô lớn được tích hợp trực tiếp vào hệ thống điện thoại di động nằm ở khả năng bảo vệ quyền riêng tư và bảo mật mạnh mẽ hơn. **
So với các ứng dụng như ChatGPT xử lý dữ liệu trên đám mây, việc triển khai cục bộ các thiết bị đầu cuối thông minh có thể loại bỏ tối đa mối lo ngại của người dùng về rò rỉ quyền riêng tư.
Vào tháng 3 năm nay, ChatGPT gặp sự cố bộ đệm do lỗi trong thư viện mã nguồn mở, cuối cùng đã khiến thông tin thanh toán của hàng trăm triệu người dùng ChatGPT trả phí - người dùng ChatGPT Plus bị rò rỉ, bao gồm tên, địa chỉ email và số thẻ tín dụng. Bốn chữ số và ngày hết hạn của thẻ tín dụng, v.v.
Bị ảnh hưởng bởi điều này, Ủy ban Thương mại Liên bang Hoa Kỳ cũng bắt đầu điều tra xem OpenAI có vi phạm luật bảo vệ người tiêu dùng vào tháng 7 hay không và yêu cầu OpenAI cung cấp thông tin về việc xử lý dữ liệu cá nhân, khả năng cung cấp thông tin không chính xác cho người dùng và "gây hại cho người tiêu dùng". (bao gồm cả nguy cơ thiệt hại về uy tín” đã được ghi chép đầy đủ.
**Với sự trợ giúp của việc triển khai cục bộ thiết bị đầu cuối điện thoại di động để xua tan những lo ngại về rò rỉ thông tin, người dùng có thể cảm thấy thoải mái hơn và mạnh dạn cung cấp nhiều dữ liệu cá nhân hơn cho mô hình lớn. Điều này cũng có lợi thế thứ hai của sản phẩm mô hình lớn tích hợp trong điện thoại di động, đó là tạo ra một trợ lý cá nhân thực sự được cá nhân hóa. **
** Ngoài ra, các sản phẩm model lớn đi kèm với điện thoại di động có môi trường hoạt động ổn định hơn ChatGPT. **
Vào tháng 4 năm nay, ChatGPT Plus đã bị tạm dừng thanh toán, lý do được OpenAI đưa ra là “nhu cầu quá lớn” dẫn đến lỗ hổng tài nguyên sức mạnh tính toán. Với sự trợ giúp của triển khai cục bộ, mô hình lớn đi kèm với điện thoại di động sẽ giảm đáng kể sự phụ thuộc vào tài nguyên điện toán đám mây, để tránh xảy ra các sự kiện "thời gian chết" và thậm chí chạy ngoại tuyến khi mạng bị ngắt kết nối.
Trợ lý giọng nói đã trở thành lối vào ưu tiên của nhiều nhà sản xuất điện thoại di động để triển khai các mô hình quy mô lớn. Với sự hỗ trợ của các khả năng mô hình lớn, trợ lý giọng nói có thể giúp người dùng tự động viết bài quảng cáo, tự động viết email trả lời, tự động tạo tóm tắt bài viết và tự động dịch...
Ngay cả với sự trợ giúp của các chức năng bổ trợ, trợ lý giọng nói được hỗ trợ bởi mô hình lớn cũng có thể hoàn thành các cuộc gọi chức năng ứng dụng chéo, chẳng hạn như huy động ứng dụng bản đồ, ứng dụng du lịch và ứng dụng thời tiết, v.v., để giúp người dùng lập kế hoạch du lịch hoặc đặt một nhà hàng.
So với một loạt trợ lý giọng nói ra đời cách đây hơn chục năm, mẫu lớn nhất giống như chất xúc tác, trực tiếp dẫn Siri lên phiên bản 2.0, được kỳ vọng giải quyết vấn đề mà trợ lý giọng nói con người nhiều lần bị chỉ trích là “trí tuệ nhân tạo chậm phát triển”. “. **
Sau khi ChatGPT ra mắt, CEO Satya Nadella của Microsoft từng phàn nàn: "Dù là Cortana, Alexa, Google Assistant hay Siri, những trợ lý giọng nói này đều ngu như đá".
Theo báo cáo phương tiện truyền thông, các kỹ sư của Apple hy vọng sẽ kết hợp mô hình lớn với Siri và cũng hy vọng sẽ ra mắt một Siri thông minh hơn.
Theo Tiến sĩ Ding Lei, một chuyên gia về trí tuệ nhân tạo, một trong những lý do khiến các thế hệ trợ lý giọng nói trước đây không thông minh là hệ thống kỹ thuật đằng sau chúng khác biệt.
**Siri phiên bản 1.0 có thể được coi là AI ra quyết định. Công việc chính là "gắn nhãn" cho dữ liệu hiện có. **Để phân biệt giữa các loại dữ liệu khác nhau, nhiệm vụ chính là "đánh giá xem đó có phải là" và "phân biệt cho dù đó là công việc này hay không." Công việc đó. Sau khi yêu cầu bên ngoài vượt quá thư viện thẻ hiện có, trợ lý giọng nói sẽ trả lời bằng các câu trả lời từ dưới lên, chẳng hạn như "Tôi không thể trả lời" và "Tôi vẫn đang học" để tiếp tục cuộc trò chuyện.
**Phiên bản Siri 2.0 là một AI tổng quát, sẽ "tạo" nội dung mới sau khi tóm tắt và phân tích dữ liệu hiện có, ** nhận ra hiệu quả của việc "rút ra suy luận từ một ví dụ" và tính đến sở thích của người dùng trong khi tiếp tục đối thoại Sử dụng kinh nghiệm.
Huawei và Apple không phải là nhà sản xuất duy nhất đăng ký mô hình lớn trên điện thoại di động.
Xét về các nhà sản xuất điện thoại trong nước, Xiaomi là hãng coi trọng các mẫu máy lớn nhất bên cạnh Huawei. Vào tháng 4 năm nay, Xiaomi đã chính thức thành lập đội ngũ người mẫu quy mô lớn với quy mô hơn 30 người và cho biết dự kiến sẽ ra mắt sản phẩm vào quý 3 năm nay.
Có thông tin tiết lộ rằng OPPO đang xây dựng các sản phẩm mô hình cỡ lớn cho điện thoại di động dựa trên mô hình cỡ lớn của Ali. Zhao Ming, Giám đốc điều hành của Honor, cũng thường xuyên tuyên bố với thế giới bên ngoài rằng: "Trong tương lai, chúng tôi sẽ là người đầu tiên đưa các mẫu điện thoại cỡ lớn vào điện thoại di động."
Để trở thành người đầu tiên thực hiện các sản phẩm quy mô lớn trên điện thoại di động, Samsung được tiết lộ là đang xem xét kế hoạch thay đổi công cụ tìm kiếm mặc định trên điện thoại di động của mình từ Google sang Microsoft Bing.
Để khôi phục lại lối thoát của Samsung càng nhiều càng tốt, một mặt, Google đã cố gắng nâng cấp công cụ tìm kiếm hiện có và bổ sung các khả năng mô hình quy mô lớn; mặt khác, nó bắt đầu tích hợp các sản phẩm mô hình quy mô lớn từ dưới lên hệ thống.
** Vào tháng 5 năm nay, thế hệ mới của mô hình quy mô lớn PaLM 2 do Google phát hành đã bao gồm giải pháp Gecko ở mức tham số tối thiểu. Theo Giám đốc điều hành Google Pichai, "Gecko" sẽ có thể chạy trên điện thoại di động và tốc độ đủ nhanh. **
Trong nửa cuối năm nay, các mẫu Pixel mới của Google sẽ tích hợp phiên bản tắc kè quy mô lớn PaLM2 mới nhất. Pixel luôn đi đầu trong các thử nghiệm của Google với các tính năng mới của Android. Vào thời điểm đó, bất kể các nhà sản xuất điện thoại di động trong nước có khả năng tự phát triển các mô hình lớn hay không, họ sẽ có thể trực tiếp có được sức mạnh kỳ diệu của các mô hình lớn từ hệ thống Android của Google. **
Bên cạnh nỗ lực từ các nhà phát triển hệ thống, các nhà sản xuất chip hàng đầu cũng đang lo lắng về việc sử dụng các mô hình lớn cho điện thoại di động. **
** MediaTek hy vọng rằng Dimensity 9300 được phát hành vào tháng 10 năm nay sẽ hỗ trợ hoạt động mô hình quy mô lớn; Qualcomm cho biết họ sẽ có thể hỗ trợ các mô hình AI tổng quát với 10 tỷ thông số để chạy trên điện thoại di động trong năm nay. **
Theo các giám đốc điều hành của Qualcomm, "Một mô hình có mức tham số từ 10 tỷ đến 15 tỷ có thể đáp ứng hầu hết các trường hợp sử dụng của AI tổng quát. Nếu thiết bị đầu cuối đã có thể hỗ trợ mức tham số này, thì tất cả các phép tính có thể được thực hiện trên thiết bị đầu cuối mà không cần đám mây xử lý. .Sau đó, điện thoại di động sẽ trở thành một trợ lý cá nhân thực sự."
Ngoài ra, sau khi Meta ra mắt mẫu Llama 2 mã nguồn mở lớn, Qualcomm còn cho biết thêm rằng họ sẽ hợp tác với Meta để ra mắt "phiên bản di động của Llama 2" vào năm 2024 để giúp khách hàng xây dựng trợ lý ảo thông minh, ứng dụng năng suất, công cụ tạo nội dung và Các trường hợp sử dụng như giải trí.
So với sức mạnh tính toán của nghìn thẻ dựa trên đám mây và máy chủ cụm song song, lợi thế của việc triển khai cục bộ điện thoại thông minh lại trở thành một bất lợi hạn chế việc mở rộng sức mạnh tính toán.
Phiên bản nhỏ nhất của mẫu mã nguồn mở Llama của Meta cũng có 7 tỷ tham số, với cấu hình của điện thoại thông minh hiện nay, nó hoàn toàn không thể chạy trơn tru trong bộ nhớ hiện có, chỉ có thể chạy một phần trong bộ nhớ flash của điện thoại di động, nhưng điều này cũng dẫn đến tốc độ phản hồi của mô hình lớn chậm. .
Trước đây, trong cộng đồng nguồn mở, một số nhà phát triển đã chuyển mô hình Llama lớn sang điện thoại di động, nhưng quá trình chờ phản hồi mất tới mười phút hoặc hơn.
** Để nâng cao hiệu quả phản hồi, ngoài việc tăng cường cấu hình phần cứng như chip và bộ nhớ, nhà phát triển đã bắt đầu thực hiện kế hoạch giảm béo cho mô hình lớn trên điện thoại di động, bao gồm nhưng không giới hạn ở việc cắt tỉa, lượng tử hóa, chưng cất, v.v. Với tiền đề giảm đáng kể độ chính xác, giảm mức tiêu thụ tài nguyên và năng lượng mà mô hình lớn trên điện thoại di động yêu cầu: ** Cắt tỉa, nghĩa là cắt bỏ các tham số trong mô hình ít ảnh hưởng đến độ chính xác ; lượng tử hóa, sử dụng các loại dữ liệu có độ chính xác thấp hơn để suy luận ; Sự chưng cất là trích xuất một mô hình tương tự nhưng đơn giản hơn từ một mô hình phức tạp.
Tuy nhiên, trong trường hợp GPT-4 với hàng nghìn tỷ tham số vẫn không thể giải quyết vấn đề vô nghĩa của mô hình lớn, làm thế nào để giảm việc tạo nội dung sai cho mô hình lớn trên điện thoại di động chủ động giảm độ chính xác sau khi giảm kích thước và số tham số chỉ bằng 1% của GPT-4.
Tiến sĩ Ding Lei cho biết, đối với các sản phẩm mô hình quy mô lớn như ChatGPT, vẫn còn nhiều lỗi và logic không rõ ràng trong nội dung được tạo và một số kịch bản không thể được áp dụng trực tiếp ở cấp độ thực thi. **
Nếu mô hình lớn ở phía điện thoại di động giúp người dùng lập kế hoạch du lịch hoặc đặt trước thông tin nhà hàng, thì những sai lầm thường xuyên chắc chắn sẽ ảnh hưởng trực tiếp đến tần suất sử dụng của người dùng. Về vấn đề này, ChatGPT đã là một bài học trong quá khứ.
Sau sáu tháng tăng trưởng liên tục, theo dõi dữ liệu từ trang web bên thứ ba SimilarWeb cho thấy vào tháng 6 năm nay, lưu lượng truy cập toàn cầu của trang web ChatGPT và các ứng dụng khách trên thiết bị di động đã giảm 9,7% so với tháng trước. có lưu lượng truy cập tăng trưởng âm kể từ khi phát hành vào ngày 30 tháng 11 năm 2022.
Theo quan điểm của cựu nhà khoa học OpenAI Kenneth Stanley, các sản phẩm mô hình quy mô lớn hiện tại vẫn chưa phát triển đến thời điểm iPhone. “AI sáng tạo chắc chắn đã gây bão trên toàn thế giới và đúng là có một số người sử dụng nó hàng ngày, nhưng tôi nghĩ chúng ta vẫn đang trong giai đoạn khám phá để tìm ra cách chúng ta có thể sử dụng nó một cách riêng lẻ. lý do để sử dụng nó bất cứ lúc nào và đó sẽ là thời điểm của iPhone."
Người giới thiệu:
"Mô hình lớn sẽ đến thiết bị đầu cuối, còn chip thì sao?" 》Quan sát ngành bán dẫn
"Kế hoạch AI lớn của Google: làm cho mô hình lớn nhỏ hơn và nhúng mọi sản phẩm" LatePost
"Phỏng vấn người phụ trách Qualcomm AI: Dự kiến sẽ hỗ trợ các mô hình quy mô lớn với hàng chục tỷ thông số chạy trên điện thoại di động trong năm nay" The Paper
"Mô hình lớn" thu nhỏ thành điện thoại di động, iPhone tiếp theo sắp ra mắt? 》Sự bùng nổ của Metaverse
"Đối thoại với các nhà khoa học OpenAI: Thời của iPhone vẫn chưa đến" Economic Observer
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Trong cuộc chiến model cỡ lớn, Huawei đang tạm dẫn trước Apple
Nguồn gốc: Box Rice Finance
Tác giả: Zhao Jinjie
Sau một vài tháng gió về "tất cả các ứng dụng đều đáng làm lại với mô hình lớn", tất cả các thiết bị đầu cuối cũng muốn sử dụng mô hình lớn để định hình lại khả năng cạnh tranh của họ.
Huawei đã trở thành nhà sản xuất đầu tiên trong ngành điện thoại di động đưa ra thời gian biểu cụ thể cho việc triển khai các mẫu máy lớn. Gần đây, với việc HarmonyOS 4.0 truy cập vào khả năng mô hình quy mô lớn của Pangu, Xiaoyi, trợ lý giọng nói tích hợp trong điện thoại di động Huawei, đã trở thành trợ lý thông minh đầu tiên có khả năng mô hình quy mô lớn AI và sẽ được mở để thử nghiệm vào cuối tháng 8 .
Theo tiến độ trên, dòng Huawei Mate 60 sẽ được phát hành vào nửa cuối năm nay cũng sẽ được trang bị các tính năng mô hình quy mô lớn và được kỳ vọng sẽ trở thành điểm nhấn bán hàng lớn so với dòng iPhone 15 của Apple. **
**Trước model lớn, chip 5G từng được thế giới bên ngoài coi là vũ khí bí mật của Huawei để chống lại iPhone 15 mới. **Theo báo cáo trực tuyến, điện thoại di động 5G của Huawei dự kiến sẽ trở lại vào tháng 10 năm nay. Tuy nhiên, so với khả năng mô hình quy mô lớn dự kiến, thời điểm ra mắt điện thoại di động 5G của Huawei vẫn còn nhiều bất ổn.
Hiện tại, Qualcomm và MediaTek đã liên tiếp tuyên bố rằng họ vẫn chưa nhận được sự chấp thuận của chính phủ Hoa Kỳ để bán chipset cho Huawei. Ngay cả khi tin tức về sự trở lại của điện thoại di động 5G của Huawei trở thành sự thật, thì khả năng cạnh tranh của nó cũng không lạc quan, bởi vì khả năng cao hơn là hợp tác với SMIC để đạt được một giải pháp thay thế nội địa hóa hoàn toàn và cái giá phải trả là quy trình sản xuất chip chỉ có thể đạt được tối đa là mức 7nm.So với 3nm trên iPhone 15, nó chậm hơn hai thời đại về mặt công nghệ.
So với hiện trạng chip 5G lạc hậu, Huawei thực sự đang đi trước Apple về model cỡ lớn.
Mặc dù CEO Cook của Apple cũng coi iPhone và các phần cứng khác là phương tiện để công ty phô diễn công nghệ AI, đồng thời nhận ra làn sóng thay đổi to lớn do trí tuệ nhân tạo mang lại, nhưng Apple lại khá thận trọng trong việc phát triển các mẫu máy cỡ lớn. "Chúng tôi sẽ tiếp tục đưa điều đó vào các sản phẩm của mình trên cơ sở rất thận trọng."
Theo phóng viên công nghệ Mark Gurman của Bloomberg, Apple đang âm thầm phát triển các sản phẩm AI trong nội bộ và đã thiết lập khung mô hình quy mô lớn "Ajax" của riêng mình, đồng thời cố gắng áp dụng nó vào các chức năng của sản phẩm như bản đồ và Siri. phát hành "Apple GPT" cho người tiêu dùng chưa.
**Trong mười năm qua, các nhà sản xuất điện thoại di động trong nước đã dẫn đầu hai cuộc thay đổi lớn về sản phẩm: làn sóng màn hình tràn viền ra đời năm 2016 từng đẩy iPhone ra khỏi top 5 tại thị trường Trung Quốc; làn sóng màn hình gập ra mắt năm 2019 chưa những điều cơ bản về iPhone chưa bị lung lay. **
**Là một cơ hội mới khác để thay đổi sản phẩm, mô hình lớn sẽ là "thời điểm toàn màn hình" thúc đẩy sự phổ biến của các nhà sản xuất điện thoại di động trong nước hay "tình thế tiến thoái lưỡng nan màn hình gập" bị giới hạn bởi thị trường ngách? **
**So với các ứng dụng của bên thứ ba như ChatGPT và Wenxin Yiyan đã được đăng nhập vào điện thoại di động, lợi thế trực tiếp nhất của các sản phẩm mẫu quy mô lớn được tích hợp trực tiếp vào hệ thống điện thoại di động nằm ở khả năng bảo vệ quyền riêng tư và bảo mật mạnh mẽ hơn. **
So với các ứng dụng như ChatGPT xử lý dữ liệu trên đám mây, việc triển khai cục bộ các thiết bị đầu cuối thông minh có thể loại bỏ tối đa mối lo ngại của người dùng về rò rỉ quyền riêng tư.
Vào tháng 3 năm nay, ChatGPT gặp sự cố bộ đệm do lỗi trong thư viện mã nguồn mở, cuối cùng đã khiến thông tin thanh toán của hàng trăm triệu người dùng ChatGPT trả phí - người dùng ChatGPT Plus bị rò rỉ, bao gồm tên, địa chỉ email và số thẻ tín dụng. Bốn chữ số và ngày hết hạn của thẻ tín dụng, v.v.
Bị ảnh hưởng bởi điều này, Ủy ban Thương mại Liên bang Hoa Kỳ cũng bắt đầu điều tra xem OpenAI có vi phạm luật bảo vệ người tiêu dùng vào tháng 7 hay không và yêu cầu OpenAI cung cấp thông tin về việc xử lý dữ liệu cá nhân, khả năng cung cấp thông tin không chính xác cho người dùng và "gây hại cho người tiêu dùng". (bao gồm cả nguy cơ thiệt hại về uy tín” đã được ghi chép đầy đủ.
**Với sự trợ giúp của việc triển khai cục bộ thiết bị đầu cuối điện thoại di động để xua tan những lo ngại về rò rỉ thông tin, người dùng có thể cảm thấy thoải mái hơn và mạnh dạn cung cấp nhiều dữ liệu cá nhân hơn cho mô hình lớn. Điều này cũng có lợi thế thứ hai của sản phẩm mô hình lớn tích hợp trong điện thoại di động, đó là tạo ra một trợ lý cá nhân thực sự được cá nhân hóa. **
** Ngoài ra, các sản phẩm model lớn đi kèm với điện thoại di động có môi trường hoạt động ổn định hơn ChatGPT. **
Vào tháng 4 năm nay, ChatGPT Plus đã bị tạm dừng thanh toán, lý do được OpenAI đưa ra là “nhu cầu quá lớn” dẫn đến lỗ hổng tài nguyên sức mạnh tính toán. Với sự trợ giúp của triển khai cục bộ, mô hình lớn đi kèm với điện thoại di động sẽ giảm đáng kể sự phụ thuộc vào tài nguyên điện toán đám mây, để tránh xảy ra các sự kiện "thời gian chết" và thậm chí chạy ngoại tuyến khi mạng bị ngắt kết nối.
Trợ lý giọng nói đã trở thành lối vào ưu tiên của nhiều nhà sản xuất điện thoại di động để triển khai các mô hình quy mô lớn. Với sự hỗ trợ của các khả năng mô hình lớn, trợ lý giọng nói có thể giúp người dùng tự động viết bài quảng cáo, tự động viết email trả lời, tự động tạo tóm tắt bài viết và tự động dịch...
Ngay cả với sự trợ giúp của các chức năng bổ trợ, trợ lý giọng nói được hỗ trợ bởi mô hình lớn cũng có thể hoàn thành các cuộc gọi chức năng ứng dụng chéo, chẳng hạn như huy động ứng dụng bản đồ, ứng dụng du lịch và ứng dụng thời tiết, v.v., để giúp người dùng lập kế hoạch du lịch hoặc đặt một nhà hàng.
So với một loạt trợ lý giọng nói ra đời cách đây hơn chục năm, mẫu lớn nhất giống như chất xúc tác, trực tiếp dẫn Siri lên phiên bản 2.0, được kỳ vọng giải quyết vấn đề mà trợ lý giọng nói con người nhiều lần bị chỉ trích là “trí tuệ nhân tạo chậm phát triển”. “. **
Sau khi ChatGPT ra mắt, CEO Satya Nadella của Microsoft từng phàn nàn: "Dù là Cortana, Alexa, Google Assistant hay Siri, những trợ lý giọng nói này đều ngu như đá".
Theo báo cáo phương tiện truyền thông, các kỹ sư của Apple hy vọng sẽ kết hợp mô hình lớn với Siri và cũng hy vọng sẽ ra mắt một Siri thông minh hơn.
Theo Tiến sĩ Ding Lei, một chuyên gia về trí tuệ nhân tạo, một trong những lý do khiến các thế hệ trợ lý giọng nói trước đây không thông minh là hệ thống kỹ thuật đằng sau chúng khác biệt.
**Siri phiên bản 1.0 có thể được coi là AI ra quyết định. Công việc chính là "gắn nhãn" cho dữ liệu hiện có. **Để phân biệt giữa các loại dữ liệu khác nhau, nhiệm vụ chính là "đánh giá xem đó có phải là" và "phân biệt cho dù đó là công việc này hay không." Công việc đó. Sau khi yêu cầu bên ngoài vượt quá thư viện thẻ hiện có, trợ lý giọng nói sẽ trả lời bằng các câu trả lời từ dưới lên, chẳng hạn như "Tôi không thể trả lời" và "Tôi vẫn đang học" để tiếp tục cuộc trò chuyện.
**Phiên bản Siri 2.0 là một AI tổng quát, sẽ "tạo" nội dung mới sau khi tóm tắt và phân tích dữ liệu hiện có, ** nhận ra hiệu quả của việc "rút ra suy luận từ một ví dụ" và tính đến sở thích của người dùng trong khi tiếp tục đối thoại Sử dụng kinh nghiệm.
Huawei và Apple không phải là nhà sản xuất duy nhất đăng ký mô hình lớn trên điện thoại di động.
Xét về các nhà sản xuất điện thoại trong nước, Xiaomi là hãng coi trọng các mẫu máy lớn nhất bên cạnh Huawei. Vào tháng 4 năm nay, Xiaomi đã chính thức thành lập đội ngũ người mẫu quy mô lớn với quy mô hơn 30 người và cho biết dự kiến sẽ ra mắt sản phẩm vào quý 3 năm nay.
Có thông tin tiết lộ rằng OPPO đang xây dựng các sản phẩm mô hình cỡ lớn cho điện thoại di động dựa trên mô hình cỡ lớn của Ali. Zhao Ming, Giám đốc điều hành của Honor, cũng thường xuyên tuyên bố với thế giới bên ngoài rằng: "Trong tương lai, chúng tôi sẽ là người đầu tiên đưa các mẫu điện thoại cỡ lớn vào điện thoại di động."
Để trở thành người đầu tiên thực hiện các sản phẩm quy mô lớn trên điện thoại di động, Samsung được tiết lộ là đang xem xét kế hoạch thay đổi công cụ tìm kiếm mặc định trên điện thoại di động của mình từ Google sang Microsoft Bing.
Để khôi phục lại lối thoát của Samsung càng nhiều càng tốt, một mặt, Google đã cố gắng nâng cấp công cụ tìm kiếm hiện có và bổ sung các khả năng mô hình quy mô lớn; mặt khác, nó bắt đầu tích hợp các sản phẩm mô hình quy mô lớn từ dưới lên hệ thống.
** Vào tháng 5 năm nay, thế hệ mới của mô hình quy mô lớn PaLM 2 do Google phát hành đã bao gồm giải pháp Gecko ở mức tham số tối thiểu. Theo Giám đốc điều hành Google Pichai, "Gecko" sẽ có thể chạy trên điện thoại di động và tốc độ đủ nhanh. **
Trong nửa cuối năm nay, các mẫu Pixel mới của Google sẽ tích hợp phiên bản tắc kè quy mô lớn PaLM2 mới nhất. Pixel luôn đi đầu trong các thử nghiệm của Google với các tính năng mới của Android. Vào thời điểm đó, bất kể các nhà sản xuất điện thoại di động trong nước có khả năng tự phát triển các mô hình lớn hay không, họ sẽ có thể trực tiếp có được sức mạnh kỳ diệu của các mô hình lớn từ hệ thống Android của Google. **
Bên cạnh nỗ lực từ các nhà phát triển hệ thống, các nhà sản xuất chip hàng đầu cũng đang lo lắng về việc sử dụng các mô hình lớn cho điện thoại di động. **
** MediaTek hy vọng rằng Dimensity 9300 được phát hành vào tháng 10 năm nay sẽ hỗ trợ hoạt động mô hình quy mô lớn; Qualcomm cho biết họ sẽ có thể hỗ trợ các mô hình AI tổng quát với 10 tỷ thông số để chạy trên điện thoại di động trong năm nay. **
Theo các giám đốc điều hành của Qualcomm, "Một mô hình có mức tham số từ 10 tỷ đến 15 tỷ có thể đáp ứng hầu hết các trường hợp sử dụng của AI tổng quát. Nếu thiết bị đầu cuối đã có thể hỗ trợ mức tham số này, thì tất cả các phép tính có thể được thực hiện trên thiết bị đầu cuối mà không cần đám mây xử lý. .Sau đó, điện thoại di động sẽ trở thành một trợ lý cá nhân thực sự."
Ngoài ra, sau khi Meta ra mắt mẫu Llama 2 mã nguồn mở lớn, Qualcomm còn cho biết thêm rằng họ sẽ hợp tác với Meta để ra mắt "phiên bản di động của Llama 2" vào năm 2024 để giúp khách hàng xây dựng trợ lý ảo thông minh, ứng dụng năng suất, công cụ tạo nội dung và Các trường hợp sử dụng như giải trí.
So với sức mạnh tính toán của nghìn thẻ dựa trên đám mây và máy chủ cụm song song, lợi thế của việc triển khai cục bộ điện thoại thông minh lại trở thành một bất lợi hạn chế việc mở rộng sức mạnh tính toán.
Phiên bản nhỏ nhất của mẫu mã nguồn mở Llama của Meta cũng có 7 tỷ tham số, với cấu hình của điện thoại thông minh hiện nay, nó hoàn toàn không thể chạy trơn tru trong bộ nhớ hiện có, chỉ có thể chạy một phần trong bộ nhớ flash của điện thoại di động, nhưng điều này cũng dẫn đến tốc độ phản hồi của mô hình lớn chậm. .
** Để nâng cao hiệu quả phản hồi, ngoài việc tăng cường cấu hình phần cứng như chip và bộ nhớ, nhà phát triển đã bắt đầu thực hiện kế hoạch giảm béo cho mô hình lớn trên điện thoại di động, bao gồm nhưng không giới hạn ở việc cắt tỉa, lượng tử hóa, chưng cất, v.v. Với tiền đề giảm đáng kể độ chính xác, giảm mức tiêu thụ tài nguyên và năng lượng mà mô hình lớn trên điện thoại di động yêu cầu: ** Cắt tỉa, nghĩa là cắt bỏ các tham số trong mô hình ít ảnh hưởng đến độ chính xác ; lượng tử hóa, sử dụng các loại dữ liệu có độ chính xác thấp hơn để suy luận ; Sự chưng cất là trích xuất một mô hình tương tự nhưng đơn giản hơn từ một mô hình phức tạp.
Tuy nhiên, trong trường hợp GPT-4 với hàng nghìn tỷ tham số vẫn không thể giải quyết vấn đề vô nghĩa của mô hình lớn, làm thế nào để giảm việc tạo nội dung sai cho mô hình lớn trên điện thoại di động chủ động giảm độ chính xác sau khi giảm kích thước và số tham số chỉ bằng 1% của GPT-4.
Tiến sĩ Ding Lei cho biết, đối với các sản phẩm mô hình quy mô lớn như ChatGPT, vẫn còn nhiều lỗi và logic không rõ ràng trong nội dung được tạo và một số kịch bản không thể được áp dụng trực tiếp ở cấp độ thực thi. **
Nếu mô hình lớn ở phía điện thoại di động giúp người dùng lập kế hoạch du lịch hoặc đặt trước thông tin nhà hàng, thì những sai lầm thường xuyên chắc chắn sẽ ảnh hưởng trực tiếp đến tần suất sử dụng của người dùng. Về vấn đề này, ChatGPT đã là một bài học trong quá khứ.
Sau sáu tháng tăng trưởng liên tục, theo dõi dữ liệu từ trang web bên thứ ba SimilarWeb cho thấy vào tháng 6 năm nay, lưu lượng truy cập toàn cầu của trang web ChatGPT và các ứng dụng khách trên thiết bị di động đã giảm 9,7% so với tháng trước. có lưu lượng truy cập tăng trưởng âm kể từ khi phát hành vào ngày 30 tháng 11 năm 2022.
Theo quan điểm của cựu nhà khoa học OpenAI Kenneth Stanley, các sản phẩm mô hình quy mô lớn hiện tại vẫn chưa phát triển đến thời điểm iPhone. “AI sáng tạo chắc chắn đã gây bão trên toàn thế giới và đúng là có một số người sử dụng nó hàng ngày, nhưng tôi nghĩ chúng ta vẫn đang trong giai đoạn khám phá để tìm ra cách chúng ta có thể sử dụng nó một cách riêng lẻ. lý do để sử dụng nó bất cứ lúc nào và đó sẽ là thời điểm của iPhone."
Người giới thiệu:
"Mô hình lớn sẽ đến thiết bị đầu cuối, còn chip thì sao?" 》Quan sát ngành bán dẫn
"Kế hoạch AI lớn của Google: làm cho mô hình lớn nhỏ hơn và nhúng mọi sản phẩm" LatePost
"Phỏng vấn người phụ trách Qualcomm AI: Dự kiến sẽ hỗ trợ các mô hình quy mô lớn với hàng chục tỷ thông số chạy trên điện thoại di động trong năm nay" The Paper
"Mô hình lớn" thu nhỏ thành điện thoại di động, iPhone tiếp theo sắp ra mắt? 》Sự bùng nổ của Metaverse
"Đối thoại với các nhà khoa học OpenAI: Thời của iPhone vẫn chưa đến" Economic Observer