Phỏng vấn丨Đừng tin vào những mô hình lớn, sự đổi mới ở giai đoạn này vẫn là "tương tác"

Nguồn hình ảnh: Được tạo bởi Unbounded AI

**Nguồn:**Đánh giá công nghệ AI

Tác giả: Huang Nan; Biên tập viên: Chen Caixian

MOSS, được coi là "kẻ nổi loạn" trong "Trái đất lang thang", là một cuộc sống kỹ thuật số được thiết kế riêng cho Dự án Tinder. Nó rất thông minh và có khả năng vượt qua đạo đức, triết học, khoa học, nghệ thuật và các tri thức khác của con người, có thể tìm ra giải pháp tối ưu và đưa ra quyết định “đúng đắn nhất” trong thời gian ngắn nhất, đó là một trí thông minh hoàn hảo.

Ngày nay, mô hình lớn được sử dụng để thay đổi công nghệ và nó mang lại khả năng gần như tuyệt đối cho việc triển khai "ngành" và "lĩnh vực" trong một phạm vi hạn chế. trung gian cạnh tranh tài nguyên.

Đó là một xa xỉ để giữ cho con người lành mạnh mãi mãi. Giống như nền văn minh nhân loại trước MOSS, vốn đã trải qua lịch sử hủy diệt và tái sinh, chúng ta cũng cần khẩn trương quay trở lại tính hợp lý kỹ thuật sau lễ hội đổ bộ của các mô hình quy mô lớn.

Hua Xiansheng, CTO của Terminus, người đang trong cuộc chạy đua vũ trang này, cũng đưa ra suy nghĩ bình tĩnh của riêng mình về mô hình lớn và câu trả lời để phá vỡ tình thế.Sau đây là nội dung cuộc trò chuyện giữa Hua Xiansheng và AI Technology Review, trích đoạn bởi AI Technology Review như sau:

1. Quan điểm 1: Các mô hình lớn không phải là dấu chấm hết cho sự xuất hiện của trí thông minh

Chỉ một năm sau "sự xuất hiện thông minh" của mô hình lớn, thế giới vật chất và phương thức sản xuất thông tin đã trải qua những thay đổi mang tính cách mạng, được ánh xạ tới một không gian đô thị rộng lớn hơn và chắc chắn sẽ mang lại một vòng đổi mới mới. Về vấn đề này, Hua Xiansheng đã thẳng thắn nói khi nói về đánh giá công nghệ AI: "Mặc dù mô hình lớn thực sự đã đạt được những tiến bộ vượt bậc, nhưng đừng mê tín về mô hình lớn, nó cũng có những hạn chế của nó."

Theo hồi ức của Hua Xiansheng, sau khi ChatGPT ra mắt vào năm ngoái, anh ấy đã rất chú ý đến nó và lần đầu tiên dùng thử. Không thể phủ nhận rằng nó thực sự là một bước đột phá lớn, một mặt, tôi ngạc nhiên trước sự cải thiện đáng kể về khả năng của nó, nhưng thẳng thắn mà nói, tôi cũng phát hiện ra rằng nó không mạnh như chúng ta tưởng tượng, không đủ tốt.

"Khi deep learning mới ra đời, mọi người đều nghĩ rằng nó có thể giải quyết mọi vấn đề. Nó có thể sử dụng một mô hình đủ phức tạp và đủ dữ liệu để xây dựng mô hình của nhiều vấn đề khác nhau trong thế giới thực. Nhưng trong thực chiến, nó thực sự cần phải đi sâu vào ngành công nghiệp để thực sự giải quyết nó. Xiansheng đã đề cập.

Ngày nay, trong khuôn viên siêu thông minh của Terminus, robot mềm đã trở thành sự tồn tại giống như MOSS trong thời đại của các mô hình quy mô lớn. Nó ẩn mình trong các màn hình lớn của công viên và biết mọi thứ về công viên. Bạn có thể hỏi đường, lấy thông tin bạn cần và sử dụng nó để thực hiện các thao tác. Đằng sau sự cùng tồn tại của con người và máy móc là sự liên kết ngữ nghĩa của các mô hình lớn và phần cứng IoT để đạt được mức độ thông minh cao giữa con người, các thiết bị IoT và các thành phần phù hợp.

Vì vậy, khi AIoT gặp mô hình lớn, nó sẽ va chạm với loại tia lửa nào? Hua Xiansheng đã đưa ra suy nghĩ của mình: AI là linh hồn của AIoT, và IoT là nhận thức và kiểm soát của nó, giống như "tay và chân" của nó, và tất nhiên nó cũng bao gồm cơ sở vật chất cho "cơ thể" của nó, đó là tài nguyên năng lượng điện toán .

Sự xuất hiện của LLM (Mô hình ngôn ngữ lớn) đã đẩy các khả năng của AI tiến một bước gần hơn đến mục tiêu chung hơn: thứ nhất, Mô hình ngôn ngữ lớn có thể được sử dụng trực tiếp làm giao diện tương tác của hệ thống AIoT. Thứ hai, dữ liệu AIoT vốn đã đa phương thức Các mô hình lớn đa phương thức được kỳ vọng sẽ giải quyết nhiều vấn đề cần giải quyết thông qua "AI + quy tắc" trong quá khứ.

Trong mắt Hua Xiansheng, khi nói đến các mô hình lớn AIoT, có hai lộ trình chính: thứ nhất là nâng cấp những gì AI đã làm trong quá khứ với một mô hình lớn và làm lại, đó là điều mà hầu hết mọi người đều làm; Thứ nhất là một mô hình AIoT quy mô lớn theo đúng nghĩa, trong đó dữ liệu không đồng nhất đa phương thức trong AIoT thực sự được sử dụng** và đưa vào mô hình lớn. “Tuy nhiên, loại mô hình AIoT thực sự này có thể sẽ sớm xuất hiện trong tương lai hoặc có thể mất nhiều thời gian.” Hua Xiansheng nói.

Theo ông, mô hình lớn được sử dụng trong ngành AIoT ở giai đoạn này vẫn đang ở lộ trình kỹ thuật đầu tiên, tức là mô hình lớn AIoT "giả" dựa trên ngôn ngữ hoặc ngôn ngữ cộng với tầm nhìn.

Trước khi xuất hiện mô hình AIoT lớn “rởm”, việc kết nối và cộng tác giữa các thiết bị AIoT hoàn toàn dựa trên các quy tắc do chuyên gia con người định sẵn, các quy tắc này là cố định, không đầy đủ và không tự phát triển, có thể không trực tiếp hiểu và tuân theo. bởi con người.hướng dẫn. Nhưng với một mô hình lớn, chúng ta có thể xây dựng các quy tắc kết nối và phối hợp giữa các đối tượng một cách tự động và linh hoạt theo các Ngữ cảnh rất đa dạng (bất kỳ mùa nào, thời gian nào, nhân vật nào, hướng dẫn nào, v.v.), mang lại trải nghiệm cảnh tích hợp thích ứng, đa dạng, chuyên sâu, thông minh. với hướng dẫn của con người.

Hua Xiansheng cho biết trong cuộc phỏng vấn: "Dù theo con đường nào, mô hình AIoT toàn cầu điển hình nhất vẫn chưa xuất hiện.**"

2. Quan điểm 2: Nhận thức lập thể, điều khiển chính xác, giải phóng sức mạnh thời tiền sử của các mô hình lớn AIoT

Một mô hình AIoT thực nên có những khả năng gì? Hua Xiansheng tin rằng có hai điểm khác biệt chính giữa AIoT và các ngành khác. Trước hết, có rất nhiều dữ liệu không đồng nhất. Một số lượng lớn các cảm biến thu thập các dữ liệu khác nhau như thời tiết, nhiệt độ, độ ẩm, điện và lượng mưa, và thông tin phong phú hơn. Thứ hai, thiết bị IoT không chỉ là thiết bị cảm biến mà còn cũng kiểm soát ngược lại môi trường. Các chiều nhận thức phong phú hơn và sức mạnh hành động mạnh mẽ hơn là những gì mô hình AIoT nên có.

Quay trở lại bối cảnh trao quyền cho lĩnh vực AIoT, rất khó để đạt được điều đó nếu chỉ dựa vào một mô hình chung với nhiều hạn chế. Do đó, mô hình lớn AIoT phải đáp ứng một số đặc điểm:

Thứ nhất, tính chuyên nghiệp. Nó phải chuyên nghiệp và có thể giải quyết các vấn đề liên quan đến chuyên môn hơn trong lĩnh vực này. Các mô hình lớn ngày nay trông mạnh mẽ, nhưng chúng không có đủ chuyên môn về miền để sử dụng trong công viên.

Thứ hai, độ tin cậy. Mô hình cần có hiểu biết tốt về bối cảnh mà nó quan tâm, một mặt cần hiểu đủ bằng cách đưa vào kiến thức mới, thứ hai, nó cũng cần một số phương pháp hạn chế để kết quả đầu ra có độ tin cậy cao, không bị “ảo tưởng”. " về "điều vô nghĩa nghiêm trọng".

Thứ ba, sự cân bằng giữa hiệu suất và chi phí. Từ góc độ chi phí đào tạo, một mô hình đa năng đặc biệt lớn không thể được cung cấp bởi một công ty khởi nghiệp thông thường; thứ hai, trong quá trình suy luận, nếu số lượng người dùng hoặc lượt truy cập quá lớn, dịch vụ của mô hình lớn cũng sẽ thất bại. Do đó, một mô hình đơn giản hóa là một lựa chọn tốt. Chúng tôi không cần nó phải là thứ biết tuốt, miễn là nó giải quyết được mối quan tâm của tôi và có ý nghĩa chung.

Thứ tư, hệ thống ** thông qua **. Mô hình lớn này không chỉ có kiến thức mà còn cần được kết hợp sâu sắc với hệ thống của công viên để có được thông tin theo thời gian thực và có thể kiểm soát công viên trong thời gian thực dưới tiền đề được ủy quyền.

Khi đề cập đến công nghệ trí thông minh thể hiện đã thu hút nhiều sự chú ý gần đây, Hua Xiansheng đã đề cập trong cuộc phỏng vấn: Mô hình lớn AIoT mà chúng tôi đề xuất là hiện thân của công nghệ mô hình lớn hiện có. Các thiết bị AIoT là tai mắt cũng như tay chân của chúng ta. Hiện tại, chúng tôi đang tập trung nhiều hơn vào tương tác và liên kết cảnh, sau này chúng tôi sẽ thay thế nhận thức và kiểm soát bằng các mô hình lớn. Đặc biệt, rô-bốt và thiết bị siêu IoT của chúng tôi tự chúng là biểu hiện của trí thông minh được thể hiện, được hỗ trợ bởi các khả năng phía máy chủ (IoT và mô hình) được thống nhất liền mạch và các khả năng phía rô-bốt (cảm biến, lập kế hoạch, hành động và tương tác), nhưng rô-bốt của Terminus trí thông minh được thể hiện là trí thông minh được thể hiện của "sự cộng tác giữa máy móc và môi trường", chứ không chỉ là khả năng trực tiếp của bản thân robot.

3. Quan điểm 3: Khó hạ cánh, thách thức đa phương thức của mô hình lớn AIoT

Về những khó khăn trong quá trình triển khai mô hình lớn AIoT, Hua Xiansheng cho rằng khó khăn chủ yếu bao gồm một số khía cạnh, ngoài việc đáp ứng tính chuyên nghiệp, độ tin cậy, cân bằng giữa hiệu suất và chi phí, tích hợp hệ thống nêu trên, việc triển khai còn đòi hỏi thực tế -hiệu suất thời gian. Nó sẽ cao hơn nhiều, bởi vì nó là một hệ thống AIoT đang hoạt động thực sự; ngoài ra, sự phát triển về khả năng của nó không chỉ là cập nhật chính mô hình lớn mà còn liên quan đến việc tích lũy dữ liệu, lặp lại bộ nhớ, v.v. Nhìn chung**, khó khăn lớn nhất trong việc triển khai các mô hình lớn AIoT nằm ở tính đa phương thức**.

Về lâu dài, có thể tích hợp dữ liệu IoT vào mô hình AIoT một cách thống nhất, có lẽ tập trung vào văn bản/hình ảnh và căn chỉnh dữ liệu IoT khác với trung tâm, đây là điều cần thiết. Nhưng do tính không đồng nhất và đa phương thức của dữ liệu AIoT, việc tích hợp và sử dụng hiệu quả các loại dữ liệu khác nhau cần phải vượt qua những thách thức về biểu diễn và căn chỉnh dữ liệu.

Trước hết, về mặt biểu diễn dữ liệu, các dữ liệu cảm biến khác nhau nên được mô hình hóa ở dạng nào, nên sử dụng văn bản tham chiếu làm đầu vào trình tự, hình ảnh tham chiếu nên được sử dụng làm đầu vào ma trận hay một dạng mô hình hóa mới? Về vấn đề này, cả giới hàn lâm và ngành công nghiệp vẫn chưa có kết luận.

Ngoài ra, về mặt liên kết dữ liệu, mô hình ngôn ngữ học từ ngôn ngữ và tạo ra ngôn ngữ mà con người có thể hiểu được.Tuy nhiên, trong lĩnh vực AIoT, có rất nhiều dữ liệu không có nhãn và chú thích thông tin, và hầu hết các ngữ cảnh của nó đều có không có ngữ nghĩa rõ ràng. , Không thể khớp ngữ nghĩa với dữ liệu, điều này làm cho dữ liệu và thông tin do dữ liệu tạo ra trở nên khó hiểu. Nó cần được xử lý lại để thiết lập sự liên kết ngữ nghĩa giữa dữ liệu AIoT và ngôn ngữ tự nhiên nhằm cung cấp ý nghĩa đối với những dữ liệu này.

4. Quan điểm 4: Mô hình lớn không phải là cách duy nhất để đạt được AGI, "mô hình + hệ thống" mới là giải pháp chính xác

Đối mặt với những khó khăn mà AI phải đối mặt trong các lĩnh vực khác nhau như AIoT, làm thế nào để hiện thực hóa AGI theo đúng nghĩa? Hua Xiansheng tin rằng hiện tại có ba con đường có thể:

• Con đường thứ nhất là sự phát triển và tiến bộ không ngừng của mô hình lớn, liên tục tăng kích thước mô hình, tăng lượng dữ liệu và phương thức để tạo ra mô hình siêu lớn đạt AGI.
• Con đường thứ hai là lật đổ chủ nghĩa kết nối hiện tại, nghiên cứu các khuôn khổ mô hình mới để làm cho nó gần hơn với chế độ làm việc của bộ não con người hoặc trái tim con người, đồng thời có khả năng phân tích, lập luận, khám phá và đổi mới mạnh mẽ dưới tiền đề năng lượng thấp tiêu dùng .
• Cách thứ ba là phương pháp "mô hình + hệ thống" do chúng tôi đề xuất; khác với cách thứ nhất lấy hệ thống mô hình lớn làm cốt lõi, hệ thống được đề cập ở đây bao quát hơn, bao gồm sự kết hợp giữa lớn và nhỏ các mô hình và Sự tiến hóa bao gồm sự hợp nhất của các mô hình và quy tắc, sự chuyển hóa lẫn nhau của các quy tắc và mô hình, v.v. Thông qua phương pháp hợp nhất hệ thống và mô hình, chúng ta sẽ xây dựng một cơ thể thông minh phức tạp hơn có thể tự phát triển liên tục.

Lấy lĩnh vực AIoT làm ví dụ, Hua Xiansheng cho biết bản thân mô hình ngôn ngữ lớn là một phần mở rộng của AIoT và ** sử dụng mô hình ngôn ngữ lớn làm "bộ não" với khả năng lĩnh hội mạnh mẽ, sau đó kết nối các thiết bị AIoT thông qua hệ thống với kết hợp nó với "mắt", "mũi", "tai", "tay" và "chân", để nó có nhiều khả năng nhận thức, phân tích, ra quyết định và kiểm soát, để đạt được trí thông minh mạnh mẽ hơn **. Khi "mô hình + hệ thống" được sử dụng ngày càng nhiều và nhiều dữ liệu được tích lũy, thì có thể thực sự hiện thực hóa mô hình AIoT "thống nhất lớn" của dữ liệu đa phương thức và không đồng nhất.