GPT-4 chỉ là tia lửa của AGI? LLM cuối cùng sẽ thoát ra, mô hình thế giới là tương lai

Nguồn gốc: Xinzhiyuan

Trong nhận thức của con người, có vẻ như trí tuệ tổng quát nhân tạo (AGI) từ lâu đã được sử dụng để thiết lập hình thức cuối cùng của trí tuệ nhân tạo và mục tiêu cuối cùng của sự phát triển.

Mặc dù OpenAI từ lâu đã đặt mục tiêu của công ty là đạt được AGI. Nhưng AGI là gì thì bản thân CEO OpenAI Sam Altman cũng không thể đưa ra một định nghĩa cụ thể.

Về phần AGI sẽ đến khi nào, nó chỉ tồn tại trong các tình huống kể chuyện tương lai gần do các ông chủ ném ra, tưởng chừng như trong tầm tay nhưng lại rất xa vời.

Hôm nay, trên trang web podcast nổi tiếng của nước ngoài Substack, một người kỳ cựu trong ngành trí tuệ nhân tạo tên là Valentino Zocca, đứng trên quan điểm tường thuật về lịch sử loài người, đã viết một bài viết hùng tráng, kể một cách toàn diện và sâu sắc về câu chuyện của con người và trí tuệ nhân tạo nói chung. trí thông minh.Khoảng cách giữa các trí thông minh.

Trong bài viết, AGI được định nghĩa đại khái là "mô hình có thể hiểu thế giới", chứ không chỉ là "mô hình mô tả thế giới".

Anh ấy tin rằng nếu con người muốn thực sự đạt được thế giới AGI, họ cần xây dựng một "hệ thống có thể đặt câu hỏi về thực tế của chính họ và có thể khám phá bản thân."

Trong quá trình thăm dò vĩ đại này, có lẽ không ai đủ trình độ và khả năng để đưa ra một lộ trình cụ thể.

Như các nhà khoa học OpenAI Kenneth Stanley và Joel Lehman giải thích trong cuốn sách gần đây của họ, "Tại sao không thể lên kế hoạch cho sự vĩ đại", việc theo đuổi sự vĩ đại có định hướng, nhưng kết quả cụ thể có thể không như mong đợi.

**Chúng ta cách AGI bao xa? **

Khoảng 200.000 năm trước, Homo sapiens bắt đầu đi thẳng đứng trên trái đất, đồng thời, họ cũng bắt đầu du hành trong lĩnh vực tư duy và tri thức.

Một loạt các khám phá và phát minh trong lịch sử loài người đã định hình lịch sử loài người. Một số trong số này không chỉ ảnh hưởng đến ngôn ngữ và suy nghĩ của chúng ta mà còn có khả năng ảnh hưởng đến cấu tạo sinh học của chúng ta.

Ví dụ, việc phát hiện ra lửa đã cho phép người nguyên thủy nấu thức ăn. Thức ăn được nấu chín cung cấp nhiều năng lượng cho não, do đó thúc đẩy sự phát triển trí thông minh của con người.

Từ việc phát minh ra bánh xe đến việc tạo ra động cơ hơi nước, nhân loại đã mở ra cuộc Cách mạng Công nghiệp. Điện tiếp tục mở đường cho sự phát triển công nghệ mà chúng ta có ngày nay, và in ấn đã đẩy nhanh việc phổ biến rộng rãi các ý tưởng và văn hóa mới, thúc đẩy sự phát triển của sự đổi mới của con người.

Tuy nhiên, tiến bộ không chỉ đến từ việc khám phá ra các chiều vật lý mới mà còn đến từ những ý tưởng mới.

Lịch sử của thế giới phương Tây là từ sự sụp đổ của Đế chế La Mã đến thời Trung cổ, trải qua sự tái sinh trong thời kỳ Phục hưng và Khai sáng.

Nhưng với sự phát triển của tri thức nhân loại, loài người bắt đầu nhận ra tầm quan trọng của chính nó.

Hơn hai nghìn năm sau Socrates, con người bắt đầu "biết rằng họ chẳng biết gì" và trái đất của chúng ta không còn được coi là trung tâm của vũ trụ nữa. Bản thân vũ trụ đang giãn nở, và chúng ta chỉ là một hạt bụi trong đó.

Thay đổi nhận thức về thực tế

Nhưng thay đổi lớn nhất trong nhận thức của con người về thế giới xảy ra vào thế kỷ 20.

Năm 1931, Kurt Gödel công bố định lý bất toàn.

Chỉ bốn năm sau, để tiếp tục chủ đề "sự hoàn chỉnh", Einstein, Podolsky và Rosen đã xuất bản một bài báo có tựa đề "Liệu định nghĩa cơ học lượng tử của thực tại vật lý có thể được coi là hoàn chỉnh?" của?)

Sau đó, Niels Bohr đã bác bỏ bài báo này, chứng minh tính đúng đắn của vật lý lượng tử.

Định lý của Gödel cho thấy rằng ngay cả toán học cũng không thể chứng minh mọi thứ một cách thuyết phục—con người sẽ luôn có những sự thật không thể chứng minh được—trong khi lý thuyết lượng tử cho thấy rằng sự thiếu chắc chắn trong thế giới của chúng ta ngăn cản chúng ta dự đoán một số sự kiện, chẳng hạn như tốc độ và tốc độ của các electron.

Bất chấp tuyên bố nổi tiếng của Einstein rằng "Chúa không chơi trò xúc xắc với vũ trụ", về bản chất, những hạn chế của con người được thể hiện đầy đủ khi chỉ đơn giản là dự đoán hoặc hiểu mọi thứ trong vật lý.

Cho dù con người có cố gắng thiết kế một vũ trụ toán học vận hành theo các quy luật do con người đặt ra như thế nào đi chăng nữa, thì một vũ trụ trừu tượng như vậy luôn không hoàn chỉnh, và có những tiên đề khách quan không thể chứng minh và không thể phủ nhận ẩn chứa trong đó.

Ngoài công thức trừu tượng của toán học, thế giới con người còn được thể hiện bằng triết học mô tả hiện thực.

Nhưng con người thấy mình không thể mô tả, diễn đạt đầy đủ, hiểu hoặc thậm chí chỉ định nghĩa những biểu tượng này.

Vào đầu thế kỷ 20, khái niệm "sự thật" vẫn chưa chắc chắn và các khái niệm như "nghệ thuật", "cái đẹp" và "cuộc sống" thiếu sự đồng thuận cơ bản về cấp độ định nghĩa.

Điều này cũng đúng với nhiều khái niệm quan trọng khác, “trí” và “thức” cũng không thể được chính con người định nghĩa một cách rõ ràng.

Định nghĩa về Thông minh

Để lấp đầy khoảng trống trong định nghĩa về trí thông minh, năm 2007, Legg và Hart đã đề xuất định nghĩa về trí thông minh máy móc trong cuốn sách “Trí thông minh tổng quát”: “Trí thông minh đo lường khả năng của một tác nhân (Agent) đạt được mục tiêu trong một môi trường luôn thay đổi. ."

Tương tự như vậy, trong "Problem Solving and Intelligence", Hambrick, Burgoyne và Altman lập luận rằng giải quyết vấn đề không chỉ là một khía cạnh hay đặc điểm của trí thông minh mà còn là bản chất của trí thông minh.

Hai câu này giống nhau về cách mô tả ngôn ngữ và cả hai đều tin rằng "đạt được mục tiêu" có thể được liên kết với "giải quyết vấn đề".

Trong cuốn sách "Mainstream Science on Intelligence: An Editorial with 52 Signatories", Gottfredson đã tóm tắt định nghĩa của một số nhà nghiên cứu về trí thông minh từ một góc nhìn rộng hơn:

"Trí thông minh là một khả năng tinh thần rất chung chung bao gồm lý luận, lập kế hoạch, giải quyết vấn đề, tư duy trừu tượng, hiểu các ý tưởng phức tạp, học nhanh và học từ kinh nghiệm. Đó không chỉ là kiến thức sách vở, kỹ năng học thuật hạn hẹp hay kỹ năng làm bài kiểm tra. Đúng hơn là , nó phản ánh khả năng hiểu rộng hơn, sâu hơn về môi trường xung quanh của một người—khả năng 'nắm bắt', 'hiểu' mọi thứ hoặc 'tìm ra' những việc cần làm”.

Định nghĩa này đưa việc xây dựng trí thông minh vượt ra ngoài "kỹ năng giải quyết vấn đề" đơn thuần và giới thiệu hai khía cạnh chính: khả năng học hỏi từ kinh nghiệm và khả năng hiểu môi trường xung quanh.

Nói cách khác, trí thông minh không nên được coi là một khả năng trừu tượng để tìm giải pháp cho các vấn đề chung, mà là một khả năng cụ thể để áp dụng những gì chúng ta đã học được từ kinh nghiệm trước đây vào các khả năng môi trường của chúng ta cho các tình huống khác nhau có thể phát sinh.

Điều này nhấn mạnh mối liên hệ nội tại giữa trí thông minh và học tập.

Trong cuốn sách “How We Learn”, Stanislas Dehaene định nghĩa học tập là “học tập là quá trình hình thành mô hình của thế giới”, điều đó có nghĩa trí thông minh cũng là một khả năng đòi hỏi phải hiểu môi trường xung quanh và tạo ra mô hình bên trong để mô tả môi trường.

Do đó, trí thông minh cũng đòi hỏi khả năng tạo ra các mô hình của thế giới, mặc dù không chỉ có khả năng này.

**Máy móc hiện nay thông minh đến mức nào? **

Khi thảo luận về trí tuệ tổng quát nhân tạo (AGI) và trí tuệ nhân tạo hẹp (Narrow AI), chúng ta thường nhấn mạnh sự khác biệt giữa chúng.

Trí tuệ nhân tạo hẹp (hoặc trí tuệ nhân tạo yếu) rất phổ biến và thành công, thường vượt qua con người trong các nhiệm vụ cụ thể.

Ví dụ nổi tiếng này, vào năm 2016, trí tuệ nhân tạo nghĩa hẹp AlphaGo đã đánh bại nhà vô địch thế giới Li Shidol với tỷ số 4-1 trong ván cờ vây, đây là một ví dụ điển hình.

Tuy nhiên, vào năm 2023, kỳ thủ cờ vua nghiệp dư Kellin Perline đã sử dụng chiến thuật mà trí tuệ nhân tạo không thể đối phó để giành chiến thắng trong ván cờ dành cho con người trên sân cờ vây, điều này cho thấy trí tuệ nhân tạo hạn hẹp có những hạn chế trong một số trường hợp.

Nó thiếu khả năng của con người để nhận ra các chiến thuật bất thường và điều chỉnh cho phù hợp.

Hơn nữa, ở cấp độ cơ bản nhất, ngay cả một nhà khoa học dữ liệu mới làm quen cũng hiểu rằng mọi mô hình học máy mà trí tuệ nhân tạo dựa vào đều cần đạt được sự cân bằng giữa sai lệch và phương sai.

Điều này có nghĩa là học từ dữ liệu, hiểu và khái quát hóa các giải pháp chứ không chỉ học thuộc lòng.

AI thu hẹp sử dụng sức mạnh tính toán và dung lượng bộ nhớ của máy tính để tạo ra các mô hình phức tạp dựa trên lượng lớn dữ liệu quan sát được một cách tương đối dễ dàng.

Tuy nhiên, một khi các điều kiện thay đổi một chút, các mô hình này thường không thể khái quát hóa được.

Nó sẽ giống như việc chúng ta đưa ra một lý thuyết về lực hấp dẫn để mô tả Trái đất dựa trên các quan sát, chỉ để thấy rằng các vật thể trên Mặt trăng nhẹ hơn nhiều.

Nếu chúng ta sử dụng các biến số thay vì các con số dựa trên kiến thức lý thuyết về lực hấp dẫn, chúng ta có thể hiểu cách sử dụng các giá trị chính xác để dự đoán nhanh độ lớn của lực hấp dẫn trên mỗi hành tinh hoặc mặt trăng.

Nhưng nếu chúng ta chỉ sử dụng các phương trình số không có biến, thì chúng ta sẽ không thể tổng quát hóa các phương trình này cho các hành tinh khác một cách chính xác mà không cần viết lại chúng.

Nói cách khác, trí tuệ nhân tạo có thể không có khả năng "học" thực sự, mà chỉ chắt lọc thông tin hoặc kinh nghiệm. AI không hiểu bằng cách hình thành một mô hình toàn diện về thế giới, mà chỉ bằng cách tạo ra một bản tóm tắt để diễn đạt.

**Chúng ta đã thực sự đạt được AGI chưa? **

AGI hiện nay thường được hiểu là: một hệ thống trí tuệ nhân tạo có thể hiểu và suy luận trong nhiều lĩnh vực nhận thức ở cấp độ con người trở lên, tức là trí tuệ nhân tạo mạnh.

Và trí tuệ nhân tạo hiện tại của chúng tôi cho các nhiệm vụ cụ thể chỉ là một trí tuệ nhân tạo yếu, chẳng hạn như AlphaGO của cờ vây.

AGI đại diện cho một hệ thống trí tuệ nhân tạo với trí thông minh ở cấp độ con người bao gồm nhiều lĩnh vực khác nhau trong lĩnh vực tư duy trừu tượng.

Điều này có nghĩa là những gì chúng ta cần cho AGI là một mô hình thế giới phù hợp với kinh nghiệm và có thể đưa ra những dự đoán chính xác.

Như Everitt, Lea, và Hutter đã chỉ ra trong “Đánh giá tài liệu về an toàn” (AGI Safety Literature Review): AGI chưa có ở đây.

Đối với câu hỏi "Chúng ta còn cách AGI thực sự bao xa?", các dự đoán khác nhau rất khác nhau.

Nhưng nó phù hợp với quan điểm của hầu hết các nhà nghiên cứu trí tuệ nhân tạo và các tổ chức có thẩm quyền, đó là con người cách trí tuệ nhân tạo nói chung thực sự ít nhất vài năm.

Sau khi GPT-4 ra mắt, đối mặt với trí tuệ nhân tạo mạnh nhất hiện nay, nhiều người coi GPT-4 là tia sáng của AGI.

Vào ngày 13 tháng 4, đối tác của OpenAI là Microsoft đã phát hành bài báo "Sparks of Artificial General Intelligence: Early Experiments with GPT-4" (Tia lửa của trí tuệ nhân tạo tổng quát: Những thí nghiệm ban đầu với GPT-4).

Địa chỉ giấy tờ:

trong đó đề cập:

"GPT-4 không chỉ thông thạo ngôn ngữ mà còn giải quyết các nhiệm vụ tiên tiến bao gồm toán học, mã hóa, tầm nhìn, y học, luật, tâm lý học và các lĩnh vực khác mà không yêu cầu bất kỳ lời nhắc đặc biệt nào.

Và ở tất cả các tác vụ trên, mức hiệu năng của GPT-4 gần như ngang ngửa với con người. Dựa trên bề rộng và chiều sâu của các khả năng của GPT-4, chúng tôi tin rằng nó có thể được coi là một phiên bản gần như nhưng chưa hoàn thiện của trí tuệ nhân tạo nói chung. "

Nhưng như Maarten Sap, giáo sư tại Đại học Carnegie Mellon, nhận xét, “tia sáng của AGI” chỉ là một ví dụ về một số công ty lớn đưa các bài báo nghiên cứu làm quan hệ công chúng.

Mặt khác, nhà nghiên cứu và doanh nhân máy móc Rodney Brooks chỉ ra một quan niệm sai lầm: “Khi đánh giá chức năng của các hệ thống như ChatGPT, chúng tôi thường đánh đồng hiệu suất với khả năng”.

Đánh đồng hiệu suất với khả năng một cách sai lầm có nghĩa là GPT-4 tạo ra các mô tả tóm tắt về thế giới mà GPT-4 coi là hiểu biết về thế giới thực.

Điều này liên quan đến dữ liệu mà mô hình AI được đào tạo.

Hầu hết các người mẫu ngày nay chỉ được đào tạo trên văn bản và không có khả năng nói, nghe, ngửi và sống trong thế giới thực.

Tình huống này giống với câu chuyện ngụ ngôn về cái hang của Plato, người sống trong hang chỉ có thể nhìn thấy bóng trên tường chứ không thể nhận ra sự tồn tại thực sự của sự vật.

Các mô hình thế giới chỉ được đào tạo trên văn bản chỉ được đảm bảo đúng ngữ pháp. Nhưng về bản chất, nó không hiểu ngôn ngữ đề cập đến điều gì, và nó thiếu ý thức chung khi tiếp xúc trực tiếp với môi trường.

Hạn chế lớn của mô hình lớn hiện tại

Thách thức gây tranh cãi nhất của các mô hình ngôn ngữ lớn (LLM) là xu hướng ảo giác của chúng.

Ảo giác đề cập đến các tình huống trong đó một mô hình làm sai lệch các tham chiếu và sự kiện, hoặc gây nhầm lẫn cho các suy luận logic, suy luận nhân quả, v.v. và tạo ra nội dung vô nghĩa.

Ảo tưởng về các mô hình ngôn ngữ lớn bắt nguồn từ sự thiếu hiểu biết của họ về mối quan hệ nhân quả giữa các sự kiện.

Trong bài báo "ChatGPT có phải là một lý do nhân quả tốt không? Một đánh giá toàn diện", các nhà nghiên cứu đã xác nhận thực tế này:

Các mô hình ngôn ngữ lớn như ChatGPT, bất kể có mối quan hệ nào trong thực tế hay không, họ có xu hướng cho rằng có mối quan hệ nhân quả giữa các sự kiện.

Địa chỉ giấy tờ:

Các nhà nghiên cứu cuối cùng đã kết luận:

"ChatGPT là một công cụ giải thích nguyên nhân xuất sắc, nhưng không phải là một công cụ suy luận nhân quả tốt."

Tương tự, kết luận này cũng có thể được mở rộng cho các LLM khác.

Điều này có nghĩa là LLM về cơ bản chỉ có khả năng quy nạp nhân quả thông qua quan sát chứ không có khả năng suy diễn nhân quả.

Điều này cũng dẫn đến những hạn chế của LLM, nếu trí thông minh có nghĩa là học hỏi kinh nghiệm và biến nội dung đã học thành mô hình thế giới để hiểu môi trường xung quanh, thì suy luận nhân quả, với tư cách là yếu tố cơ bản của học tập, là phần còn thiếu.

Các LLM hiện tại thiếu khía cạnh này, đó là lý do tại sao Yann LeCun tin rằng mô hình ngôn ngữ lớn hiện tại không thể trở thành AGI.

Tóm lại là

Như được tiết lộ bởi sự ra đời của cơ học lượng tử vào đầu thế kỷ 20, thực tế thường khác với trực giác của chúng ta được hình thành qua quan sát hàng ngày.

Ngôn ngữ, kiến thức, dữ liệu văn bản, thậm chí cả video, âm thanh và các tài liệu khác mà chúng ta xây dựng chỉ là một phần rất hạn chế của thực tế mà chúng ta có thể trải nghiệm.

Giống như việc chúng ta khám phá, học hỏi và làm chủ một thực tế bất chấp trực giác và kinh nghiệm của chúng ta, AGI sẽ chỉ thực sự được hiện thực hóa khi chúng ta có thể xây dựng các hệ thống có khả năng đặt câu hỏi về thực tế của chính chúng, có khả năng tự truy vấn.

Và ít nhất ở giai đoạn này, chúng ta nên xây dựng một mô hình có thể suy luận nhân quả và hiểu thế giới.

Triển vọng này là một bước tiến nữa trong lịch sử loài người, ngụ ý hiểu rõ hơn về bản chất của thế giới chúng ta.

Mặc dù sự xuất hiện của AGI sẽ làm suy yếu giá trị độc nhất của chúng ta và tầm quan trọng của sự tồn tại của chúng ta, nhưng thông qua sự tiến bộ liên tục và mở rộng ranh giới nhận thức, chúng ta sẽ hiểu rõ hơn về địa vị của con người trong vũ trụ và mối quan hệ giữa con người và mối quan hệ với vũ trụ.

Người giới thiệu: