Làm thế nào các nhà khoa học có thể tìm hiểu xem trí tuệ nhân tạo có ý thức tự chủ hay không?

Ý tưởng về trí tuệ nhân tạo tạo ra ý thức từ lâu đã là một phần của khoa học viễn tưởng, gợi nhớ đến nhân vật phản diện siêu máy tính HAL 9000 trong bộ phim năm 1968 2001: A Space Odyssey. Với sự phát triển nhanh chóng của trí tuệ nhân tạo, khả năng này ngày càng trở nên ít kỳ lạ hơn, thậm chí được các nhân vật hàng đầu về trí tuệ nhân tạo thừa nhận.

Năm ngoái, Ilya Sutskever, nhà khoa học trưởng tại OpenAI, công ty đứng sau chatbot ChatGPT, đã tweet rằng một số mạng AI tiên tiến nhất có thể "****có ý thức nhẹ" **.

Nhiều nhà nghiên cứu cho rằng hệ thống trí tuệ nhân tạo vẫn chưa có ý thức. Nhưng tốc độ phát triển của AI khiến họ phải suy ngẫm: Làm sao chúng ta biết liệu AI có ý thức hay không?

Để trả lời câu hỏi này, một nhóm gồm 19 nhà thần kinh học, triết gia và nhà khoa học máy tính đã đưa ra một danh sách các tiêu chí mà nếu đáp ứng sẽ chỉ ra rằng một hệ thống có khả năng cao là có ý thức. Họ đã xuất bản hướng dẫn tạm thời, chưa được bình duyệt, trong kho lưu trữ bản thảo arXiv vào đầu tuần này.

Đồng tác giả Robert Long, một triết gia tại Trung tâm An toàn AI ở San Francisco, California, cho biết họ thực hiện công việc này vì “dường như thực sự thiếu nghiên cứu chi tiết, dựa trên thực nghiệm, chu đáo về ý thức AI”. . "thảo luận".

Nhóm nghiên cứu cho biết việc không thể xác định liệu hệ thống AI có ý thức hay không có thể có những tác động đáng kể về mặt đạo đức. Megan Peters, một nhà khoa học thần kinh và đồng tác giả của nghiên cứu, nói rằng nếu một thứ gì đó được dán nhãn là "có ý thức" thì "điều đó sẽ phải thay đổi đáng kể cách chúng ta, với tư cách là con người, tiếp cận nó."

Long nói thêm rằng, theo hiểu biết của ông, các công ty xây dựng hệ thống AI tiên tiến chưa làm đủ để đánh giá nhận thức về các mô hình đó và lập kế hoạch phù hợp. Ông nói: “Mặc dù tôi đã nghe một số bài phát biểu của người đứng đầu các phòng thí nghiệm hàng đầu, nhưng họ có nói rằng ý thức trí tuệ nhân tạo hay nhận thức về trí tuệ nhân tạo là điều đáng suy nghĩ, nhưng tôi không nghĩ như vậy là đủ”.

Nature đã liên hệ với hai trong số những công ty công nghệ chính thúc đẩy sự phát triển AI—Microsoft và Google. Một phát ngôn viên của Microsoft cho biết cốt lõi trong việc phát triển trí tuệ nhân tạo của công ty là hỗ trợ con người làm việc hiệu quả hơn một cách có trách nhiệm chứ không phải tái tạo trí thông minh của con người.

Người phát ngôn cho biết kể từ khi ra mắt GPT-4, phiên bản mới nhất của bản phát hành công khai của ChatGPT, rõ ràng là “nhiệm vụ của chúng tôi nhằm nhận ra toàn bộ tiềm năng của trí tuệ nhân tạo vì lợi ích của toàn xã hội đòi hỏi những cách đánh giá mới về những điều này”. Khả năng mô hình thông minh nhân tạo". Google đã không trả lời.

01.

********** Ý thức là gì? *************

Một trong những thách thức khi nghiên cứu ý thức AI là xác định ý thức là gì. Vì mục đích của báo cáo, các nhà nghiên cứu tập trung vào "nhận thức phi thường" hoặc trải nghiệm chủ quan, Peters nói. Tức là các giác quan tồn tại ở con người, động vật hoặc hệ thống trí tuệ nhân tạo (nếu một trong số chúng được chứng minh là có ý thức).

Có nhiều lý thuyết dựa trên khoa học thần kinh mô tả cơ sở sinh học của ý thức. Nhưng không có sự thống nhất về cái nào là "đúng". Vì vậy, các tác giả sử dụng một loạt các lý thuyết để tạo ra khuôn khổ của họ. Suy nghĩ của họ là nếu chức năng của hệ thống AI phù hợp với nhiều khía cạnh của những lý thuyết này, thì nó sẽ có cơ hội nhận thức cao hơn.

Họ cho rằng cách đánh giá ý thức này tốt hơn là chỉ thực hiện các bài kiểm tra hành vi, chẳng hạn như hỏi ChatGPT xem nó có ý thức hay thách thức nó và xem phản ứng của nó. Bởi vì hệ thống AI đã đạt được tiến bộ đáng kinh ngạc trong việc bắt chước con người.

Nhà thần kinh học Anil Seth, giám đốc Trung tâm Khoa học Ý thức tại Đại học Sussex ở Anh, cho rằng phương pháp tiếp cận chặt chẽ về mặt lý thuyết của nhóm là một phương pháp tốt. Tuy nhiên, ông nói, "cần có những lý thuyết chính xác hơn, được kiểm nghiệm kỹ lưỡng hơn về ý thức."

02.

**Một cách tiếp cận chuyên sâu về lý thuyết

Để xây dựng tiêu chí của mình, các tác giả cho rằng ý thức có liên quan đến cách các hệ thống xử lý thông tin, cho dù chúng được tạo thành từ tế bào thần kinh, chip máy tính hay các vật liệu khác. Cách tiếp cận này được gọi là chức năng tính toán. Họ cũng đưa ra giả thuyết rằng các lý thuyết về ý thức dựa trên khoa học thần kinh, bắt nguồn từ việc quét não và các nghiên cứu kỹ thuật khác về con người và động vật, có thể được áp dụng cho trí tuệ nhân tạo.

Dựa trên những giả định này, nhóm đã chọn ra sáu lý thuyết trong số này, từ đó họ rút ra một loạt các chỉ số về ý thức.

Một trong số đó là lý thuyết không gian làm việc toàn cầu, trong đó khẳng định rằng con người và các động vật khác sử dụng nhiều hệ thống chuyên biệt (còn gọi là mô-đun) để thực hiện các nhiệm vụ nhận thức như thị giác và thính giác. Các module này hoạt động độc lập nhưng song song và tích hợp vào một hệ thống duy nhất để chia sẻ thông tin.

Theo Long, “bằng cách nhìn vào kiến trúc của hệ thống và cách thức truyền thông tin bên trong nó”, người ta có thể đánh giá liệu một hệ thống AI cụ thể có thể hiện các chỉ số bắt nguồn từ lý thuyết hay không.

Seth rất ấn tượng với đề xuất của nhóm. Ông nói: "Nó được suy nghĩ rất kỹ lưỡng, không khoa trương và nêu rõ các giả định của nó. Mặc dù tôi không đồng ý với một số giả định, nhưng điều đó hoàn toàn ổn vì có khả năng tôi có thể sai." "

Các tác giả cho biết bài báo còn lâu mới đưa ra kết luận về cách đánh giá các hệ thống AI có ý thức và họ hy vọng các nhà nghiên cứu khác sẽ giúp cải tiến phương pháp của họ. Nhưng những tiêu chuẩn này đã có thể được áp dụng cho các hệ thống trí tuệ nhân tạo hiện có.

Ví dụ, báo cáo đánh giá các mô hình ngôn ngữ quy mô lớn như ChatGPT và nhận thấy rằng các hệ thống như vậy có thể nói là có một số chỉ số về nhận thức liên quan đến lý thuyết không gian làm việc toàn cầu. Tuy nhiên, nghiên cứu không cho thấy rằng bất kỳ hệ thống AI hiện tại nào đều là ứng cử viên nặng ký cho ý thức, ít nhất là chưa.