Ghi chú của biên tập viên: Sự xuất hiện của trí tuệ nhân tạo đã đẩy khái niệm "điểm kỳ dị" lên hàng đầu, nhiều người ở Thung lũng Silicon tin rằng trí tuệ nhân tạo sẽ thay đổi hoàn toàn xã hội loài người. Tuy nhiên, cũng có những lo ngại về những hậu quả tiêu cực tiềm ẩn của AI, bao gồm khả năng nó có thể hủy diệt loài người. Bài viết này được tổng hợp, trong đó tác giả thảo luận về khái niệm "điểm kỳ dị", thảo luận về sự phấn khích và lo lắng của Thung lũng Silicon đối với trí tuệ nhân tạo, đồng thời nêu bật những lợi ích và rủi ro tiềm tàng của công nghệ này.
Nguồn hình ảnh: Được tạo bởi Unbounded AI
tập trung
Điểm kỳ dị, thời điểm mà công nghệ và trí tuệ nhân tạo làm thay đổi thế giới một cách ngoạn mục, là một khái niệm rất được mong đợi nhưng cũng khiến Thung lũng Silicon khiếp sợ.
Trong khi có sự phấn khích về tác động tích cực tiềm tàng của trí tuệ nhân tạo, thì cũng có lo ngại rằng nó có thể gây ra những hậu quả tai hại cho nhân loại.
*Hiện tại, phần lớn sự chú ý trong AI và Singularity tập trung vào việc phát triển các mô hình ngôn ngữ lớn, nhưng vẫn còn tranh luận về việc liệu những mô hình này có thực sự đại diện cho sự tăng trưởng theo cấp số nhân về trí thông minh mà Singularity hứa hẹn hay không.
Trong nhiều thập kỷ, Thung lũng Silicon đã dự đoán sự xuất hiện của một công nghệ mới sẽ cách mạng hóa lối sống, nền kinh tế, thể chế xã hội của con người, v.v. Nó có thể mang con người và máy móc lại với nhau, có thể mang đến những cơ hội và thách thức chưa từng có, đồng thời chia lịch sử thành hai thời đại "trước" và "sau".
Có thể gọi tên của cột mốc này là "Singularity".
Translator's Note: "Singularity" là khái niệm do nhà văn khoa học viễn tưởng người Mỹ Vernor Vinge đề xuất, dùng để chỉ một sự kiện hoặc tình huống có thể xảy ra trong tương lai, tức là trí thông minh của trí tuệ nhân tạo vượt trội hơn con người. từ đó kích hoạt những thay đổi bùng nổ trong công nghệ và xã hội, khiến những gì xảy ra trong tương lai trở nên khó đoán và khó hiểu.
Điểm kỳ dị có thể phát sinh theo một số cách. Một khả năng là con người đã làm cho mình trở nên mạnh mẽ hơn bằng cách kết hợp khả năng xử lý của máy tính vào trí thông minh bẩm sinh của mình. Hoặc, máy tính có thể trở nên phức tạp đến mức nó thực sự có thể suy nghĩ, tạo ra một "bộ não toàn cầu".
Cả hai kịch bản sẽ mang lại những thay đổi mạnh mẽ, theo cấp số nhân, không có kịch bản nào có thể đảo ngược. Một cỗ máy siêu thông minh tự nhận thức có khả năng thiết kế, cải tiến và nâng cấp bản thân nhanh hơn nhiều so với bất kỳ nhóm nhà khoa học nào chắc chắn sẽ châm ngòi cho một vụ nổ trí tuệ. Những tiến bộ đạt được trong nhiều thế kỷ qua có thể mang tính đột phá chỉ trong vài năm hoặc thậm chí vài tháng. Điểm kỳ dị là một máy phóng vào tương lai.
Ngày nay, trí tuệ nhân tạo đang tạo ra những làn sóng chưa từng có trong công nghệ, kinh doanh và chính trị. Đánh giá về tất cả những điều cường điệu và phi lý đến từ Thung lũng Silicon, có vẻ như tương lai cực kỳ tươi sáng này cuối cùng cũng đã đến.
Sundar Pichai, Giám đốc điều hành thường ít quan trọng của Google, nói rằng "trí tuệ nhân tạo đã vượt qua lửa, điện hoặc bất kỳ thành tựu công nghệ nào trong quá khứ về tầm quan trọng và tác động". Nhà đầu tư tỷ phú Reid Hoffman (Reid Hoffman) nói: "Thế giới sẽ mở ra một lực lượng chưa từng có, sẽ thúc đẩy toàn bộ xã hội loài người tiến lên." Đồng sáng lập Microsoft Bill Gates (Bill Gates) tuyên bố rằng trí tuệ nhân tạo "sẽ thay đổi cách mọi người làm việc, học tập, du lịch, chăm sóc sức khỏe và giao tiếp với nhau".
Trí tuệ nhân tạo là sản phẩm mới cuối cùng của Thung lũng Silicon, có khả năng siêu phàm theo yêu cầu.
Nhưng cũng có một vấn đề tiềm ẩn không thể bỏ qua. Cứ như thể các công ty công nghệ tung ra những chiếc xe tự lái với thông điệp cảnh báo rằng chúng có thể nổ tung trên đường đến Walmart.
Vào tháng 5 năm nay, Elon Musk, người đứng đầu Tesla và Twitter, đã nói trong một cuộc phỏng vấn với Kênh Kinh doanh và Tin tức Người tiêu dùng Hoa Kỳ (CNBC): "Sự xuất hiện của trí thông minh nhân tạo nói chung được gọi là một phép màu. Vấn đề là sau này Ông tin rằng chúng ta sẽ mở ra “thời đại của sự phong phú” (an age of dồi dào), nhưng nguy cơ trí tuệ nhân tạo “tiêu diệt loài người” vẫn “không thể chấp nhận được”. “.
Trong giới công nghệ, người ủng hộ trí tuệ nhân tạo mạnh mẽ nhất là Sam Altman, CEO của công ty trí tuệ nhân tạo OpenAI của Mỹ. Chatbot ChatGPT của công ty khởi nghiệp, được ra mắt vào năm ngoái, cũng đã tiếp tục khơi dậy sự nhiệt tình. Altman cho biết AI sẽ là "lực lượng lớn nhất trong việc trao quyền kinh tế và sự giàu có cho nhiều người."
Tuy nhiên, đối với Musk, người sáng lập công ty phát triển công nghệ giao diện não-máy tính, ông cũng cảm thấy những lời chỉ trích của Musk là chính đáng.
Cách đây không lâu, Altman đã ký một bức thư ngỏ chung do tổ chức phi lợi nhuận "Trung tâm An toàn AI" (Center for AI Safety) tài trợ. "Ngăn chặn nguy cơ tuyệt chủng do trí tuệ nhân tạo gây ra nên là ưu tiên toàn cầu", ngang hàng với "đại dịch và chiến tranh hạt nhân", bức thư viết. Các bên ký kết khác bao gồm các đồng nghiệp từ công ty OpenAI và các nhà khoa học máy tính từ Microsoft và Google.
Sam Altman, CEO của OpenAI, một công ty trí tuệ nhân tạo của Mỹ, là người ủng hộ trí tuệ nhân tạo mạnh mẽ nhất. Nguồn hình ảnh: Haiyun Jiang
Ngày tận thế là một chủ đề quen thuộc, thậm chí phổ biến ở Thung lũng Silicon. Vài năm trước, hầu hết mọi giám đốc điều hành công nghệ dường như đã xây dựng một nơi trú ẩn cho ngày tận thế ở đâu đó ở một nơi xa xôi hẻo lánh, dự trữ đầy đủ phòng trường hợp họ cần. Vào năm 2016, Altman cũng cho biết ông "đã tích trữ súng, vàng, kali iodua, thuốc kháng sinh, pin, nước, mặt nạ phòng độc IDF và xây dựng một nơi trú ẩn lớn ở Big Sur mà bạn có thể bay vào ngay." đã khiến những người sống sót sau công nghệ này cảm thấy được minh oan, ít nhất là trong một thời gian.
Bây giờ, họ đang chuẩn bị cho sự xuất hiện của điểm kỳ dị.
Về vấn đề này, Baldur Bjarnason, tác giả của cuốn "Ảo tưởng về trí thông minh", cho biết: "Họ nghĩ rằng họ rất khôn ngoan, nhưng lời nói của họ giống như năm 1000 sau Công nguyên. Các nhà sư nói về ngày tận thế. Điều đó hơi đáng lo ngại."
Nguồn gốc của "Vượt lên"
Nguồn gốc của khái niệm "điểm kỳ dị" có thể bắt nguồn từ nhà tiên phong khoa học máy tính John von Neumann vào những năm 1950. Von Neumann đã từng dự đoán rằng "sự tiến bộ không ngừng của công nghệ" sẽ dẫn đến "một điểm kỳ dị then chốt trong lịch sử loài người."
Nhà tiên phong khoa học máy tính John von Neumann. Tín dụng hình ảnh: Getty Images
Nhà toán học người Anh Irving John Good cũng là người ủng hộ mạnh mẽ quan điểm này. Ông đã hỗ trợ chính phủ Anh bẻ khóa máy mật mã Enigma của Đức tại Bletchley Park (Công viên Bletchley, nơi chính phủ Anh tiến hành phá mã trong Thế chiến II). Năm 1964, ông viết: "Việc sớm chế tạo ra những cỗ máy siêu thông minh là chìa khóa cho sự tồn tại của nhân loại."
Khi đạo diễn phim người Mỹ Stanley Kubrick chỉ đạo quay bộ phim khoa học viễn tưởng 2001: A Space Odyssey, ông đã nhờ Goode cho lời khuyên về nhân vật trí tuệ nhân tạo tốt bụng chuyển thành ác ý HAL, một ví dụ ban đầu về ranh giới mờ nhạt giữa khoa học máy tính và khoa học máy tính. khoa học viễn tưởng.
Hans Moravec, phó giáo sư tại Viện Robotics tại Đại học Carnegie Mellon, tin rằng sự xuất hiện của Điểm kỳ dị sẽ không chỉ mang lại lợi ích cho người sống mà còn giúp người chết sống lại.
"Chúng ta sẽ có cơ hội tái tạo và tương tác với quá khứ theo những cách thực tế và ngay lập tức", ông viết trong cuốn Những đứa trẻ trí tuệ: Tương lai của trí thông minh robot và con người trên đường.
Doanh nhân và nhà phát minh Ray Kurzweil cũng là người ủng hộ mạnh mẽ nhất cho Điểm kỳ dị trong những năm gần đây. Kurzweil là tác giả của The Age of Intelligent Machines năm 1990 và The Singularity Is Near năm 2005. Kurzweil hiện đang viết cuốn sách The Singularity Is Near.
Ông dự đoán rằng vào cuối thập kỷ này, máy tính sẽ vượt qua bài kiểm tra Turing và không thể phân biệt được với con người. Mười lăm năm nữa, sự siêu việt thực sự sẽ đến: “Khi công nghệ điện toán được tích hợp vào chúng ta, trí thông minh của chúng ta sẽ được nâng cao rất nhiều, có thể là hàng trăm lần”.
Kurzweil lúc đó sẽ 97 tuổi. Với sự trợ giúp của nhiều loại vitamin và chất bổ sung khác nhau, anh ấy hy vọng mình sẽ sống để chứng kiến thời đại này đến.
Doanh nhân và nhà phát minh Ray Kurzweil cũng là người ủng hộ mạnh mẽ nhất cho Điểm kỳ dị. Tín dụng: Friso Gentsch/Picture Alliance
Một số người chỉ trích Điểm kỳ dị tin rằng khái niệm Điểm kỳ dị cố gắng tạo ra một hệ thống niềm tin trong lĩnh vực phần mềm tương tự như một niềm tin tôn giáo có tổ chức.
Rodney Brooks, cựu giám đốc Phòng thí nghiệm Khoa học Máy tính và Trí tuệ Nhân tạo của MIT, cho biết: “Tất cả họ đều muốn sự bất tử, nhưng họ không muốn tin vào 'Chúa'.
Ngày nay, những đổi mới trong cuộc tranh cãi về “Singularity” chủ yếu liên quan đến các mô hình ngôn ngữ lớn (LLM), hệ thống trí tuệ nhân tạo cũng là trung tâm của sự phát triển của chatbot. Nói chuyện với những mô hình ngôn ngữ lớn này và họ có thể trả lời các câu hỏi một cách nhanh chóng, mạch lạc và thường là những câu trả lời khá sáng sủa.
Theo Jerry Kaplan, một doanh nhân AI lâu năm và là tác giả của Trí tuệ nhân tạo: Điều mọi người cần biết, "Khi bạn hỏi một mô hình ngôn ngữ lớn, cuối cùng nó sẽ hiểu ý nghĩa của câu hỏi, xác định câu trả lời nên là gì và sau đó trình bày trả lời bằng ngôn ngữ viết. Nếu đây không phải là định nghĩa về trí thông minh chung, thì là gì?"
Kaplan cũng cho biết ông hoài nghi về các công nghệ cao cấp như ô tô không người lái và tiền điện tử. Tương tự như vậy, trước đây anh ấy đã hoài nghi về cơn sốt AI mới nhất, nhưng đã bắt đầu thay đổi suy nghĩ về AI sau khi nhìn thấy tiềm năng mà nó mang lại.
"Nếu đây không phải là 'điểm kỳ dị', thì chắc chắn là như vậy. Đó là một công nghệ có tác động to lớn sẽ giúp nhân loại tiến bộ đáng kể về nghệ thuật, khoa học và tri thức. Và, tất nhiên, nó sẽ gây ra một số vấn đề," ông thêm.
Các nhà phê bình phản bác rằng ngay cả khi các mô hình ngôn ngữ lớn đạt được kết quả ấn tượng, thì điều này cũng không thể phù hợp với trí thông minh toàn cầu, rộng lớn được mô tả bởi Điểm kỳ dị. Một phần của vấn đề trong việc vạch ra ranh giới giữa sự cường điệu và thực tế là các nguyên tắc và thuật toán thúc đẩy công nghệ này ngày càng trở nên khó tiết lộ.
OpenAI bắt đầu như một tổ chức phi lợi nhuận sử dụng mã nguồn mở, nhưng sau đó đã trở thành một doanh nghiệp vì lợi nhuận. Một số nhà phê bình chỉ ra rằng OpenAI giờ đây thực sự là một "hộp đen" và rất khó để mọi người hiểu được hoạt động bên trong của nó. Về vấn đề này, Google và Microsoft cũng có mức độ tiết lộ thông tin thấp.
Phần lớn các nghiên cứu hiện tại về trí tuệ nhân tạo được dẫn dắt bởi các công ty được hưởng lợi từ kết quả. Phiên bản sơ bộ của mô hình mới nhất của OpenAI "thể hiện nhiều tính năng thông minh", bao gồm "khả năng trừu tượng, khả năng hiểu, khả năng hình ảnh, khả năng mã hóa" và "khả năng hiểu động cơ và cảm xúc của con người".
Rylan Schaeffer, nghiên cứu sinh tiến sĩ về khoa học máy tính tại Đại học Stanford, cho biết một số nhà nghiên cứu AI đã mô tả "sức mạnh mới nổi" được thể hiện bởi các mô hình ngôn ngữ lớn này không chính xác. Mặc dù các mô hình ngôn ngữ lớn này có một số khả năng chưa biết và khó diễn giải, nhưng các khả năng này không rõ ràng hoặc không có trong các phiên bản mô hình ngôn ngữ nhỏ hơn.
Schaffer và hai đồng nghiệp khác của Stanford, Brando Miranda và Sanmi Koyejo, đã xem xét câu hỏi trong một bài báo nghiên cứu xuất bản vào tháng 5, kết luận rằng khả năng xuất hiện này chỉ là một "ảo ảnh" do lỗi đo lường gây ra, không phải do sự gia tăng kích thước và độ phức tạp của mô hình. . Trên thực tế, các nhà nghiên cứu có thể nghiêng về kết quả mà họ muốn thấy.
Sự bất tử, sự bất tử
Tại Washington, London và Brussels, các nhà lập pháp bắt đầu nhận ra các cơ hội và vấn đề do trí tuệ nhân tạo đặt ra và bắt đầu thảo luận về các vấn đề pháp lý. Altman đang thực hiện một buổi giới thiệu quảng cáo cho OpenAI, nhằm mục đích loại bỏ những lời chỉ trích ban đầu trong khi đưa công ty của mình trở thành người dẫn đầu trong thời đại của sự kỳ dị.
Điều này bao gồm việc mở cửa cho quy định, nhưng hình thức quy định cụ thể vẫn chưa rõ ràng. Tuy nhiên, có một nhận thức phổ biến ở Thung lũng Silicon rằng các cơ quan chính phủ hoạt động kém hiệu quả và thiếu chuyên môn để điều chỉnh hiệu quả lĩnh vực công nghệ đang phát triển nhanh.
Cựu Giám đốc điều hành Google Eric Schmidt nói với chương trình trò chuyện tin tức "Gặp gỡ báo chí" vào đầu năm nay: "Không có ai trong cơ quan chính phủ đang hiểu đúng", và đưa ra ý tưởng về khả năng tự điều chỉnh của trí tuệ nhân tạo. Ông nói thêm: “Nhưng ngành công nghiệp có năng lực trong ngành để đưa ra các quy định gần đúng.
Trí tuệ nhân tạo, giống như điểm kỳ dị của công nghệ, được coi là không thể đảo ngược trước những thay đổi mà nó mang lại. Altman và các đồng nghiệp của ông gần đây đã tuyên bố rằng "các cơ chế kiểm soát tương tự như hệ thống quản lý toàn cầu phải được thiết lập để hạn chế sự phát triển hơn nữa của trí tuệ nhân tạo, nhưng ngay cả điều này cũng không thể đảm bảo thành công". Nó.
Tuy nhiên, lợi nhuận khổng lồ được tạo ra từ nó hiếm khi được thảo luận hiện nay. Bất chấp nhận thức phổ biến rằng trí tuệ nhân tạo là một cỗ máy tạo ra của cải vô hạn, nhưng về cơ bản, những người giàu có mới thực sự kiếm được lợi nhuận từ nó.
Năm nay, giá trị thị trường của Microsoft đã tăng vọt 5 nghìn tỷ USD. Nvidia, công ty sản xuất chip cho các hệ thống chạy trí tuệ nhân tạo, gần đây cũng đã trở thành một trong những công ty đại chúng có giá trị nhất ở Hoa Kỳ do nhu cầu về chip tăng đột biến.
“Trí tuệ nhân tạo là công nghệ mà xã hội loài người luôn mong muốn có được,” Altman viết trên Twitter.
Không thể phủ nhận rằng đây quả thực là một công nghệ được giới công nghệ chờ đợi và nó đã đến vào một thời điểm hoàn hảo.
Năm ngoái, Thung lũng Silicon đã phải hứng chịu hai đợt sa thải nhân công và lãi suất tăng cao, trong khi tiền điện tử, sau một thời kỳ bùng nổ và phá sản, đã nhanh chóng suy yếu do gian lận và sự thất vọng kéo theo sau đó.
Charles Stross, đồng tác giả của The Rapture of the Nerds, một tiểu thuyết khoa học viễn tưởng mô tả một cách hài hước sự kỳ dị của công nghệ, nói: “Hãy chạy theo đồng tiền. Stross cũng là tác giả của cuốn tiểu thuyết khoa học viễn tưởng Accelerando, trong đó ông cũng vẽ nên một bức tranh nghiêm túc và nghiêm túc hơn về cuộc sống trong tương lai sẽ như thế nào.
Ông nói: “Cơ hội thực sự là các công ty sẽ có thể thay thế nhiều bộ phận xử lý thông tin do con người vận hành bị lỗi, đắt tiền, không phản hồi bằng phần mềm, do đó giảm chi phí và tăng hiệu quả.
Trong một thời gian dài, mọi người đã tưởng tượng điểm kỳ dị công nghệ là một sự kiện có tác động toàn cầu, có thể phá vỡ hoàn toàn hệ thống nhận thức của con người và sức mạnh của sự thay đổi này thật đáng kinh ngạc. Hiện tại, khả năng này vẫn tồn tại.
Tuy nhiên, một phần do việc theo đuổi lợi nhuận của công ty quá mức ở Thung lũng Silicon ngày nay, điều này sẽ dẫn đến việc điểm kỳ dị về công nghệ được sử dụng như một công cụ sa thải ngay từ đầu. Trong quá trình theo đuổi vốn hóa thị trường nghìn tỷ đô la, các vấn đề nhỏ có thể tạm gác lại.
Xem bản gốc
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Thung lũng Silicon bàn luận sôi nổi về "điểm kỳ dị" của trí tuệ nhân tạo: Thời đại máy móc vượt con người đã đến?
Nguồn gốc: 36 krypton
Ghi chú của biên tập viên: Sự xuất hiện của trí tuệ nhân tạo đã đẩy khái niệm "điểm kỳ dị" lên hàng đầu, nhiều người ở Thung lũng Silicon tin rằng trí tuệ nhân tạo sẽ thay đổi hoàn toàn xã hội loài người. Tuy nhiên, cũng có những lo ngại về những hậu quả tiêu cực tiềm ẩn của AI, bao gồm khả năng nó có thể hủy diệt loài người. Bài viết này được tổng hợp, trong đó tác giả thảo luận về khái niệm "điểm kỳ dị", thảo luận về sự phấn khích và lo lắng của Thung lũng Silicon đối với trí tuệ nhân tạo, đồng thời nêu bật những lợi ích và rủi ro tiềm tàng của công nghệ này.
Trong nhiều thập kỷ, Thung lũng Silicon đã dự đoán sự xuất hiện của một công nghệ mới sẽ cách mạng hóa lối sống, nền kinh tế, thể chế xã hội của con người, v.v. Nó có thể mang con người và máy móc lại với nhau, có thể mang đến những cơ hội và thách thức chưa từng có, đồng thời chia lịch sử thành hai thời đại "trước" và "sau".
Có thể gọi tên của cột mốc này là "Singularity".
Điểm kỳ dị có thể phát sinh theo một số cách. Một khả năng là con người đã làm cho mình trở nên mạnh mẽ hơn bằng cách kết hợp khả năng xử lý của máy tính vào trí thông minh bẩm sinh của mình. Hoặc, máy tính có thể trở nên phức tạp đến mức nó thực sự có thể suy nghĩ, tạo ra một "bộ não toàn cầu".
Cả hai kịch bản sẽ mang lại những thay đổi mạnh mẽ, theo cấp số nhân, không có kịch bản nào có thể đảo ngược. Một cỗ máy siêu thông minh tự nhận thức có khả năng thiết kế, cải tiến và nâng cấp bản thân nhanh hơn nhiều so với bất kỳ nhóm nhà khoa học nào chắc chắn sẽ châm ngòi cho một vụ nổ trí tuệ. Những tiến bộ đạt được trong nhiều thế kỷ qua có thể mang tính đột phá chỉ trong vài năm hoặc thậm chí vài tháng. Điểm kỳ dị là một máy phóng vào tương lai.
Ngày nay, trí tuệ nhân tạo đang tạo ra những làn sóng chưa từng có trong công nghệ, kinh doanh và chính trị. Đánh giá về tất cả những điều cường điệu và phi lý đến từ Thung lũng Silicon, có vẻ như tương lai cực kỳ tươi sáng này cuối cùng cũng đã đến.
Sundar Pichai, Giám đốc điều hành thường ít quan trọng của Google, nói rằng "trí tuệ nhân tạo đã vượt qua lửa, điện hoặc bất kỳ thành tựu công nghệ nào trong quá khứ về tầm quan trọng và tác động". Nhà đầu tư tỷ phú Reid Hoffman (Reid Hoffman) nói: "Thế giới sẽ mở ra một lực lượng chưa từng có, sẽ thúc đẩy toàn bộ xã hội loài người tiến lên." Đồng sáng lập Microsoft Bill Gates (Bill Gates) tuyên bố rằng trí tuệ nhân tạo "sẽ thay đổi cách mọi người làm việc, học tập, du lịch, chăm sóc sức khỏe và giao tiếp với nhau".
Trí tuệ nhân tạo là sản phẩm mới cuối cùng của Thung lũng Silicon, có khả năng siêu phàm theo yêu cầu.
Nhưng cũng có một vấn đề tiềm ẩn không thể bỏ qua. Cứ như thể các công ty công nghệ tung ra những chiếc xe tự lái với thông điệp cảnh báo rằng chúng có thể nổ tung trên đường đến Walmart.
Vào tháng 5 năm nay, Elon Musk, người đứng đầu Tesla và Twitter, đã nói trong một cuộc phỏng vấn với Kênh Kinh doanh và Tin tức Người tiêu dùng Hoa Kỳ (CNBC): "Sự xuất hiện của trí thông minh nhân tạo nói chung được gọi là một phép màu. Vấn đề là sau này Ông tin rằng chúng ta sẽ mở ra “thời đại của sự phong phú” (an age of dồi dào), nhưng nguy cơ trí tuệ nhân tạo “tiêu diệt loài người” vẫn “không thể chấp nhận được”. “.
Trong giới công nghệ, người ủng hộ trí tuệ nhân tạo mạnh mẽ nhất là Sam Altman, CEO của công ty trí tuệ nhân tạo OpenAI của Mỹ. Chatbot ChatGPT của công ty khởi nghiệp, được ra mắt vào năm ngoái, cũng đã tiếp tục khơi dậy sự nhiệt tình. Altman cho biết AI sẽ là "lực lượng lớn nhất trong việc trao quyền kinh tế và sự giàu có cho nhiều người."
Tuy nhiên, đối với Musk, người sáng lập công ty phát triển công nghệ giao diện não-máy tính, ông cũng cảm thấy những lời chỉ trích của Musk là chính đáng.
Cách đây không lâu, Altman đã ký một bức thư ngỏ chung do tổ chức phi lợi nhuận "Trung tâm An toàn AI" (Center for AI Safety) tài trợ. "Ngăn chặn nguy cơ tuyệt chủng do trí tuệ nhân tạo gây ra nên là ưu tiên toàn cầu", ngang hàng với "đại dịch và chiến tranh hạt nhân", bức thư viết. Các bên ký kết khác bao gồm các đồng nghiệp từ công ty OpenAI và các nhà khoa học máy tính từ Microsoft và Google.
Ngày tận thế là một chủ đề quen thuộc, thậm chí phổ biến ở Thung lũng Silicon. Vài năm trước, hầu hết mọi giám đốc điều hành công nghệ dường như đã xây dựng một nơi trú ẩn cho ngày tận thế ở đâu đó ở một nơi xa xôi hẻo lánh, dự trữ đầy đủ phòng trường hợp họ cần. Vào năm 2016, Altman cũng cho biết ông "đã tích trữ súng, vàng, kali iodua, thuốc kháng sinh, pin, nước, mặt nạ phòng độc IDF và xây dựng một nơi trú ẩn lớn ở Big Sur mà bạn có thể bay vào ngay." đã khiến những người sống sót sau công nghệ này cảm thấy được minh oan, ít nhất là trong một thời gian.
Bây giờ, họ đang chuẩn bị cho sự xuất hiện của điểm kỳ dị.
Về vấn đề này, Baldur Bjarnason, tác giả của cuốn "Ảo tưởng về trí thông minh", cho biết: "Họ nghĩ rằng họ rất khôn ngoan, nhưng lời nói của họ giống như năm 1000 sau Công nguyên. Các nhà sư nói về ngày tận thế. Điều đó hơi đáng lo ngại."
Nguồn gốc của "Vượt lên"
Nguồn gốc của khái niệm "điểm kỳ dị" có thể bắt nguồn từ nhà tiên phong khoa học máy tính John von Neumann vào những năm 1950. Von Neumann đã từng dự đoán rằng "sự tiến bộ không ngừng của công nghệ" sẽ dẫn đến "một điểm kỳ dị then chốt trong lịch sử loài người."
Nhà toán học người Anh Irving John Good cũng là người ủng hộ mạnh mẽ quan điểm này. Ông đã hỗ trợ chính phủ Anh bẻ khóa máy mật mã Enigma của Đức tại Bletchley Park (Công viên Bletchley, nơi chính phủ Anh tiến hành phá mã trong Thế chiến II). Năm 1964, ông viết: "Việc sớm chế tạo ra những cỗ máy siêu thông minh là chìa khóa cho sự tồn tại của nhân loại."
Khi đạo diễn phim người Mỹ Stanley Kubrick chỉ đạo quay bộ phim khoa học viễn tưởng 2001: A Space Odyssey, ông đã nhờ Goode cho lời khuyên về nhân vật trí tuệ nhân tạo tốt bụng chuyển thành ác ý HAL, một ví dụ ban đầu về ranh giới mờ nhạt giữa khoa học máy tính và khoa học máy tính. khoa học viễn tưởng.
Hans Moravec, phó giáo sư tại Viện Robotics tại Đại học Carnegie Mellon, tin rằng sự xuất hiện của Điểm kỳ dị sẽ không chỉ mang lại lợi ích cho người sống mà còn giúp người chết sống lại.
"Chúng ta sẽ có cơ hội tái tạo và tương tác với quá khứ theo những cách thực tế và ngay lập tức", ông viết trong cuốn Những đứa trẻ trí tuệ: Tương lai của trí thông minh robot và con người trên đường.
Doanh nhân và nhà phát minh Ray Kurzweil cũng là người ủng hộ mạnh mẽ nhất cho Điểm kỳ dị trong những năm gần đây. Kurzweil là tác giả của The Age of Intelligent Machines năm 1990 và The Singularity Is Near năm 2005. Kurzweil hiện đang viết cuốn sách The Singularity Is Near.
Ông dự đoán rằng vào cuối thập kỷ này, máy tính sẽ vượt qua bài kiểm tra Turing và không thể phân biệt được với con người. Mười lăm năm nữa, sự siêu việt thực sự sẽ đến: “Khi công nghệ điện toán được tích hợp vào chúng ta, trí thông minh của chúng ta sẽ được nâng cao rất nhiều, có thể là hàng trăm lần”.
Kurzweil lúc đó sẽ 97 tuổi. Với sự trợ giúp của nhiều loại vitamin và chất bổ sung khác nhau, anh ấy hy vọng mình sẽ sống để chứng kiến thời đại này đến.
Một số người chỉ trích Điểm kỳ dị tin rằng khái niệm Điểm kỳ dị cố gắng tạo ra một hệ thống niềm tin trong lĩnh vực phần mềm tương tự như một niềm tin tôn giáo có tổ chức.
Rodney Brooks, cựu giám đốc Phòng thí nghiệm Khoa học Máy tính và Trí tuệ Nhân tạo của MIT, cho biết: “Tất cả họ đều muốn sự bất tử, nhưng họ không muốn tin vào 'Chúa'.
Ngày nay, những đổi mới trong cuộc tranh cãi về “Singularity” chủ yếu liên quan đến các mô hình ngôn ngữ lớn (LLM), hệ thống trí tuệ nhân tạo cũng là trung tâm của sự phát triển của chatbot. Nói chuyện với những mô hình ngôn ngữ lớn này và họ có thể trả lời các câu hỏi một cách nhanh chóng, mạch lạc và thường là những câu trả lời khá sáng sủa.
Theo Jerry Kaplan, một doanh nhân AI lâu năm và là tác giả của Trí tuệ nhân tạo: Điều mọi người cần biết, "Khi bạn hỏi một mô hình ngôn ngữ lớn, cuối cùng nó sẽ hiểu ý nghĩa của câu hỏi, xác định câu trả lời nên là gì và sau đó trình bày trả lời bằng ngôn ngữ viết. Nếu đây không phải là định nghĩa về trí thông minh chung, thì là gì?"
Kaplan cũng cho biết ông hoài nghi về các công nghệ cao cấp như ô tô không người lái và tiền điện tử. Tương tự như vậy, trước đây anh ấy đã hoài nghi về cơn sốt AI mới nhất, nhưng đã bắt đầu thay đổi suy nghĩ về AI sau khi nhìn thấy tiềm năng mà nó mang lại.
"Nếu đây không phải là 'điểm kỳ dị', thì chắc chắn là như vậy. Đó là một công nghệ có tác động to lớn sẽ giúp nhân loại tiến bộ đáng kể về nghệ thuật, khoa học và tri thức. Và, tất nhiên, nó sẽ gây ra một số vấn đề," ông thêm.
Các nhà phê bình phản bác rằng ngay cả khi các mô hình ngôn ngữ lớn đạt được kết quả ấn tượng, thì điều này cũng không thể phù hợp với trí thông minh toàn cầu, rộng lớn được mô tả bởi Điểm kỳ dị. Một phần của vấn đề trong việc vạch ra ranh giới giữa sự cường điệu và thực tế là các nguyên tắc và thuật toán thúc đẩy công nghệ này ngày càng trở nên khó tiết lộ.
OpenAI bắt đầu như một tổ chức phi lợi nhuận sử dụng mã nguồn mở, nhưng sau đó đã trở thành một doanh nghiệp vì lợi nhuận. Một số nhà phê bình chỉ ra rằng OpenAI giờ đây thực sự là một "hộp đen" và rất khó để mọi người hiểu được hoạt động bên trong của nó. Về vấn đề này, Google và Microsoft cũng có mức độ tiết lộ thông tin thấp.
Phần lớn các nghiên cứu hiện tại về trí tuệ nhân tạo được dẫn dắt bởi các công ty được hưởng lợi từ kết quả. Phiên bản sơ bộ của mô hình mới nhất của OpenAI "thể hiện nhiều tính năng thông minh", bao gồm "khả năng trừu tượng, khả năng hiểu, khả năng hình ảnh, khả năng mã hóa" và "khả năng hiểu động cơ và cảm xúc của con người".
Rylan Schaeffer, nghiên cứu sinh tiến sĩ về khoa học máy tính tại Đại học Stanford, cho biết một số nhà nghiên cứu AI đã mô tả "sức mạnh mới nổi" được thể hiện bởi các mô hình ngôn ngữ lớn này không chính xác. Mặc dù các mô hình ngôn ngữ lớn này có một số khả năng chưa biết và khó diễn giải, nhưng các khả năng này không rõ ràng hoặc không có trong các phiên bản mô hình ngôn ngữ nhỏ hơn.
Schaffer và hai đồng nghiệp khác của Stanford, Brando Miranda và Sanmi Koyejo, đã xem xét câu hỏi trong một bài báo nghiên cứu xuất bản vào tháng 5, kết luận rằng khả năng xuất hiện này chỉ là một "ảo ảnh" do lỗi đo lường gây ra, không phải do sự gia tăng kích thước và độ phức tạp của mô hình. . Trên thực tế, các nhà nghiên cứu có thể nghiêng về kết quả mà họ muốn thấy.
Sự bất tử, sự bất tử
Tại Washington, London và Brussels, các nhà lập pháp bắt đầu nhận ra các cơ hội và vấn đề do trí tuệ nhân tạo đặt ra và bắt đầu thảo luận về các vấn đề pháp lý. Altman đang thực hiện một buổi giới thiệu quảng cáo cho OpenAI, nhằm mục đích loại bỏ những lời chỉ trích ban đầu trong khi đưa công ty của mình trở thành người dẫn đầu trong thời đại của sự kỳ dị.
Điều này bao gồm việc mở cửa cho quy định, nhưng hình thức quy định cụ thể vẫn chưa rõ ràng. Tuy nhiên, có một nhận thức phổ biến ở Thung lũng Silicon rằng các cơ quan chính phủ hoạt động kém hiệu quả và thiếu chuyên môn để điều chỉnh hiệu quả lĩnh vực công nghệ đang phát triển nhanh.
Cựu Giám đốc điều hành Google Eric Schmidt nói với chương trình trò chuyện tin tức "Gặp gỡ báo chí" vào đầu năm nay: "Không có ai trong cơ quan chính phủ đang hiểu đúng", và đưa ra ý tưởng về khả năng tự điều chỉnh của trí tuệ nhân tạo. Ông nói thêm: “Nhưng ngành công nghiệp có năng lực trong ngành để đưa ra các quy định gần đúng.
Trí tuệ nhân tạo, giống như điểm kỳ dị của công nghệ, được coi là không thể đảo ngược trước những thay đổi mà nó mang lại. Altman và các đồng nghiệp của ông gần đây đã tuyên bố rằng "các cơ chế kiểm soát tương tự như hệ thống quản lý toàn cầu phải được thiết lập để hạn chế sự phát triển hơn nữa của trí tuệ nhân tạo, nhưng ngay cả điều này cũng không thể đảm bảo thành công". Nó.
Tuy nhiên, lợi nhuận khổng lồ được tạo ra từ nó hiếm khi được thảo luận hiện nay. Bất chấp nhận thức phổ biến rằng trí tuệ nhân tạo là một cỗ máy tạo ra của cải vô hạn, nhưng về cơ bản, những người giàu có mới thực sự kiếm được lợi nhuận từ nó.
Năm nay, giá trị thị trường của Microsoft đã tăng vọt 5 nghìn tỷ USD. Nvidia, công ty sản xuất chip cho các hệ thống chạy trí tuệ nhân tạo, gần đây cũng đã trở thành một trong những công ty đại chúng có giá trị nhất ở Hoa Kỳ do nhu cầu về chip tăng đột biến.
“Trí tuệ nhân tạo là công nghệ mà xã hội loài người luôn mong muốn có được,” Altman viết trên Twitter.
Không thể phủ nhận rằng đây quả thực là một công nghệ được giới công nghệ chờ đợi và nó đã đến vào một thời điểm hoàn hảo.
Năm ngoái, Thung lũng Silicon đã phải hứng chịu hai đợt sa thải nhân công và lãi suất tăng cao, trong khi tiền điện tử, sau một thời kỳ bùng nổ và phá sản, đã nhanh chóng suy yếu do gian lận và sự thất vọng kéo theo sau đó.
Charles Stross, đồng tác giả của The Rapture of the Nerds, một tiểu thuyết khoa học viễn tưởng mô tả một cách hài hước sự kỳ dị của công nghệ, nói: “Hãy chạy theo đồng tiền. Stross cũng là tác giả của cuốn tiểu thuyết khoa học viễn tưởng Accelerando, trong đó ông cũng vẽ nên một bức tranh nghiêm túc và nghiêm túc hơn về cuộc sống trong tương lai sẽ như thế nào.
Ông nói: “Cơ hội thực sự là các công ty sẽ có thể thay thế nhiều bộ phận xử lý thông tin do con người vận hành bị lỗi, đắt tiền, không phản hồi bằng phần mềm, do đó giảm chi phí và tăng hiệu quả.
Trong một thời gian dài, mọi người đã tưởng tượng điểm kỳ dị công nghệ là một sự kiện có tác động toàn cầu, có thể phá vỡ hoàn toàn hệ thống nhận thức của con người và sức mạnh của sự thay đổi này thật đáng kinh ngạc. Hiện tại, khả năng này vẫn tồn tại.
Tuy nhiên, một phần do việc theo đuổi lợi nhuận của công ty quá mức ở Thung lũng Silicon ngày nay, điều này sẽ dẫn đến việc điểm kỳ dị về công nghệ được sử dụng như một công cụ sa thải ngay từ đầu. Trong quá trình theo đuổi vốn hóa thị trường nghìn tỷ đô la, các vấn đề nhỏ có thể tạm gác lại.