Ilya Sutskever cúi đầu và chìm vào suy nghĩ sâu sắc. Anh dang rộng cánh tay và ngón tay trên bàn, giống như một nghệ sĩ piano hòa nhạc sắp chơi nốt nhạc đầu tiên của mình. Chúng tôi ngồi lặng lẽ.
Tôi đã đến một con phố ít người biết đến ở Quận Mission của San Francisco để gặp người đồng sáng lập OpenAI và nhà khoa học trưởng Sutskever trong một tòa nhà văn phòng không có gì đặc biệt để nghe về những bước tiếp theo trong công nghệ thay đổi thế giới mà anh ấy đang quảng bá. Tôi cũng muốn biết các bước tiếp theo của anh ấy là gì và đặc biệt là lý do tại sao anh ấy không còn tập trung vào việc xây dựng mô hình thế hệ hàng đầu tiếp theo của công ty.
Sutskever nói với tôi rằng ưu tiên mới của ông không phải là xây dựng thế hệ GPT tiếp theo hoặc mô hình tạo hình ảnh DALL-E, mà là tìm ra cách ngăn chặn AI vượt khỏi tầm kiểm soát.
Sutskever nói với tôi rất nhiều điều khác. Ông nghĩ rằng ChatGPT có thể có ý thức. Ông tin rằng thế giới cần nhận ra sức mạnh thực sự của công nghệ mà OpenAI và các công ty khác đang cạnh tranh để tạo ra. Ông nghĩ rằng một ngày nào đó một số người sẽ chọn hợp nhất với máy móc.
Rất nhiều điều Sutskever nói là điên rồ. Nhưng không điên rồ như âm thanh một hoặc hai năm trước. Như chính anh ấy đã nói với tôi, ChatGPT đã viết lại rất nhiều kỳ vọng của mọi người về những gì sắp xảy ra, từ "không bao giờ xảy ra" đến "sẽ xảy ra sớm hơn bạn nghĩ".
Trước khi dự đoán sự phát triển của trí tuệ nhân tạo nói chung AGI (ông đề cập đến máy móc thông minh như con người), ông nói: "Điều quan trọng là phải thảo luận về nơi mọi thứ đang diễn ra như thể nó giống như đặt cược vào iPhone tiếp theo:" Đến một lúc nào đó, chúng ta sẽ thực sự có AGI. Có thể nó được xây dựng bởi OpenAI, có thể nó là một cái gì đó khác. "
Kể từ khi phát hành ChatGPT đột ngột và bất ngờ vào tháng 11 năm ngoái, các cuộc thảo luận xung quanh OpenAI đã trở nên đáng báo động, ngay cả trong một ngành công nghiệp nổi tiếng với sự cường điệu của nó. Sẽ không ai cảm thấy mệt mỏi khi thảo luận về công ty khởi nghiệp trị giá 80 tỷ USD này. Các nhà lãnh đạo thế giới tìm kiếm (và có được) các cuộc trò chuyện riêng tư hoặc công khai với OpenAI. Tên sản phẩm của OpenAI bật lên trong các cuộc trò chuyện thông thường.
Giám đốc điều hành OpenAI Sam Altman đã dành mùa hè cho một chuyến đi tiếp cận cộng đồng kéo dài một tuần, nhiệt tình tham gia với các chính trị gia và nói chuyện với các khán phòng chật cứng trên khắp thế giới. Nhưng Sutskever không phải là người của công chúng, và ông cũng không trả lời phỏng vấn nhiều.
Anh nói một cách bình tĩnh và có phương pháp. Khi anh ấy nghĩ về những gì anh ấy muốn nói và cách thể hiện nó, anh ấy dừng lại một lúc lâu và suy nghĩ về vấn đề nhiều lần như một câu đố. Anh ấy dường như không quan tâm đến việc nói về bản thân mình. Ông nói: "Tôi đã sống một cuộc sống rất đơn giản. Đi làm, sau đó về nhà. Tôi đã không làm gì khác. Mọi người có thể đi đến rất nhiều sự kiện xã hội, họ có thể đi đến rất nhiều hội nghị. Tôi không thích tham gia. "
Nhưng khi chúng ta nói về AI, và những gì ông coi là rủi ro và phần thưởng mang tính thời đại, triển vọng mở rộng: "Nó sẽ mang tính bước ngoặt và chấn động trái đất." "
Tốt hơn, Tốt hơn, Tốt hơn
Ngay cả khi không có OpenAI, Sutskever vẫn sẽ đi vào biên niên sử của lịch sử AI. Anh ấy là người Canada gốc Israel, sinh ra ở Liên Xô, nhưng lớn lên ở Jerusalem từ năm tuổi (anh ấy vẫn nói tiếng Nga, tiếng Do Thái và tiếng Anh). Sau đó, anh chuyển đến Canada để học tại Đại học Toronto với nhà tiên phong AI Geoffrey Hinton, người đầu năm nay đã công khai bày tỏ lo ngại về công nghệ AI mà Sutskever đã giúp phát minh ra.
Hinton sau đó đã chia sẻ giải thưởng Turing với Yann LeCun và Yoshua Bengio cho công trình của ông về mạng lưới thần kinh. Nhưng khi Sutskever tham gia cùng ông vào đầu những năm 2000, hầu hết các nhà nghiên cứu AI đều nghĩ rằng mạng lưới thần kinh là một ngõ cụt. Hinton là một ngoại lệ. Anh ấy đã đào tạo các mô hình vi mô có thể tạo ra các chuỗi văn bản ngắn của một ký tự tại một thời điểm và Sutskever nói, "Đó là nơi AI tạo ra bắt đầu." Nó thực sự tuyệt vời - chỉ là không tuyệt vời. "
Sutskever bị cuốn hút bởi việc xây dựng bộ não: cách bộ não học hỏi và cách nó có thể tái tạo hoặc ít nhất là bắt chước quá trình trong máy. Giống như Hinton, ông đã nhìn thấy tiềm năng của mạng lưới thần kinh và kỹ thuật thử-và-sai mà Hinton đã sử dụng để đào tạo mạng lưới thần kinh, cụ thể là học sâu. "Học sâu ngày càng tốt hơn", Sutskever nói.
Vào năm 2012, Sutskever, Hinton và một sinh viên tốt nghiệp khác tại Hinton, Alex Krizhevsky, đã xây dựng một mạng lưới thần kinh gọi là AlexNet, mà họ đã đào tạo để nhận ra các đối tượng trong ảnh tốt hơn nhiều so với bất kỳ phần mềm nào khác vào thời điểm đó. Đây là thời điểm Big Bang để học sâu.
Sau nhiều năm thất bại, họ đã chứng minh rằng mạng lưới thần kinh có hiệu quả đáng kinh ngạc trong việc nhận dạng mẫu. Tất cả những gì bạn cần là nhiều dữ liệu hơn hầu hết các nhà nghiên cứu đã thấy trước đây (trong trường hợp này là một triệu hình ảnh từ bộ dữ liệu ImageNet mà nhà nghiên cứu Feifei Li của Đại học Princeton đã xây dựng từ năm 2006) và một lượng năng lượng máy tính chóng mặt.
Sự thay đổi lớn trong điện toán đến từ các chip GPU mới do Nvidia sản xuất. GPU được thiết kế để có thể chiếu hình ảnh trò chơi điện tử chuyển động nhanh lên màn hình với tốc độ cực nhanh. Nhưng tính toán mà GPU vượt trội - nhân một số lượng lớn lưới kỹ thuật số - trông rất giống với tính toán cần thiết để đào tạo một mạng lưới thần kinh.
Nvidia hiện là một công ty nghìn tỷ đô la. Vào thời điểm đó, nó đã tuyệt vọng để tìm các ứng dụng cho phần cứng mới trong thị trường ngách của nó. Jensen Huang, Giám đốc điều hành của Nvidia, cho biết: "Khi bạn phát minh ra một công nghệ mới, bạn phải có khả năng nắm lấy những ý tưởng điên rồ. Suy nghĩ của tôi luôn tìm kiếm một cái gì đó kỳ lạ, và mạng lưới thần kinh sẽ thay đổi ý tưởng về khoa học máy tính - và đây là một ý tưởng cực kỳ kỳ lạ. "
Huang nói rằng khi nhóm Toronto làm việc trên AlexNet, Nvidia đã gửi cho họ một số GPU để thử. Nhưng họ muốn phiên bản mới nhất, một con chip có tên GTX 580, được bán hết nhanh chóng tại các cửa hàng. Theo Huang, Sutskever đã lái xe qua biên giới từ Toronto đến New York để mua một ít. "Mọi người đang xếp hàng quanh góc cửa hàng để mua. Tôi không biết anh ấy đã làm điều đó như thế nào - tôi khá chắc chắn rằng bạn sẽ chỉ mua mỗi người một chiếc; Chúng tôi có một chính sách rất nghiêm ngặt rằng bạn chỉ có thể sử dụng một GPU cho mỗi người chơi, nhưng anh ta dường như lấp đầy một cốp xe. Chiếc vali chứa đầy GTX 580 này đã thay đổi thế giới. "
Đó là một câu chuyện tuyệt vời - chỉ có thể không có thật. Bởi vì Sutskever khăng khăng rằng anh ta đã mua GPU đầu tiên trực tuyến. Nhưng loại bí ẩn này là phổ biến trong ngành công nghiệp sôi động này. Bản thân Sutskever khiêm tốn hơn: "Tôi nghĩ nếu tôi có thể đạt được tiến bộ thực sự dù là nhỏ nhất, tôi sẽ coi đó là một thành công." Tác động đến thế giới thực cảm thấy xa vời, vì máy tính vẫn còn yếu vào thời điểm đó. "
Sau thành công của AlexNet, Google đã đến gõ cửa. Nó mua lại DNNresearch, một nhánh của Hinton, và thuê Sutskever. Sutskever đã chỉ ra tại Google rằng khả năng nhận dạng mẫu của deep learning có thể được áp dụng cho các chuỗi dữ liệu như từ, câu và hình ảnh. Jeff Dean, một đồng nghiệp cũ của Sutskever và hiện là nhà khoa học trưởng tại Google, cho biết: "Sutskever luôn quan tâm đến ngôn ngữ và chúng tôi đã có những cuộc thảo luận tuyệt vời trong những năm qua. Anh ấy có một bản năng mạnh mẽ về nơi mọi thứ đang diễn ra. "
Nhưng Sutskever không ở lại Google lâu. Năm 2014, anh được tuyển dụng để trở thành người đồng sáng lập OpenAI. Với 1 tỷ đô la (từ Altman, Elon Musk, Peter Thiel, Microsoft, Y Combinator, v.v.) và rất nhiều đặc tính của Thung lũng Silicon, công ty mới đặt mục tiêu phát triển AGI ngay từ đầu, nhưng rất ít người coi trọng triển vọng vào thời điểm đó.
Với Sutskever trên tàu, thái độ vênh váo này là điều dễ hiểu. Cho đến lúc đó, anh ngày càng nhận được nhiều kết quả hơn từ việc học mạng lưới thần kinh. Dalton Caldwell, giám đốc điều hành của Y Combinator Investments, cho biết danh tiếng của ông đã đi trước ông, điều này khiến ông trở thành một hit lớn.
"Tôi nhớ Altman đã gọi Sutskever là một trong những nhà nghiên cứu được kính trọng nhất trên thế giới," Caldwell nói. Ông tin rằng Sutskever sẽ thu hút rất nhiều tài năng AI hàng đầu. Ông thậm chí còn đề cập rằng Yoshua Bengio, một trong những chuyên gia AI hàng đầu thế giới, tin rằng không có khả năng một ứng cử viên tốt hơn Sutskever sẽ được tìm thấy là nhà khoa học chính của OpenAI. "
Tuy nhiên, lúc đầu, OpenAI đã bị ràng buộc. "Đã có lúc chúng tôi bắt đầu OpenAI, tôi không chắc chắn tiến trình sẽ tiếp tục như thế nào", Sutskever nói. "Nhưng tôi có một niềm tin rất rõ ràng rằng mọi người sẽ không phản đối deep learning. Bằng cách nào đó, mỗi khi họ gặp chướng ngại vật, các nhà nghiên cứu sẽ tìm ra giải pháp trong vòng sáu tháng hoặc một năm. "
Đức tin của ông đã được đền đáp. Mô hình ngôn ngữ lớn GPT đầu tiên của OpenAI xuất hiện vào năm 2016. GPT-2 và GPT-3 theo sau. Sau đó là DALL-E, mô hình chuyển văn bản thành hình ảnh hấp dẫn. Không ai đã xây dựng một cái gì đó tốt như vậy. Với mỗi bản phát hành, OpenAI nâng cao tiêu chuẩn cho những gì mọi người nghĩ là có thể.
Quản lý kỳ vọng
Tháng 11 năm ngoái, OpenAI đã phát hành một chatbot miễn phí đóng gói lại một số công nghệ hiện có. Nó thiết lập lại chương trình nghị sự cho toàn bộ ngành công nghiệp.
Vào thời điểm đó, OpenAI không biết nó sẽ phát hành những gì. Sutskever nói rằng kỳ vọng trong công ty không thể thấp hơn: "Tôi sẽ thừa nhận, nó hơi khó xử một chút - tôi không biết liệu tôi có nên làm điều đó hay không, nhưng bất cứ điều gì, đó là một sự thật - tôi không biết nó tốt như thế nào khi chúng tôi tạo ra ChatGPT." Khi bạn hỏi nó một câu hỏi thực tế, nó sẽ cho bạn câu trả lời sai. Tôi nghĩ rằng nó sẽ rất kín đáo và mọi người sẽ nói, 'Tại sao bạn làm sản phẩm này?' Thật nhàm chán! '"
Phần hấp dẫn nhất, Sutskever nói, là sự tiện lợi. Mô hình ngôn ngữ lớn đằng sau ChatGPT đã xuất hiện trong nhiều tháng. Nhưng việc gói nó trong một giao diện dễ truy cập và cho đi miễn phí đã khiến hàng tỷ người lần đầu tiên nhận thức được những gì OpenAI và những người khác đang xây dựng.
"Trải nghiệm đầu tiên thật hấp dẫn. Khi bạn lần đầu tiên sử dụng nó, tôi nghĩ nó gần như là một trải nghiệm tâm linh. Bạn giống như, 'Ôi Chúa ơi, chiếc máy tính này dường như tự hiểu nó.'" '"
OpenAI đã tích lũy được 100 triệu người dùng trong vòng chưa đầy hai tháng và nhiều người trong số họ đã bị lóa mắt bởi món đồ chơi mới tuyệt vời này. Aaron Levie, Giám đốc điều hành của công ty lưu trữ Box, đã tóm tắt sự rung cảm trong tuần sau khi ra mắt trên Twitter: "ChatGPT là một trong những khoảnh khắc hiếm hoi trong không gian công nghệ và bạn có thể thấy rằng mọi thứ sẽ khác trong tương lai. "
Ngay khi ChatGPT nói điều gì đó ngu ngốc, phép màu này sụp đổ. Nhưng sau đó nó không quan trọng. Một cái nhìn thoáng qua về các khả năng là đủ, Sutskever nói. ChatGPT đã thay đổi tầm nhìn của mọi người.
"AGI không còn là một từ bẩn thỉu trong không gian học máy", ông nói. "Đó là một sự thay đổi lớn. Thái độ của con người trong lịch sử là: AI không hoạt động, mỗi bước đều rất khó khăn và bạn phải chiến đấu cho từng chút tiến bộ. Khi mọi người thổi phồng AGI, các nhà nghiên cứu nói, 'Bạn đang nói về cái gì vậy? Điều này không hoạt động, điều đó cũng không hoạt động. Có rất nhiều câu hỏi. Nhưng với ChatGPT, nó bắt đầu cảm thấy khác biệt. "
Có phải sự thay đổi này bắt đầu xảy ra chỉ một năm trước? "Tất cả xảy ra là nhờ ChatGPT", ông nói. "ChatGPT giúp các nhà nghiên cứu học máy có thể biến ước mơ của họ thành hiện thực."
Các nhà khoa học của OpenAI đã là những nhà truyền giáo ngay từ đầu và đã truyền cảm hứng cho những giấc mơ này thông qua các bài đăng trên blog và các chuyến tham quan bài giảng. Và nó đang hoạt động: "Chúng ta đang nói về việc AI sẽ đi bao xa ngay bây giờ - mọi người đang nói về AGI, hay siêu trí tuệ. Nó không chỉ là các nhà nghiên cứu. "Các chính phủ đang thảo luận về vấn đề này", ông Sutskever nói. "Thật điên rồ."
Những điều đáng kinh ngạc
Sutskever nhấn mạnh rằng tất cả những cuộc nói chuyện về công nghệ chưa tồn tại (và có thể không bao giờ tồn tại) là một điều tốt, bởi vì nó làm cho nhiều người nhận thức được tương lai mà ông đã coi là điều hiển nhiên.
"Bạn có thể làm rất nhiều điều tuyệt vời, những điều đáng kinh ngạc với AGI: tự động hóa chăm sóc sức khỏe, làm cho nó rẻ hơn hàng nghìn lần, làm cho nó tốt hơn hàng nghìn lần, chữa rất nhiều bệnh và thực sự giải quyết vấn đề nóng lên toàn cầu", ông nói. Nhưng cũng có rất nhiều người lo lắng: 'Ôi Chúa ơi, liệu một công ty AI có thể quản lý thành công công nghệ khổng lồ này không?' '"
Theo cách này, AGI nghe giống như một vị thần ban điều ước hơn là một triển vọng trong thế giới thực. Rất ít người sẽ nói không với việc cứu sống và giải quyết biến đổi khí hậu. Nhưng vấn đề với một công nghệ không tồn tại là bạn có thể nói bất cứ điều gì bạn muốn với nó.
Chính xác thì Sutskever đang nói về điều gì khi nói về AGI? "AGI không phải là một thuật ngữ khoa học", ông nói. "Đây phải là một ngưỡng hữu ích, một điểm tham chiếu."
"Đó là ý tưởng—" anh bắt đầu, rồi dừng lại. "AI đã trở nên thông minh đến mức nếu một người có thể thực hiện một số nhiệm vụ nhất định, thì AI cũng có thể làm điều đó. Tại thời điểm đó, bạn có thể nói rằng bạn có AGI. "
Mọi người có thể đang nói về nó, nhưng AGI vẫn là một trong những ý tưởng gây tranh cãi nhất trong lĩnh vực này. Rất ít người coi sự phát triển của nó là điều hiển nhiên. Nhiều nhà nghiên cứu tin rằng một bước đột phá lớn về khái niệm là cần thiết trước khi chúng ta có thể nhìn thấy một cái gì đó giống như những gì Sutskever hình dung - một số người nghĩ rằng chúng ta sẽ không bao giờ làm được.
Tuy nhiên, tầm nhìn này đã truyền cảm hứng cho ông ngay từ đầu. "Tôi luôn được truyền cảm hứng và động lực từ ý tưởng này", Sutskever nói. "Vào thời điểm đó, nó chưa được gọi là AGI, nhưng bạn biết đấy, nó giống như để các mạng thần kinh làm mọi thứ. Tôi không phải lúc nào cũng tin rằng họ có thể. Nhưng đó là một ngọn núi để leo lên. "
Ông so sánh cách mạng lưới thần kinh và não hoạt động. Cả hai đều nhận dữ liệu, tổng hợp tín hiệu từ dữ liệu đó, sau đó tuyên truyền hoặc không truyền bá chúng dựa trên một số quy trình đơn giản (toán học trong mạng lưới thần kinh, hóa chất trong não và điện sinh học). Đó là một sự đơn giản hóa rất lớn, nhưng nguyên tắc vẫn được giữ vững.
"Nếu bạn tin điều đó - nếu bạn cho phép mình tin vào điều này - thì có rất nhiều ý nghĩa thú vị", Sutskever nói. "Hàm ý chính là nếu bạn có một mạng lưới thần kinh nhân tạo rất lớn, nó sẽ làm được rất nhiều thứ. Đặc biệt, nếu bộ não con người có thể làm điều gì đó, thì mạng lưới thần kinh nhân tạo lớn có thể làm điều gì đó tương tự. "
"Nếu bạn thực hiện điều đó đủ nghiêm túc, mọi thứ sẽ rơi vào vị trí", ông nói. "Hầu hết công việc của tôi có thể được giải thích bằng điều này."
Trong khi chúng ta đang nói về bộ não, tôi muốn hỏi về một bài đăng mà Sutskever thực hiện trên nền tảng X. Tóm tắt của Sutskever đọc giống như một tập cách ngôn: "Nếu bạn đặt trí thông minh lên trên tất cả các phẩm chất khác của con người, thì bạn sẽ có một cuộc sống tồi tệ"; "Sự đồng cảm trong cuộc sống và kinh doanh bị đánh giá thấp"; "Sự hoàn hảo đã hủy hoại rất nhiều vẻ đẹp của sự hoàn hảo."
Vào tháng 2 năm 2022, ông đã đăng rằng "các mạng lưới thần kinh lớn ngày nay có thể có một ý thức nhỏ" (mà Murray Shanahan, nhà khoa học trưởng tại DeepMind của Google, giáo sư tại Đại học Hoàng gia London, và cố vấn khoa học cho bộ phim Ex Machina, trả lời: "... Ý nghĩa tương tự có thể là một cánh đồng lúa mì lớn với một ít mì ống").
Khi tôi nhắc đến nó, Sutskever cười. Anh ta có phải là một kẻ giả mạo không? Anh ấy không phải. "Ông có quen thuộc với khái niệm bộ não của Boltzmann không?" Hắn hỏi.
Ông đang đề cập đến một thí nghiệm tưởng tượng cơ học lượng tử được đặt theo tên của nhà vật lý thế kỷ 19 Ludwig Boltzmann, trong đó người ta tưởng tượng rằng các dao động nhiệt động lực học ngẫu nhiên trong vũ trụ sẽ khiến não xuất hiện và biến mất.
"Tôi nghĩ rằng những mô hình ngôn ngữ này hơi giống bộ não của Boltzmann ngay bây giờ", Sutskever nói. "Bạn bắt đầu nói chuyện với nó, nói chuyện một lúc; Và rồi khi cậu làm xong, bộ não sẽ..." Cậu làm một động tác biến mất bằng tay. Poof - tạm biệt, não.
Bạn đang nói rằng khi mạng lưới thần kinh hoạt động - có thể nói, khi nó phóng điện - có cái gì đó ở đó? Tôi hỏi.
"Tôi nghĩ nó có thể là như vậy," ông nói. "Tôi không chắc, nhưng đó là một khả năng khó bác bỏ. Nhưng ai biết chuyện gì đang xảy ra, phải không? "
AI, nhưng không phải như chúng ta biết
Trong khi những người khác đấu tranh để làm cho máy móc có thể so sánh với trí thông minh của con người, Sutskever chuẩn bị cho những cỗ máy có thể vượt qua chúng ta. Ông gọi hiện tượng này là siêu trí tuệ nhân tạo: "Họ nhìn mọi thứ sâu sắc hơn. Họ sẽ thấy những gì chúng ta không thể nhìn thấy. "
Một lần nữa, thật khó để tôi hiểu điều đó thực sự có nghĩa là gì. Trí thông minh của con người là chuẩn mực để chúng ta đánh giá trí thông minh. Sutskever có nghĩa là gì bởi trí thông minh thông minh hơn con người?
"Chúng ta đang thấy một ví dụ rất hẹp về siêu trí tuệ trong AlphaGo", ông nói. Vào năm 2016, trò chơi hội đồng quản trị AI "Alpha Dog" của DeepMind đã đánh bại Lee Sedol, một trong những kỳ thủ cờ vây xuất sắc nhất thế giới, 4-1 trong năm trận đấu. "Nó đã tìm ra cách chơi cờ vây theo cách khác với cách con người đã phát triển cùng nhau trong hàng ngàn năm", Sutskever nói. "Nó đưa ra những ý tưởng mới."
Sutskever đề cập đến nước đi thứ 37 nổi tiếng của AlphaGo. Trong trận đấu thứ hai với Lee Sedol, một động thái của AI đã khiến các bình luận viên bối rối. Họ nghĩ rằng AlphaGo đã bị trục trặc. Trên thực tế, nó đã chơi một nước cờ chiến thắng chưa từng thấy trước đây trong lịch sử cờ vua. "Hãy tưởng tượng mức độ hiểu biết sâu sắc này, nhưng bao gồm tất cả mọi thứ", Sutskever nói.
Chính dòng suy nghĩ này đã khiến Sutskever thực hiện sự thay đổi lớn nhất trong sự nghiệp của mình. Cùng với các nhà khoa học đồng nghiệp tại OpenAI, Jan Leike, ông đã thành lập một nhóm tập trung vào cái mà họ gọi là "siêu liên kết". Căn chỉnh là một biệt ngữ có nghĩa là để mô hình AI làm những gì bạn muốn làm và thế là xong. Siêu liên kết là một thuật ngữ liên kết mà OpenAI áp dụng cho siêu trí tuệ.
Mục tiêu là đưa ra một bộ quy trình không an toàn để xây dựng và kiểm soát công nghệ tương lai này. OpenAI cho biết họ sẽ phân bổ một phần năm tài nguyên máy tính khổng lồ của mình để giải quyết vấn đề và giải quyết nó trong vòng bốn năm.
"Các phương pháp liên kết hiện tại không hoạt động với các mô hình thông minh hơn con người vì về cơ bản chúng giả định rằng con người có thể đánh giá đáng tin cậy những gì hệ thống AI đang làm", Leike nói. "Khi các hệ thống AI trở nên mạnh mẽ hơn, chúng sẽ đảm nhận các nhiệm vụ khó khăn hơn." Ý tưởng là điều này sẽ khiến con người khó đánh giá chúng hơn. "Khi tập hợp Nhóm Siêu liên kết với Sutskever, chúng tôi đã đặt ra mục tiêu giải quyết những thách thức liên kết trong tương lai", ông nói.
"Điều quan trọng là không chỉ tập trung vào các cơ hội tiềm năng cho các mô hình ngôn ngữ lớn, mà còn vào những rủi ro và hạn chế của chúng", Dean, nhà khoa học trưởng tại Google cho biết. "
Công ty đã công bố dự án vào tháng Bảy với sự phô trương điển hình. Nhưng đối với một số người, đó là một tưởng tượng. Các bài đăng trên Twitter của OpenAI đã thu hút sự khinh miệt từ các nhà phê bình nổi tiếng của Big Tech, bao gồm Abeba Birhane, người làm việc về trách nhiệm giải trình AI tại Mozilla; Timnit Gebru, Đồng sáng lập, Viện AI phân tán; và Margaret Mitchell, nhà khoa học đạo đức trưởng tại công ty AI Hugging Face. Quả nhiên, đây là những giọng nói bất đồng quen thuộc. Nhưng đó là một lời nhắc nhở mạnh mẽ rằng một số người tin rằng OpenAI đang dẫn đầu, trong khi những người khác tin rằng OpenAI đang ở bên rìa.
Tuy nhiên, đối với Sutskever, siêu liên kết là bước tiếp theo không thể tránh khỏi. "Đó là một vấn đề chưa được giải quyết", ông nói. Ông tin rằng các nhà nghiên cứu máy học cốt lõi như ông đang nghiên cứu vấn đề này. "Tôi đang làm điều đó vì lợi ích của riêng tôi," ông nói. "Rõ ràng điều quan trọng là bất kỳ siêu trí tuệ nào mà bất kỳ ai xây dựng cũng không vượt khỏi tầm tay."
Công việc về siêu liên kết chỉ mới bắt đầu. Theo ông Sutskever, điều này sẽ đòi hỏi một sự thay đổi lớn trong các tổ chức nghiên cứu. Nhưng ông đã nghĩ đến một mô hình bảo vệ mà ông muốn thiết kế: một cỗ máy đối xử với mọi người theo cách cha mẹ đối xử với con cái của họ. "Theo tôi, đó là tiêu chuẩn vàng", ông nói. "Mọi người thực sự quan tâm đến trẻ em, đó là một tuyên bố nói chung là đúng."
"Một khi bạn đã vượt qua thử thách AI giả mạo, thì sao? Trong một thế giới có trí tuệ nhân tạo thông minh hơn, liệu có còn chỗ cho con người? Hắn nói.
"Một khả năng – có thể điên rồ theo tiêu chuẩn ngày nay, nhưng không quá điên rồ theo tiêu chuẩn của ngày mai – là nhiều người sẽ chọn trở thành một phần của AI." Sutskever nói rằng đây có thể là một cách để con người cố gắng theo kịp đoàn tàu. "Ban đầu, chỉ những người dũng cảm và mạo hiểm nhất mới cố gắng làm điều đó. Có thể những người khác sẽ làm theo. Hoặc không. "
Nguồn tham khảo:
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Phỏng vấn nhà khoa học trưởng của OpenAI: Chúng ta sẽ có AGI và con người sẽ chọn hợp nhất với máy móc
Ilya Sutskever cúi đầu và chìm vào suy nghĩ sâu sắc. Anh dang rộng cánh tay và ngón tay trên bàn, giống như một nghệ sĩ piano hòa nhạc sắp chơi nốt nhạc đầu tiên của mình. Chúng tôi ngồi lặng lẽ.
Tôi đã đến một con phố ít người biết đến ở Quận Mission của San Francisco để gặp người đồng sáng lập OpenAI và nhà khoa học trưởng Sutskever trong một tòa nhà văn phòng không có gì đặc biệt để nghe về những bước tiếp theo trong công nghệ thay đổi thế giới mà anh ấy đang quảng bá. Tôi cũng muốn biết các bước tiếp theo của anh ấy là gì và đặc biệt là lý do tại sao anh ấy không còn tập trung vào việc xây dựng mô hình thế hệ hàng đầu tiếp theo của công ty.
Sutskever nói với tôi rằng ưu tiên mới của ông không phải là xây dựng thế hệ GPT tiếp theo hoặc mô hình tạo hình ảnh DALL-E, mà là tìm ra cách ngăn chặn AI vượt khỏi tầm kiểm soát.
Sutskever nói với tôi rất nhiều điều khác. Ông nghĩ rằng ChatGPT có thể có ý thức. Ông tin rằng thế giới cần nhận ra sức mạnh thực sự của công nghệ mà OpenAI và các công ty khác đang cạnh tranh để tạo ra. Ông nghĩ rằng một ngày nào đó một số người sẽ chọn hợp nhất với máy móc.
Rất nhiều điều Sutskever nói là điên rồ. Nhưng không điên rồ như âm thanh một hoặc hai năm trước. Như chính anh ấy đã nói với tôi, ChatGPT đã viết lại rất nhiều kỳ vọng của mọi người về những gì sắp xảy ra, từ "không bao giờ xảy ra" đến "sẽ xảy ra sớm hơn bạn nghĩ".
Trước khi dự đoán sự phát triển của trí tuệ nhân tạo nói chung AGI (ông đề cập đến máy móc thông minh như con người), ông nói: "Điều quan trọng là phải thảo luận về nơi mọi thứ đang diễn ra như thể nó giống như đặt cược vào iPhone tiếp theo:" Đến một lúc nào đó, chúng ta sẽ thực sự có AGI. Có thể nó được xây dựng bởi OpenAI, có thể nó là một cái gì đó khác. "
Kể từ khi phát hành ChatGPT đột ngột và bất ngờ vào tháng 11 năm ngoái, các cuộc thảo luận xung quanh OpenAI đã trở nên đáng báo động, ngay cả trong một ngành công nghiệp nổi tiếng với sự cường điệu của nó. Sẽ không ai cảm thấy mệt mỏi khi thảo luận về công ty khởi nghiệp trị giá 80 tỷ USD này. Các nhà lãnh đạo thế giới tìm kiếm (và có được) các cuộc trò chuyện riêng tư hoặc công khai với OpenAI. Tên sản phẩm của OpenAI bật lên trong các cuộc trò chuyện thông thường.
Giám đốc điều hành OpenAI Sam Altman đã dành mùa hè cho một chuyến đi tiếp cận cộng đồng kéo dài một tuần, nhiệt tình tham gia với các chính trị gia và nói chuyện với các khán phòng chật cứng trên khắp thế giới. Nhưng Sutskever không phải là người của công chúng, và ông cũng không trả lời phỏng vấn nhiều.
Anh nói một cách bình tĩnh và có phương pháp. Khi anh ấy nghĩ về những gì anh ấy muốn nói và cách thể hiện nó, anh ấy dừng lại một lúc lâu và suy nghĩ về vấn đề nhiều lần như một câu đố. Anh ấy dường như không quan tâm đến việc nói về bản thân mình. Ông nói: "Tôi đã sống một cuộc sống rất đơn giản. Đi làm, sau đó về nhà. Tôi đã không làm gì khác. Mọi người có thể đi đến rất nhiều sự kiện xã hội, họ có thể đi đến rất nhiều hội nghị. Tôi không thích tham gia. "
Nhưng khi chúng ta nói về AI, và những gì ông coi là rủi ro và phần thưởng mang tính thời đại, triển vọng mở rộng: "Nó sẽ mang tính bước ngoặt và chấn động trái đất." "
Tốt hơn, Tốt hơn, Tốt hơn
Ngay cả khi không có OpenAI, Sutskever vẫn sẽ đi vào biên niên sử của lịch sử AI. Anh ấy là người Canada gốc Israel, sinh ra ở Liên Xô, nhưng lớn lên ở Jerusalem từ năm tuổi (anh ấy vẫn nói tiếng Nga, tiếng Do Thái và tiếng Anh). Sau đó, anh chuyển đến Canada để học tại Đại học Toronto với nhà tiên phong AI Geoffrey Hinton, người đầu năm nay đã công khai bày tỏ lo ngại về công nghệ AI mà Sutskever đã giúp phát minh ra.
Hinton sau đó đã chia sẻ giải thưởng Turing với Yann LeCun và Yoshua Bengio cho công trình của ông về mạng lưới thần kinh. Nhưng khi Sutskever tham gia cùng ông vào đầu những năm 2000, hầu hết các nhà nghiên cứu AI đều nghĩ rằng mạng lưới thần kinh là một ngõ cụt. Hinton là một ngoại lệ. Anh ấy đã đào tạo các mô hình vi mô có thể tạo ra các chuỗi văn bản ngắn của một ký tự tại một thời điểm và Sutskever nói, "Đó là nơi AI tạo ra bắt đầu." Nó thực sự tuyệt vời - chỉ là không tuyệt vời. "
Sutskever bị cuốn hút bởi việc xây dựng bộ não: cách bộ não học hỏi và cách nó có thể tái tạo hoặc ít nhất là bắt chước quá trình trong máy. Giống như Hinton, ông đã nhìn thấy tiềm năng của mạng lưới thần kinh và kỹ thuật thử-và-sai mà Hinton đã sử dụng để đào tạo mạng lưới thần kinh, cụ thể là học sâu. "Học sâu ngày càng tốt hơn", Sutskever nói.
Vào năm 2012, Sutskever, Hinton và một sinh viên tốt nghiệp khác tại Hinton, Alex Krizhevsky, đã xây dựng một mạng lưới thần kinh gọi là AlexNet, mà họ đã đào tạo để nhận ra các đối tượng trong ảnh tốt hơn nhiều so với bất kỳ phần mềm nào khác vào thời điểm đó. Đây là thời điểm Big Bang để học sâu.
Sau nhiều năm thất bại, họ đã chứng minh rằng mạng lưới thần kinh có hiệu quả đáng kinh ngạc trong việc nhận dạng mẫu. Tất cả những gì bạn cần là nhiều dữ liệu hơn hầu hết các nhà nghiên cứu đã thấy trước đây (trong trường hợp này là một triệu hình ảnh từ bộ dữ liệu ImageNet mà nhà nghiên cứu Feifei Li của Đại học Princeton đã xây dựng từ năm 2006) và một lượng năng lượng máy tính chóng mặt.
Sự thay đổi lớn trong điện toán đến từ các chip GPU mới do Nvidia sản xuất. GPU được thiết kế để có thể chiếu hình ảnh trò chơi điện tử chuyển động nhanh lên màn hình với tốc độ cực nhanh. Nhưng tính toán mà GPU vượt trội - nhân một số lượng lớn lưới kỹ thuật số - trông rất giống với tính toán cần thiết để đào tạo một mạng lưới thần kinh.
Nvidia hiện là một công ty nghìn tỷ đô la. Vào thời điểm đó, nó đã tuyệt vọng để tìm các ứng dụng cho phần cứng mới trong thị trường ngách của nó. Jensen Huang, Giám đốc điều hành của Nvidia, cho biết: "Khi bạn phát minh ra một công nghệ mới, bạn phải có khả năng nắm lấy những ý tưởng điên rồ. Suy nghĩ của tôi luôn tìm kiếm một cái gì đó kỳ lạ, và mạng lưới thần kinh sẽ thay đổi ý tưởng về khoa học máy tính - và đây là một ý tưởng cực kỳ kỳ lạ. "
Huang nói rằng khi nhóm Toronto làm việc trên AlexNet, Nvidia đã gửi cho họ một số GPU để thử. Nhưng họ muốn phiên bản mới nhất, một con chip có tên GTX 580, được bán hết nhanh chóng tại các cửa hàng. Theo Huang, Sutskever đã lái xe qua biên giới từ Toronto đến New York để mua một ít. "Mọi người đang xếp hàng quanh góc cửa hàng để mua. Tôi không biết anh ấy đã làm điều đó như thế nào - tôi khá chắc chắn rằng bạn sẽ chỉ mua mỗi người một chiếc; Chúng tôi có một chính sách rất nghiêm ngặt rằng bạn chỉ có thể sử dụng một GPU cho mỗi người chơi, nhưng anh ta dường như lấp đầy một cốp xe. Chiếc vali chứa đầy GTX 580 này đã thay đổi thế giới. "
Đó là một câu chuyện tuyệt vời - chỉ có thể không có thật. Bởi vì Sutskever khăng khăng rằng anh ta đã mua GPU đầu tiên trực tuyến. Nhưng loại bí ẩn này là phổ biến trong ngành công nghiệp sôi động này. Bản thân Sutskever khiêm tốn hơn: "Tôi nghĩ nếu tôi có thể đạt được tiến bộ thực sự dù là nhỏ nhất, tôi sẽ coi đó là một thành công." Tác động đến thế giới thực cảm thấy xa vời, vì máy tính vẫn còn yếu vào thời điểm đó. "
Sau thành công của AlexNet, Google đã đến gõ cửa. Nó mua lại DNNresearch, một nhánh của Hinton, và thuê Sutskever. Sutskever đã chỉ ra tại Google rằng khả năng nhận dạng mẫu của deep learning có thể được áp dụng cho các chuỗi dữ liệu như từ, câu và hình ảnh. Jeff Dean, một đồng nghiệp cũ của Sutskever và hiện là nhà khoa học trưởng tại Google, cho biết: "Sutskever luôn quan tâm đến ngôn ngữ và chúng tôi đã có những cuộc thảo luận tuyệt vời trong những năm qua. Anh ấy có một bản năng mạnh mẽ về nơi mọi thứ đang diễn ra. "
Nhưng Sutskever không ở lại Google lâu. Năm 2014, anh được tuyển dụng để trở thành người đồng sáng lập OpenAI. Với 1 tỷ đô la (từ Altman, Elon Musk, Peter Thiel, Microsoft, Y Combinator, v.v.) và rất nhiều đặc tính của Thung lũng Silicon, công ty mới đặt mục tiêu phát triển AGI ngay từ đầu, nhưng rất ít người coi trọng triển vọng vào thời điểm đó.
Với Sutskever trên tàu, thái độ vênh váo này là điều dễ hiểu. Cho đến lúc đó, anh ngày càng nhận được nhiều kết quả hơn từ việc học mạng lưới thần kinh. Dalton Caldwell, giám đốc điều hành của Y Combinator Investments, cho biết danh tiếng của ông đã đi trước ông, điều này khiến ông trở thành một hit lớn.
"Tôi nhớ Altman đã gọi Sutskever là một trong những nhà nghiên cứu được kính trọng nhất trên thế giới," Caldwell nói. Ông tin rằng Sutskever sẽ thu hút rất nhiều tài năng AI hàng đầu. Ông thậm chí còn đề cập rằng Yoshua Bengio, một trong những chuyên gia AI hàng đầu thế giới, tin rằng không có khả năng một ứng cử viên tốt hơn Sutskever sẽ được tìm thấy là nhà khoa học chính của OpenAI. "
Tuy nhiên, lúc đầu, OpenAI đã bị ràng buộc. "Đã có lúc chúng tôi bắt đầu OpenAI, tôi không chắc chắn tiến trình sẽ tiếp tục như thế nào", Sutskever nói. "Nhưng tôi có một niềm tin rất rõ ràng rằng mọi người sẽ không phản đối deep learning. Bằng cách nào đó, mỗi khi họ gặp chướng ngại vật, các nhà nghiên cứu sẽ tìm ra giải pháp trong vòng sáu tháng hoặc một năm. "
Đức tin của ông đã được đền đáp. Mô hình ngôn ngữ lớn GPT đầu tiên của OpenAI xuất hiện vào năm 2016. GPT-2 và GPT-3 theo sau. Sau đó là DALL-E, mô hình chuyển văn bản thành hình ảnh hấp dẫn. Không ai đã xây dựng một cái gì đó tốt như vậy. Với mỗi bản phát hành, OpenAI nâng cao tiêu chuẩn cho những gì mọi người nghĩ là có thể.
Quản lý kỳ vọng
Tháng 11 năm ngoái, OpenAI đã phát hành một chatbot miễn phí đóng gói lại một số công nghệ hiện có. Nó thiết lập lại chương trình nghị sự cho toàn bộ ngành công nghiệp.
Vào thời điểm đó, OpenAI không biết nó sẽ phát hành những gì. Sutskever nói rằng kỳ vọng trong công ty không thể thấp hơn: "Tôi sẽ thừa nhận, nó hơi khó xử một chút - tôi không biết liệu tôi có nên làm điều đó hay không, nhưng bất cứ điều gì, đó là một sự thật - tôi không biết nó tốt như thế nào khi chúng tôi tạo ra ChatGPT." Khi bạn hỏi nó một câu hỏi thực tế, nó sẽ cho bạn câu trả lời sai. Tôi nghĩ rằng nó sẽ rất kín đáo và mọi người sẽ nói, 'Tại sao bạn làm sản phẩm này?' Thật nhàm chán! '"
Phần hấp dẫn nhất, Sutskever nói, là sự tiện lợi. Mô hình ngôn ngữ lớn đằng sau ChatGPT đã xuất hiện trong nhiều tháng. Nhưng việc gói nó trong một giao diện dễ truy cập và cho đi miễn phí đã khiến hàng tỷ người lần đầu tiên nhận thức được những gì OpenAI và những người khác đang xây dựng.
"Trải nghiệm đầu tiên thật hấp dẫn. Khi bạn lần đầu tiên sử dụng nó, tôi nghĩ nó gần như là một trải nghiệm tâm linh. Bạn giống như, 'Ôi Chúa ơi, chiếc máy tính này dường như tự hiểu nó.'" '"
OpenAI đã tích lũy được 100 triệu người dùng trong vòng chưa đầy hai tháng và nhiều người trong số họ đã bị lóa mắt bởi món đồ chơi mới tuyệt vời này. Aaron Levie, Giám đốc điều hành của công ty lưu trữ Box, đã tóm tắt sự rung cảm trong tuần sau khi ra mắt trên Twitter: "ChatGPT là một trong những khoảnh khắc hiếm hoi trong không gian công nghệ và bạn có thể thấy rằng mọi thứ sẽ khác trong tương lai. "
Ngay khi ChatGPT nói điều gì đó ngu ngốc, phép màu này sụp đổ. Nhưng sau đó nó không quan trọng. Một cái nhìn thoáng qua về các khả năng là đủ, Sutskever nói. ChatGPT đã thay đổi tầm nhìn của mọi người.
"AGI không còn là một từ bẩn thỉu trong không gian học máy", ông nói. "Đó là một sự thay đổi lớn. Thái độ của con người trong lịch sử là: AI không hoạt động, mỗi bước đều rất khó khăn và bạn phải chiến đấu cho từng chút tiến bộ. Khi mọi người thổi phồng AGI, các nhà nghiên cứu nói, 'Bạn đang nói về cái gì vậy? Điều này không hoạt động, điều đó cũng không hoạt động. Có rất nhiều câu hỏi. Nhưng với ChatGPT, nó bắt đầu cảm thấy khác biệt. "
Có phải sự thay đổi này bắt đầu xảy ra chỉ một năm trước? "Tất cả xảy ra là nhờ ChatGPT", ông nói. "ChatGPT giúp các nhà nghiên cứu học máy có thể biến ước mơ của họ thành hiện thực."
Các nhà khoa học của OpenAI đã là những nhà truyền giáo ngay từ đầu và đã truyền cảm hứng cho những giấc mơ này thông qua các bài đăng trên blog và các chuyến tham quan bài giảng. Và nó đang hoạt động: "Chúng ta đang nói về việc AI sẽ đi bao xa ngay bây giờ - mọi người đang nói về AGI, hay siêu trí tuệ. Nó không chỉ là các nhà nghiên cứu. "Các chính phủ đang thảo luận về vấn đề này", ông Sutskever nói. "Thật điên rồ."
Những điều đáng kinh ngạc
Sutskever nhấn mạnh rằng tất cả những cuộc nói chuyện về công nghệ chưa tồn tại (và có thể không bao giờ tồn tại) là một điều tốt, bởi vì nó làm cho nhiều người nhận thức được tương lai mà ông đã coi là điều hiển nhiên.
"Bạn có thể làm rất nhiều điều tuyệt vời, những điều đáng kinh ngạc với AGI: tự động hóa chăm sóc sức khỏe, làm cho nó rẻ hơn hàng nghìn lần, làm cho nó tốt hơn hàng nghìn lần, chữa rất nhiều bệnh và thực sự giải quyết vấn đề nóng lên toàn cầu", ông nói. Nhưng cũng có rất nhiều người lo lắng: 'Ôi Chúa ơi, liệu một công ty AI có thể quản lý thành công công nghệ khổng lồ này không?' '"
Theo cách này, AGI nghe giống như một vị thần ban điều ước hơn là một triển vọng trong thế giới thực. Rất ít người sẽ nói không với việc cứu sống và giải quyết biến đổi khí hậu. Nhưng vấn đề với một công nghệ không tồn tại là bạn có thể nói bất cứ điều gì bạn muốn với nó.
Chính xác thì Sutskever đang nói về điều gì khi nói về AGI? "AGI không phải là một thuật ngữ khoa học", ông nói. "Đây phải là một ngưỡng hữu ích, một điểm tham chiếu."
"Đó là ý tưởng—" anh bắt đầu, rồi dừng lại. "AI đã trở nên thông minh đến mức nếu một người có thể thực hiện một số nhiệm vụ nhất định, thì AI cũng có thể làm điều đó. Tại thời điểm đó, bạn có thể nói rằng bạn có AGI. "
Mọi người có thể đang nói về nó, nhưng AGI vẫn là một trong những ý tưởng gây tranh cãi nhất trong lĩnh vực này. Rất ít người coi sự phát triển của nó là điều hiển nhiên. Nhiều nhà nghiên cứu tin rằng một bước đột phá lớn về khái niệm là cần thiết trước khi chúng ta có thể nhìn thấy một cái gì đó giống như những gì Sutskever hình dung - một số người nghĩ rằng chúng ta sẽ không bao giờ làm được.
Tuy nhiên, tầm nhìn này đã truyền cảm hứng cho ông ngay từ đầu. "Tôi luôn được truyền cảm hứng và động lực từ ý tưởng này", Sutskever nói. "Vào thời điểm đó, nó chưa được gọi là AGI, nhưng bạn biết đấy, nó giống như để các mạng thần kinh làm mọi thứ. Tôi không phải lúc nào cũng tin rằng họ có thể. Nhưng đó là một ngọn núi để leo lên. "
Ông so sánh cách mạng lưới thần kinh và não hoạt động. Cả hai đều nhận dữ liệu, tổng hợp tín hiệu từ dữ liệu đó, sau đó tuyên truyền hoặc không truyền bá chúng dựa trên một số quy trình đơn giản (toán học trong mạng lưới thần kinh, hóa chất trong não và điện sinh học). Đó là một sự đơn giản hóa rất lớn, nhưng nguyên tắc vẫn được giữ vững.
"Nếu bạn tin điều đó - nếu bạn cho phép mình tin vào điều này - thì có rất nhiều ý nghĩa thú vị", Sutskever nói. "Hàm ý chính là nếu bạn có một mạng lưới thần kinh nhân tạo rất lớn, nó sẽ làm được rất nhiều thứ. Đặc biệt, nếu bộ não con người có thể làm điều gì đó, thì mạng lưới thần kinh nhân tạo lớn có thể làm điều gì đó tương tự. "
"Nếu bạn thực hiện điều đó đủ nghiêm túc, mọi thứ sẽ rơi vào vị trí", ông nói. "Hầu hết công việc của tôi có thể được giải thích bằng điều này."
Trong khi chúng ta đang nói về bộ não, tôi muốn hỏi về một bài đăng mà Sutskever thực hiện trên nền tảng X. Tóm tắt của Sutskever đọc giống như một tập cách ngôn: "Nếu bạn đặt trí thông minh lên trên tất cả các phẩm chất khác của con người, thì bạn sẽ có một cuộc sống tồi tệ"; "Sự đồng cảm trong cuộc sống và kinh doanh bị đánh giá thấp"; "Sự hoàn hảo đã hủy hoại rất nhiều vẻ đẹp của sự hoàn hảo."
Vào tháng 2 năm 2022, ông đã đăng rằng "các mạng lưới thần kinh lớn ngày nay có thể có một ý thức nhỏ" (mà Murray Shanahan, nhà khoa học trưởng tại DeepMind của Google, giáo sư tại Đại học Hoàng gia London, và cố vấn khoa học cho bộ phim Ex Machina, trả lời: "... Ý nghĩa tương tự có thể là một cánh đồng lúa mì lớn với một ít mì ống").
Khi tôi nhắc đến nó, Sutskever cười. Anh ta có phải là một kẻ giả mạo không? Anh ấy không phải. "Ông có quen thuộc với khái niệm bộ não của Boltzmann không?" Hắn hỏi.
Ông đang đề cập đến một thí nghiệm tưởng tượng cơ học lượng tử được đặt theo tên của nhà vật lý thế kỷ 19 Ludwig Boltzmann, trong đó người ta tưởng tượng rằng các dao động nhiệt động lực học ngẫu nhiên trong vũ trụ sẽ khiến não xuất hiện và biến mất.
"Tôi nghĩ rằng những mô hình ngôn ngữ này hơi giống bộ não của Boltzmann ngay bây giờ", Sutskever nói. "Bạn bắt đầu nói chuyện với nó, nói chuyện một lúc; Và rồi khi cậu làm xong, bộ não sẽ..." Cậu làm một động tác biến mất bằng tay. Poof - tạm biệt, não.
Bạn đang nói rằng khi mạng lưới thần kinh hoạt động - có thể nói, khi nó phóng điện - có cái gì đó ở đó? Tôi hỏi.
"Tôi nghĩ nó có thể là như vậy," ông nói. "Tôi không chắc, nhưng đó là một khả năng khó bác bỏ. Nhưng ai biết chuyện gì đang xảy ra, phải không? "
AI, nhưng không phải như chúng ta biết
Trong khi những người khác đấu tranh để làm cho máy móc có thể so sánh với trí thông minh của con người, Sutskever chuẩn bị cho những cỗ máy có thể vượt qua chúng ta. Ông gọi hiện tượng này là siêu trí tuệ nhân tạo: "Họ nhìn mọi thứ sâu sắc hơn. Họ sẽ thấy những gì chúng ta không thể nhìn thấy. "
Một lần nữa, thật khó để tôi hiểu điều đó thực sự có nghĩa là gì. Trí thông minh của con người là chuẩn mực để chúng ta đánh giá trí thông minh. Sutskever có nghĩa là gì bởi trí thông minh thông minh hơn con người?
"Chúng ta đang thấy một ví dụ rất hẹp về siêu trí tuệ trong AlphaGo", ông nói. Vào năm 2016, trò chơi hội đồng quản trị AI "Alpha Dog" của DeepMind đã đánh bại Lee Sedol, một trong những kỳ thủ cờ vây xuất sắc nhất thế giới, 4-1 trong năm trận đấu. "Nó đã tìm ra cách chơi cờ vây theo cách khác với cách con người đã phát triển cùng nhau trong hàng ngàn năm", Sutskever nói. "Nó đưa ra những ý tưởng mới."
Sutskever đề cập đến nước đi thứ 37 nổi tiếng của AlphaGo. Trong trận đấu thứ hai với Lee Sedol, một động thái của AI đã khiến các bình luận viên bối rối. Họ nghĩ rằng AlphaGo đã bị trục trặc. Trên thực tế, nó đã chơi một nước cờ chiến thắng chưa từng thấy trước đây trong lịch sử cờ vua. "Hãy tưởng tượng mức độ hiểu biết sâu sắc này, nhưng bao gồm tất cả mọi thứ", Sutskever nói.
Chính dòng suy nghĩ này đã khiến Sutskever thực hiện sự thay đổi lớn nhất trong sự nghiệp của mình. Cùng với các nhà khoa học đồng nghiệp tại OpenAI, Jan Leike, ông đã thành lập một nhóm tập trung vào cái mà họ gọi là "siêu liên kết". Căn chỉnh là một biệt ngữ có nghĩa là để mô hình AI làm những gì bạn muốn làm và thế là xong. Siêu liên kết là một thuật ngữ liên kết mà OpenAI áp dụng cho siêu trí tuệ.
Mục tiêu là đưa ra một bộ quy trình không an toàn để xây dựng và kiểm soát công nghệ tương lai này. OpenAI cho biết họ sẽ phân bổ một phần năm tài nguyên máy tính khổng lồ của mình để giải quyết vấn đề và giải quyết nó trong vòng bốn năm.
"Các phương pháp liên kết hiện tại không hoạt động với các mô hình thông minh hơn con người vì về cơ bản chúng giả định rằng con người có thể đánh giá đáng tin cậy những gì hệ thống AI đang làm", Leike nói. "Khi các hệ thống AI trở nên mạnh mẽ hơn, chúng sẽ đảm nhận các nhiệm vụ khó khăn hơn." Ý tưởng là điều này sẽ khiến con người khó đánh giá chúng hơn. "Khi tập hợp Nhóm Siêu liên kết với Sutskever, chúng tôi đã đặt ra mục tiêu giải quyết những thách thức liên kết trong tương lai", ông nói.
"Điều quan trọng là không chỉ tập trung vào các cơ hội tiềm năng cho các mô hình ngôn ngữ lớn, mà còn vào những rủi ro và hạn chế của chúng", Dean, nhà khoa học trưởng tại Google cho biết. "
Công ty đã công bố dự án vào tháng Bảy với sự phô trương điển hình. Nhưng đối với một số người, đó là một tưởng tượng. Các bài đăng trên Twitter của OpenAI đã thu hút sự khinh miệt từ các nhà phê bình nổi tiếng của Big Tech, bao gồm Abeba Birhane, người làm việc về trách nhiệm giải trình AI tại Mozilla; Timnit Gebru, Đồng sáng lập, Viện AI phân tán; và Margaret Mitchell, nhà khoa học đạo đức trưởng tại công ty AI Hugging Face. Quả nhiên, đây là những giọng nói bất đồng quen thuộc. Nhưng đó là một lời nhắc nhở mạnh mẽ rằng một số người tin rằng OpenAI đang dẫn đầu, trong khi những người khác tin rằng OpenAI đang ở bên rìa.
Tuy nhiên, đối với Sutskever, siêu liên kết là bước tiếp theo không thể tránh khỏi. "Đó là một vấn đề chưa được giải quyết", ông nói. Ông tin rằng các nhà nghiên cứu máy học cốt lõi như ông đang nghiên cứu vấn đề này. "Tôi đang làm điều đó vì lợi ích của riêng tôi," ông nói. "Rõ ràng điều quan trọng là bất kỳ siêu trí tuệ nào mà bất kỳ ai xây dựng cũng không vượt khỏi tầm tay."
Công việc về siêu liên kết chỉ mới bắt đầu. Theo ông Sutskever, điều này sẽ đòi hỏi một sự thay đổi lớn trong các tổ chức nghiên cứu. Nhưng ông đã nghĩ đến một mô hình bảo vệ mà ông muốn thiết kế: một cỗ máy đối xử với mọi người theo cách cha mẹ đối xử với con cái của họ. "Theo tôi, đó là tiêu chuẩn vàng", ông nói. "Mọi người thực sự quan tâm đến trẻ em, đó là một tuyên bố nói chung là đúng."
"Một khi bạn đã vượt qua thử thách AI giả mạo, thì sao? Trong một thế giới có trí tuệ nhân tạo thông minh hơn, liệu có còn chỗ cho con người? Hắn nói.
"Một khả năng – có thể điên rồ theo tiêu chuẩn ngày nay, nhưng không quá điên rồ theo tiêu chuẩn của ngày mai – là nhiều người sẽ chọn trở thành một phần của AI." Sutskever nói rằng đây có thể là một cách để con người cố gắng theo kịp đoàn tàu. "Ban đầu, chỉ những người dũng cảm và mạo hiểm nhất mới cố gắng làm điều đó. Có thể những người khác sẽ làm theo. Hoặc không. "
Nguồn tham khảo: