Bạn vẫn đang than thở về những thay đổi mang tính cách mạng do AI sáng tạo mang lại? Than thở về sức mạnh của GPT-4? Bạn vẫn đang đoán xem GPT-5 sẽ có những tính năng mới nào? OpenAI đã nhìn xa hơn và đã đi vào hoạt động.
Nguồn hình ảnh: Được tạo bởi Unbounded AI
Nhóm OpenAI đã công bố động thái mới nhất của họ vào ngày hôm qua, thành lập một nhóm mới, Superalignment, do Ilya Sutskever (đồng sáng lập OpenAI và nhà khoa học trưởng) và Jan Leike (trưởng nhóm liên kết) đồng lãnh đạo. Đây là một nhóm về siêu trí tuệ, tập trung vào nghiên cứu liên kết siêu trí tuệ. OpenAI tuyên bố rằng họ sẽ dành 20% tài nguyên máy tính của mình để giải quyết các vấn đề căn chỉnh siêu thông minh trong bốn năm tới, điều này đủ cho thấy tầm quan trọng của OpenAI.
Siêu trí tuệ là gì?
Siêu trí tuệ là hệ thống thông minh vượt xa trí thông minh của con người, không chỉ là một chương trình máy tính đơn thuần mà là một cơ thể thông minh, có các đặc điểm về khả năng nhận thức, khả năng cảm xúc, tự nhận thức và chủ định, có thể suy nghĩ, phán đoán và quyết định một cách độc lập. -làm thậm chí có thể vượt qua trí thông minh của con người ở một mức độ nhất định. Khái niệm siêu trí tuệ có liên quan đến hệ thống trí tuệ nhân tạo hiện tại, nó đề cập đến một trí tuệ nhân tạo tiên tiến hơn có thể được áp dụng trong nhiều lĩnh vực và môi trường phức tạp hơn.
Hiện tại, siêu trí tuệ vẫn là một khái niệm lý thuyết và vẫn chưa được hiện thực hóa. Để đạt được trí tuệ siêu phàm đòi hỏi phải giải quyết nhiều vấn đề kỹ thuật, bao gồm những thách thức trong học máy, xử lý ngôn ngữ tự nhiên, thị giác máy tính, lập luận và ra quyết định. Ngoài ra, sự xuất hiện của siêu trí tuệ cũng sẽ kéo theo nhiều vấn đề đạo đức, xã hội và chính trị, chẳng hạn như kiểm soát siêu trí tuệ, các vấn đề về an ninh và quyền riêng tư.
Siêu trí tuệ là một khái niệm thú vị và hấp dẫn vì nó có thể tạo ra nhiều ứng dụng quan trọng trong nhiều lĩnh vực khác nhau, chẳng hạn như chẩn đoán y tế, phát triển thuốc mới, vận chuyển thông minh, sản xuất tự động và bảo vệ an ninh, v.v. Đồng thời, siêu trí tuệ cũng có một số rủi ro và thách thức, nếu vượt khỏi tầm kiểm soát, nó có thể gây ra mối đe dọa rất lớn cho loài người.
Đạt được siêu trí tuệ đòi hỏi phải giải quyết nhiều vấn đề kỹ thuật. Một trong những vấn đề quan trọng nhất là làm sao để các hệ thống thông minh có khả năng học độc lập, nghĩa là liên tục học kiến thức và kỹ năng mới từ dữ liệu và kinh nghiệm, để không ngừng nâng cao mức độ thông minh của chúng. Đồng thời, siêu trí tuệ cũng cần có khả năng suy luận, ra quyết định và đổi mới mạnh mẽ, có thể suy nghĩ độc lập và giải quyết các vấn đề phức tạp khác nhau.
"Khi chúng ta tiếp cận siêu trí tuệ", chúng ta cần suy nghĩ nhiều hơn về những rủi ro hiện hữu của AI. —Zuckerberg
Siêu trí tuệ sẽ trở thành hiện thực trong mười năm nữa? Ít nhất OpenAI nghĩ như vậy
OpenAI tin rằng siêu trí tuệ sẽ là công nghệ có sức ảnh hưởng lớn nhất từng được phát minh, giúp chúng ta giải quyết nhiều vấn đề quan trọng nhất của thế giới. Nhưng sức mạnh to lớn của một siêu trí tuệ cũng có thể rất nguy hiểm và có thể dẫn đến sự tước quyền của nhân loại, hoặc thậm chí là sự tuyệt chủng của loài người. Mặc dù hiện tại **siêu trí tuệ có vẻ xa vời, nhưng chúng tôi tin rằng có thể trong vòng một thập kỷ nữa. **
###
Làm thế nào để giải quyết những rủi ro của siêu trí tuệ?
Mặc dù siêu trí tuệ có nguồn năng lượng khổng lồ nhưng rủi ro cũng rất lớn. OpenAI cho biết việc quản lý những rủi ro này sẽ cần đến các thể chế quản trị mới và giải quyết vấn đề phối hợp siêu trí tuệ, cụ thể là làm thế nào để đảm bảo rằng các hệ thống trí tuệ nhân tạo thông minh hơn con người rất nhiều nhưng cũng tuân theo ý định của con người?
OpenAI đã không đưa ra câu trả lời, họ cho rằng con người không thể giám sát một cách đáng tin cậy những hệ thống trí tuệ nhân tạo thông minh hơn con người, công nghệ liên kết hiện tại không thể mở rộng thành siêu trí tuệ, vì vậy cần phải tìm kiếm những đột phá khoa học và công nghệ mới.
Tuy nhiên, con đường của OpenAI để giải quyết vấn đề căn chỉnh siêu trí tuệ đã rõ ràng, đó là thiết lập một nhà nghiên cứu căn chỉnh tự động gần như ở cấp độ con người, để cải thiện khả năng của các hệ thống trí tuệ nhân tạo học hỏi từ phản hồi của con người và hỗ trợ con người đánh giá trí tuệ nhân tạo. Mục tiêu là xây dựng một hệ thống AI đủ căn chỉnh để có thể giúp chúng ta giải quyết tất cả các vấn đề căn chỉnh khác.
Vào năm ngoái, OpenAI đã xuất bản một bài đăng trên blog làm rõ hướng nghiên cứu của họ về sự liên kết:
Superalignment nhóm mới của OpenAI
Nhóm sẽ bao gồm các nhà nghiên cứu và kỹ sư máy học hàng đầu, với mục tiêu giải quyết các thách thức kỹ thuật cốt lõi của việc liên kết siêu trí tuệ trong vòng bốn năm, từ phát triển các phương pháp mới đến mở rộng quy mô và triển khai. Nhà khoa học trưởng của OpenAI Ilya Sutskever đã biến vấn đề liên kết siêu trí tuệ trở thành trọng tâm nghiên cứu cốt lõi. Căn chỉnh siêu trí tuệ về cơ bản là một vấn đề học máy và OpenAI đang tuyển dụng các chuyên gia học máy xuất sắc.
Người giới thiệu:
Xem bản gốc
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Xu hướng mới nhất của OpenAI: Thành lập một nhóm mới, đặt cược vào trí tuệ siêu phàm và nghiêng 20% tài nguyên máy tính
Bạn vẫn đang than thở về những thay đổi mang tính cách mạng do AI sáng tạo mang lại? Than thở về sức mạnh của GPT-4? Bạn vẫn đang đoán xem GPT-5 sẽ có những tính năng mới nào? OpenAI đã nhìn xa hơn và đã đi vào hoạt động.
Nhóm OpenAI đã công bố động thái mới nhất của họ vào ngày hôm qua, thành lập một nhóm mới, Superalignment, do Ilya Sutskever (đồng sáng lập OpenAI và nhà khoa học trưởng) và Jan Leike (trưởng nhóm liên kết) đồng lãnh đạo. Đây là một nhóm về siêu trí tuệ, tập trung vào nghiên cứu liên kết siêu trí tuệ. OpenAI tuyên bố rằng họ sẽ dành 20% tài nguyên máy tính của mình để giải quyết các vấn đề căn chỉnh siêu thông minh trong bốn năm tới, điều này đủ cho thấy tầm quan trọng của OpenAI.
Siêu trí tuệ là gì?
Siêu trí tuệ là hệ thống thông minh vượt xa trí thông minh của con người, không chỉ là một chương trình máy tính đơn thuần mà là một cơ thể thông minh, có các đặc điểm về khả năng nhận thức, khả năng cảm xúc, tự nhận thức và chủ định, có thể suy nghĩ, phán đoán và quyết định một cách độc lập. -làm thậm chí có thể vượt qua trí thông minh của con người ở một mức độ nhất định. Khái niệm siêu trí tuệ có liên quan đến hệ thống trí tuệ nhân tạo hiện tại, nó đề cập đến một trí tuệ nhân tạo tiên tiến hơn có thể được áp dụng trong nhiều lĩnh vực và môi trường phức tạp hơn.
Hiện tại, siêu trí tuệ vẫn là một khái niệm lý thuyết và vẫn chưa được hiện thực hóa. Để đạt được trí tuệ siêu phàm đòi hỏi phải giải quyết nhiều vấn đề kỹ thuật, bao gồm những thách thức trong học máy, xử lý ngôn ngữ tự nhiên, thị giác máy tính, lập luận và ra quyết định. Ngoài ra, sự xuất hiện của siêu trí tuệ cũng sẽ kéo theo nhiều vấn đề đạo đức, xã hội và chính trị, chẳng hạn như kiểm soát siêu trí tuệ, các vấn đề về an ninh và quyền riêng tư.
Siêu trí tuệ là một khái niệm thú vị và hấp dẫn vì nó có thể tạo ra nhiều ứng dụng quan trọng trong nhiều lĩnh vực khác nhau, chẳng hạn như chẩn đoán y tế, phát triển thuốc mới, vận chuyển thông minh, sản xuất tự động và bảo vệ an ninh, v.v. Đồng thời, siêu trí tuệ cũng có một số rủi ro và thách thức, nếu vượt khỏi tầm kiểm soát, nó có thể gây ra mối đe dọa rất lớn cho loài người.
Đạt được siêu trí tuệ đòi hỏi phải giải quyết nhiều vấn đề kỹ thuật. Một trong những vấn đề quan trọng nhất là làm sao để các hệ thống thông minh có khả năng học độc lập, nghĩa là liên tục học kiến thức và kỹ năng mới từ dữ liệu và kinh nghiệm, để không ngừng nâng cao mức độ thông minh của chúng. Đồng thời, siêu trí tuệ cũng cần có khả năng suy luận, ra quyết định và đổi mới mạnh mẽ, có thể suy nghĩ độc lập và giải quyết các vấn đề phức tạp khác nhau.
Siêu trí tuệ sẽ trở thành hiện thực trong mười năm nữa? Ít nhất OpenAI nghĩ như vậy
OpenAI tin rằng siêu trí tuệ sẽ là công nghệ có sức ảnh hưởng lớn nhất từng được phát minh, giúp chúng ta giải quyết nhiều vấn đề quan trọng nhất của thế giới. Nhưng sức mạnh to lớn của một siêu trí tuệ cũng có thể rất nguy hiểm và có thể dẫn đến sự tước quyền của nhân loại, hoặc thậm chí là sự tuyệt chủng của loài người. Mặc dù hiện tại **siêu trí tuệ có vẻ xa vời, nhưng chúng tôi tin rằng có thể trong vòng một thập kỷ nữa. **
Làm thế nào để giải quyết những rủi ro của siêu trí tuệ?
Mặc dù siêu trí tuệ có nguồn năng lượng khổng lồ nhưng rủi ro cũng rất lớn. OpenAI cho biết việc quản lý những rủi ro này sẽ cần đến các thể chế quản trị mới và giải quyết vấn đề phối hợp siêu trí tuệ, cụ thể là làm thế nào để đảm bảo rằng các hệ thống trí tuệ nhân tạo thông minh hơn con người rất nhiều nhưng cũng tuân theo ý định của con người?
OpenAI đã không đưa ra câu trả lời, họ cho rằng con người không thể giám sát một cách đáng tin cậy những hệ thống trí tuệ nhân tạo thông minh hơn con người, công nghệ liên kết hiện tại không thể mở rộng thành siêu trí tuệ, vì vậy cần phải tìm kiếm những đột phá khoa học và công nghệ mới.
Tuy nhiên, con đường của OpenAI để giải quyết vấn đề căn chỉnh siêu trí tuệ đã rõ ràng, đó là thiết lập một nhà nghiên cứu căn chỉnh tự động gần như ở cấp độ con người, để cải thiện khả năng của các hệ thống trí tuệ nhân tạo học hỏi từ phản hồi của con người và hỗ trợ con người đánh giá trí tuệ nhân tạo. Mục tiêu là xây dựng một hệ thống AI đủ căn chỉnh để có thể giúp chúng ta giải quyết tất cả các vấn đề căn chỉnh khác.
Vào năm ngoái, OpenAI đã xuất bản một bài đăng trên blog làm rõ hướng nghiên cứu của họ về sự liên kết:
Superalignment nhóm mới của OpenAI
Nhóm sẽ bao gồm các nhà nghiên cứu và kỹ sư máy học hàng đầu, với mục tiêu giải quyết các thách thức kỹ thuật cốt lõi của việc liên kết siêu trí tuệ trong vòng bốn năm, từ phát triển các phương pháp mới đến mở rộng quy mô và triển khai. Nhà khoa học trưởng của OpenAI Ilya Sutskever đã biến vấn đề liên kết siêu trí tuệ trở thành trọng tâm nghiên cứu cốt lõi. Căn chỉnh siêu trí tuệ về cơ bản là một vấn đề học máy và OpenAI đang tuyển dụng các chuyên gia học máy xuất sắc. Người giới thiệu: