Có lẽ chưa bao giờ có một công nghệ nào lại nhanh chóng trở thành sự đồng thuận của cộng đồng khoa học công nghệ và thậm chí là toàn xã hội chỉ trong vài tháng như mô hình lớn về AI. Ngày nay, tất cả các gã khổng lồ công nghệ và các chính phủ lớn gần như tin tưởng chắc chắn rằng AI sẽ thay đổi thế giới và thay đổi mọi thứ.
Nhưng đằng sau sự đồng thuận lớn, vẫn còn quá nhiều vấn đề, một mặt là có thật – sự thay thế trong công việc, sự gia tăng của nội dung sai lệch và ngưỡng sử dụng không đồng đều, v.v., mặt khác, chúng là những vấn đề lâu dài. -thuật ngữ nghệ thuật của con người.Sự "đe dọa nền văn minh" được thể hiện ở đây. **Theo tạp chí "Wired", OpenAI thậm chí còn quy định cơ chế thoát ra trong tài liệu tài chính khi AI phá hủy hệ thống kinh tế của con người. **
Vào tháng 7 năm nay, tại một sự kiện được tổ chức tại trụ sở IBM, Lãnh đạo đa số Thượng viện Hoa Kỳ Chuck Schumer nói rằng ông sẽ triệu tập một loạt hội nghị về trí tuệ nhân tạo để “đưa những người giỏi nhất đến bàn và học hỏi lẫn nhau”. , hãy cố gắng đi đến một số đồng thuận và giải pháp, còn các thượng nghị sĩ, nhân viên của chúng tôi và những người khác chỉ lắng nghe." ** Cuối cùng, Schumer hy vọng sẽ "đặt nền tảng cho luật chính sách AI" dựa trên những trao đổi tại cuộc họp. **
**Hai tháng sau, cuộc họp bắt đầu. **22 người tham gia từ các công ty công nghệ hàng đầu đã tham gia cuộc họp kín. Trong số đó có Giám đốc điều hành OpenAI Sam Altman, Giám đốc điều hành NVIDIA Huang Jenxun và Giám đốc điều hành Google Sundar. Pichai, Giám đốc điều hành Meta Mark Zuckerberg và những người khác, cũng như người sáng lập Microsoft Bill Gates và cựu Giám đốc điều hành Google Eric Schmidt, những người đi đầu về công nghệ của thế hệ Internet trước đây.
AI phải được “kiểm soát”
Không ai có thể phủ nhận tiềm năng to lớn của trí tuệ nhân tạo, nhưng chúng ta vẫn thiếu nhiều sự đồng thuận về rủi ro, biện pháp an toàn, giám sát và tương lai của trí tuệ nhân tạo.Điều duy nhất chắc chắn là con người không thể hoàn toàn cho phép sự phát triển tàn bạo của trí tuệ nhân tạo. Sự thông minh.
Sau khi rời cuộc họp kín đầu tiên, CEO Tesla, SpaceX và Neuralink, Elon Musk, đã công khai tuyên bố rằng cuộc họp mang tính "lịch sử" và ông tán thành ý tưởng thành lập một cơ quan mới để quản lý trí tuệ nhân tạo, đồng thời nhấn mạnh lại những rủi ro lớn do trí tuệ nhân tạo gây ra.
Musk nói: "Hậu quả của việc AI gặp trục trặc là rất nghiêm trọng, vì vậy chúng ta phải chủ động hơn là phản ứng. Vấn đề thực sự là vấn đề rủi ro của nền văn minh, có nguy cơ tiềm ẩn đối với tất cả con người trên toàn thế giới".
Musk không nói sâu về tác hại cụ thể của cái gọi là trí tuệ nhân tạo đối với nền văn minh nhân loại, nhưng khi trí tuệ nhân tạo tham gia nhiều hơn vào việc quản lý và kiểm soát lưới điện, hệ thống cấp nước và hệ thống phương tiện, những sai lầm sẽ gây ra rất nhiều vấn đề. Nhà khoa học máy tính và nhà nghiên cứu trí tuệ nhân tạo Deb Raji cũng đề cập rằng các quyết định thiên vị của trí tuệ nhân tạo ảnh hưởng đến mọi khía cạnh của xã hội.
Hơn nữa, con người còn có mối quan tâm lâu dài về trí tuệ nhân tạo.
Nhưng làm thế nào chúng ta có thể giảm thiểu và ngăn chặn những rủi ro do trí tuệ nhân tạo gây ra? Chủ tịch Microsoft Brad Smith đề xuất rằng chúng ta cần thiết lập một "phanh khẩn cấp" trước những rủi ro lớn mà trí tuệ nhân tạo có thể gây ra, đặc biệt là trong các hệ thống trí tuệ nhân tạo quản lý cơ sở hạ tầng quan trọng như lưới điện và hệ thống nước. những mối đe dọa mà nhiều người lo sợ vẫn chỉ là chuyện khoa học viễn tưởng và sẽ không trở thành hiện thực mới."**
Brad Smith, ảnh/
Smith tin rằng giống như các cầu dao được tìm thấy trong mọi tòa nhà và nhà ở có thể ngay lập tức khiến hệ thống điện ngừng hoạt động nếu cần, các hệ thống AI sẽ cần những “hệ thống phanh khẩn cấp” tương tự để đảm bảo rằng con người không bị ảnh hưởng bởi những hệ thống như vậy.
Thật trùng hợp, William Dally, trưởng khoa học và phó chủ tịch cấp cao của NVIDIA, cũng chỉ ra rằng mấu chốt dẫn đến khả năng xảy ra sai sót và tác hại nghiêm trọng do trí tuệ nhân tạo như một chương trình máy tính gây ra nằm ở “sự tham gia của con người”, tức là con người được đặt vào Trong các mắt xích quan trọng của công việc trí tuệ nhân tạo, một số quyền ra quyết định của trí tuệ nhân tạo bị hạn chế. **
William Daly, ảnh/NVIDIA
“Vì vậy, tôi nghĩ miễn là chúng ta cẩn thận về cách triển khai AI, đặt con người vào mối liên kết quan trọng, chúng ta có thể đảm bảo rằng AI không chiếm quyền kiểm soát và làm tắt lưới điện của chúng ta hoặc khiến máy bay rơi khỏi bầu trời. ", Daly nói.
**Nguồn mở AI có phải là chiếc hộp Pandora không? **
Vào cuối năm ngoái, khi ChatGPT lần đầu tiên trở nên phổ biến trong giới công nghệ, một số người bày tỏ lo ngại về việc các mô hình AI đang bị sử dụng cho các hành vi nguy hiểm như lừa đảo. Nguồn mở dường như làm tăng nguy cơ "lạm dụng".
Một trong những cuộc tranh luận tại hội nghị xoay quanh các mô hình AI "nguồn mở" mà công chúng có thể tải xuống và sửa đổi. Mã mở của các mô hình này cho phép các doanh nghiệp và nhà nghiên cứu sử dụng công nghệ AI tương tự như công nghệ đằng sau ChatGPT mà không cần đầu tư số tiền và nguồn lực lớn vào đào tạo.
Nhưng kẻ xấu cũng có thể lạm dụng các hệ thống AI nguồn mở, bao gồm cả OpenAI, vốn đã dừng nguồn mở kể từ GPT-3.5.Đồng sáng lập và nhà khoa học trưởng của OpenAI Ilya Sutskever cho biết: "Trong một vài năm nữa, mọi người sẽ thấy rõ rằng trí tuệ nhân tạo nguồn mở Thông minh là không khôn ngoan.”
Ilya Sutskever nói chuyện với Jen-Hsun Huang tại GDC, ảnh/NVIDIA
**Khi được hỏi tại sao, anh ấy nói: "Những mô hình này rất mạnh và sẽ ngày càng mạnh hơn, và đến một lúc nào đó, nếu ai đó muốn, sẽ rất dễ gây ra nhiều thiệt hại với những mô hình này." **
Ngoài ra, Mustafa Suleyman, đồng sáng lập DeepMind và CEO của Inflection AI, cũng đề cập đến những rủi ro của nguồn mở cách đây không lâu, ông chỉ ra rằng vấn đề mấu chốt của AI nguồn mở là “sự khuếch tán quyền lực nhanh chóng” sẽ cho phép một cá nhân duy nhất gây ra tác hại chưa từng có cho thế giới và tác động, "Trong 20 năm tới, nguồn mở ngây thơ gần như chắc chắn sẽ gây ra thảm họa." **
Mustafa Suleiman, 图/DeepMind
Tuy nhiên, Meta rõ ràng không đồng ý với những tuyên bố này **Giám đốc điều hành Meta Zuckerberg phản bác rằng nguồn mở sẽ "dân chủ hóa AI, giúp cạnh tranh công bằng và thúc đẩy đổi mới cá nhân và doanh nghiệp." **Nhưng đồng thời, ông cũng cho biết mô hình nguồn mở có thể mang đến những nguy hiểm, nhưng Meta đang xây dựng công nghệ này một cách an toàn nhất có thể.
Khi AI gặp nguồn mở, đây vẫn là một câu hỏi mở.
Viết ở cuối
2104 năm trước, bảy năm sau cái chết của Hoàng đế Ngô nhà Hán, triều đình nhà Hán đã triệu tập một cuộc tham vấn chính sách chưa từng có, một trong những vấn đề chính là bãi bỏ và sửa đổi chính sách độc quyền về muối và rượu sắt của nhà nước được thực hiện dưới thời Hoàng đế. Vì mục đích này, ""Hơn sáu mươi người có đức và có văn" cũng như các quan chức chính phủ như Sang Hongyang, người kiểm duyệt triều đình, sau này được gọi là "Hội nghị Muối và Sắt". Tuy nhiên, Hội nghị Muối và Sắt này về cơ bản là thảo luận về phương hướng chính sách kinh tế của nhà Hán.
Mặc dù các chủ đề khác nhau và môi trường của thời đại cũng rất khác nhau,** cho dù đó là Hội nghị Muối và Sắt hơn 2.000 năm trước hay Diễn đàn Hiểu biết về Trí tuệ Nhân tạo hiện tại, tất cả chúng ta đều đang phải đối mặt với một vấn đề lớn và chúng tôi hy vọng sẽ giải quyết được vấn đề này. giao tiếp thông qua tranh luận “nhóm nhân tài” làm cơ sở cho việc xây dựng pháp luật. **
Hình ảnh/Google
Trong một bài viết gần đây kỷ niệm 25 năm thành lập Google, Giám đốc điều hành hiện tại của Google Sundar Pichai đã viết:
(Google) Tham gia cuộc tranh luận quan trọng về cách những công nghệ này sẽ định hình xã hội của chúng ta và sau đó cùng nhau hợp tác để tìm ra câu trả lời. Trí tuệ nhân tạo là một phần quan trọng của việc này. Mặc dù chúng tôi rất vui mừng về tiềm năng của AI trong việc mang lại lợi ích cho con người và xã hội,** chúng tôi biết rằng AI, giống như bất kỳ công nghệ giai đoạn đầu nào, đều đi kèm với sự phức tạp và rủi ro. Việc phát triển và sử dụng AI của chúng ta phải giải quyết những rủi ro này và giúp phát triển công nghệ một cách có trách nhiệm. **
Vài ngày sau, tám công ty, bao gồm Adobe, Cohere, IBM, NVIDIA, Palantir, Salesforce, Scal AI và Stability, trở thành nhóm công ty thứ hai ký thỏa thuận "phát triển công nghệ trí tuệ nhân tạo (AI) một cách có trách nhiệm". Nhiều khi, khi đối mặt với những vấn đề mà một cá nhân hay một công ty/chính phủ không thể giải quyết được, chúng ta phải nhận ra giá trị của “nỗ lực chung”.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Những gã khổng lồ AI toàn cầu đã nói gì khi tụ tập tại Hội nghị Muối và Sắt trong Kỷ nguyên AI?
Có lẽ chưa bao giờ có một công nghệ nào lại nhanh chóng trở thành sự đồng thuận của cộng đồng khoa học công nghệ và thậm chí là toàn xã hội chỉ trong vài tháng như mô hình lớn về AI. Ngày nay, tất cả các gã khổng lồ công nghệ và các chính phủ lớn gần như tin tưởng chắc chắn rằng AI sẽ thay đổi thế giới và thay đổi mọi thứ.
Nhưng đằng sau sự đồng thuận lớn, vẫn còn quá nhiều vấn đề, một mặt là có thật – sự thay thế trong công việc, sự gia tăng của nội dung sai lệch và ngưỡng sử dụng không đồng đều, v.v., mặt khác, chúng là những vấn đề lâu dài. -thuật ngữ nghệ thuật của con người.Sự "đe dọa nền văn minh" được thể hiện ở đây. **Theo tạp chí "Wired", OpenAI thậm chí còn quy định cơ chế thoát ra trong tài liệu tài chính khi AI phá hủy hệ thống kinh tế của con người. **
Vào tháng 7 năm nay, tại một sự kiện được tổ chức tại trụ sở IBM, Lãnh đạo đa số Thượng viện Hoa Kỳ Chuck Schumer nói rằng ông sẽ triệu tập một loạt hội nghị về trí tuệ nhân tạo để “đưa những người giỏi nhất đến bàn và học hỏi lẫn nhau”. , hãy cố gắng đi đến một số đồng thuận và giải pháp, còn các thượng nghị sĩ, nhân viên của chúng tôi và những người khác chỉ lắng nghe." ** Cuối cùng, Schumer hy vọng sẽ "đặt nền tảng cho luật chính sách AI" dựa trên những trao đổi tại cuộc họp. **
**Hai tháng sau, cuộc họp bắt đầu. **22 người tham gia từ các công ty công nghệ hàng đầu đã tham gia cuộc họp kín. Trong số đó có Giám đốc điều hành OpenAI Sam Altman, Giám đốc điều hành NVIDIA Huang Jenxun và Giám đốc điều hành Google Sundar. Pichai, Giám đốc điều hành Meta Mark Zuckerberg và những người khác, cũng như người sáng lập Microsoft Bill Gates và cựu Giám đốc điều hành Google Eric Schmidt, những người đi đầu về công nghệ của thế hệ Internet trước đây.
AI phải được “kiểm soát”
Không ai có thể phủ nhận tiềm năng to lớn của trí tuệ nhân tạo, nhưng chúng ta vẫn thiếu nhiều sự đồng thuận về rủi ro, biện pháp an toàn, giám sát và tương lai của trí tuệ nhân tạo.Điều duy nhất chắc chắn là con người không thể hoàn toàn cho phép sự phát triển tàn bạo của trí tuệ nhân tạo. Sự thông minh.
Sau khi rời cuộc họp kín đầu tiên, CEO Tesla, SpaceX và Neuralink, Elon Musk, đã công khai tuyên bố rằng cuộc họp mang tính "lịch sử" và ông tán thành ý tưởng thành lập một cơ quan mới để quản lý trí tuệ nhân tạo, đồng thời nhấn mạnh lại những rủi ro lớn do trí tuệ nhân tạo gây ra.
Musk nói: "Hậu quả của việc AI gặp trục trặc là rất nghiêm trọng, vì vậy chúng ta phải chủ động hơn là phản ứng. Vấn đề thực sự là vấn đề rủi ro của nền văn minh, có nguy cơ tiềm ẩn đối với tất cả con người trên toàn thế giới".
Musk không nói sâu về tác hại cụ thể của cái gọi là trí tuệ nhân tạo đối với nền văn minh nhân loại, nhưng khi trí tuệ nhân tạo tham gia nhiều hơn vào việc quản lý và kiểm soát lưới điện, hệ thống cấp nước và hệ thống phương tiện, những sai lầm sẽ gây ra rất nhiều vấn đề. Nhà khoa học máy tính và nhà nghiên cứu trí tuệ nhân tạo Deb Raji cũng đề cập rằng các quyết định thiên vị của trí tuệ nhân tạo ảnh hưởng đến mọi khía cạnh của xã hội.
Hơn nữa, con người còn có mối quan tâm lâu dài về trí tuệ nhân tạo.
Nhưng làm thế nào chúng ta có thể giảm thiểu và ngăn chặn những rủi ro do trí tuệ nhân tạo gây ra? Chủ tịch Microsoft Brad Smith đề xuất rằng chúng ta cần thiết lập một "phanh khẩn cấp" trước những rủi ro lớn mà trí tuệ nhân tạo có thể gây ra, đặc biệt là trong các hệ thống trí tuệ nhân tạo quản lý cơ sở hạ tầng quan trọng như lưới điện và hệ thống nước. những mối đe dọa mà nhiều người lo sợ vẫn chỉ là chuyện khoa học viễn tưởng và sẽ không trở thành hiện thực mới."**
Brad Smith, ảnh/
Smith tin rằng giống như các cầu dao được tìm thấy trong mọi tòa nhà và nhà ở có thể ngay lập tức khiến hệ thống điện ngừng hoạt động nếu cần, các hệ thống AI sẽ cần những “hệ thống phanh khẩn cấp” tương tự để đảm bảo rằng con người không bị ảnh hưởng bởi những hệ thống như vậy.
Thật trùng hợp, William Dally, trưởng khoa học và phó chủ tịch cấp cao của NVIDIA, cũng chỉ ra rằng mấu chốt dẫn đến khả năng xảy ra sai sót và tác hại nghiêm trọng do trí tuệ nhân tạo như một chương trình máy tính gây ra nằm ở “sự tham gia của con người”, tức là con người được đặt vào Trong các mắt xích quan trọng của công việc trí tuệ nhân tạo, một số quyền ra quyết định của trí tuệ nhân tạo bị hạn chế. **
William Daly, ảnh/NVIDIA
“Vì vậy, tôi nghĩ miễn là chúng ta cẩn thận về cách triển khai AI, đặt con người vào mối liên kết quan trọng, chúng ta có thể đảm bảo rằng AI không chiếm quyền kiểm soát và làm tắt lưới điện của chúng ta hoặc khiến máy bay rơi khỏi bầu trời. ", Daly nói.
**Nguồn mở AI có phải là chiếc hộp Pandora không? **
Vào cuối năm ngoái, khi ChatGPT lần đầu tiên trở nên phổ biến trong giới công nghệ, một số người bày tỏ lo ngại về việc các mô hình AI đang bị sử dụng cho các hành vi nguy hiểm như lừa đảo. Nguồn mở dường như làm tăng nguy cơ "lạm dụng".
Một trong những cuộc tranh luận tại hội nghị xoay quanh các mô hình AI "nguồn mở" mà công chúng có thể tải xuống và sửa đổi. Mã mở của các mô hình này cho phép các doanh nghiệp và nhà nghiên cứu sử dụng công nghệ AI tương tự như công nghệ đằng sau ChatGPT mà không cần đầu tư số tiền và nguồn lực lớn vào đào tạo.
Nhưng kẻ xấu cũng có thể lạm dụng các hệ thống AI nguồn mở, bao gồm cả OpenAI, vốn đã dừng nguồn mở kể từ GPT-3.5.Đồng sáng lập và nhà khoa học trưởng của OpenAI Ilya Sutskever cho biết: "Trong một vài năm nữa, mọi người sẽ thấy rõ rằng trí tuệ nhân tạo nguồn mở Thông minh là không khôn ngoan.”
Ilya Sutskever nói chuyện với Jen-Hsun Huang tại GDC, ảnh/NVIDIA
**Khi được hỏi tại sao, anh ấy nói: "Những mô hình này rất mạnh và sẽ ngày càng mạnh hơn, và đến một lúc nào đó, nếu ai đó muốn, sẽ rất dễ gây ra nhiều thiệt hại với những mô hình này." **
Ngoài ra, Mustafa Suleyman, đồng sáng lập DeepMind và CEO của Inflection AI, cũng đề cập đến những rủi ro của nguồn mở cách đây không lâu, ông chỉ ra rằng vấn đề mấu chốt của AI nguồn mở là “sự khuếch tán quyền lực nhanh chóng” sẽ cho phép một cá nhân duy nhất gây ra tác hại chưa từng có cho thế giới và tác động, "Trong 20 năm tới, nguồn mở ngây thơ gần như chắc chắn sẽ gây ra thảm họa." **
Mustafa Suleiman, 图/DeepMind
Tuy nhiên, Meta rõ ràng không đồng ý với những tuyên bố này **Giám đốc điều hành Meta Zuckerberg phản bác rằng nguồn mở sẽ "dân chủ hóa AI, giúp cạnh tranh công bằng và thúc đẩy đổi mới cá nhân và doanh nghiệp." **Nhưng đồng thời, ông cũng cho biết mô hình nguồn mở có thể mang đến những nguy hiểm, nhưng Meta đang xây dựng công nghệ này một cách an toàn nhất có thể.
Khi AI gặp nguồn mở, đây vẫn là một câu hỏi mở.
Viết ở cuối
2104 năm trước, bảy năm sau cái chết của Hoàng đế Ngô nhà Hán, triều đình nhà Hán đã triệu tập một cuộc tham vấn chính sách chưa từng có, một trong những vấn đề chính là bãi bỏ và sửa đổi chính sách độc quyền về muối và rượu sắt của nhà nước được thực hiện dưới thời Hoàng đế. Vì mục đích này, ""Hơn sáu mươi người có đức và có văn" cũng như các quan chức chính phủ như Sang Hongyang, người kiểm duyệt triều đình, sau này được gọi là "Hội nghị Muối và Sắt". Tuy nhiên, Hội nghị Muối và Sắt này về cơ bản là thảo luận về phương hướng chính sách kinh tế của nhà Hán.
Mặc dù các chủ đề khác nhau và môi trường của thời đại cũng rất khác nhau,** cho dù đó là Hội nghị Muối và Sắt hơn 2.000 năm trước hay Diễn đàn Hiểu biết về Trí tuệ Nhân tạo hiện tại, tất cả chúng ta đều đang phải đối mặt với một vấn đề lớn và chúng tôi hy vọng sẽ giải quyết được vấn đề này. giao tiếp thông qua tranh luận “nhóm nhân tài” làm cơ sở cho việc xây dựng pháp luật. **
Hình ảnh/Google
Trong một bài viết gần đây kỷ niệm 25 năm thành lập Google, Giám đốc điều hành hiện tại của Google Sundar Pichai đã viết:
(Google) Tham gia cuộc tranh luận quan trọng về cách những công nghệ này sẽ định hình xã hội của chúng ta và sau đó cùng nhau hợp tác để tìm ra câu trả lời. Trí tuệ nhân tạo là một phần quan trọng của việc này. Mặc dù chúng tôi rất vui mừng về tiềm năng của AI trong việc mang lại lợi ích cho con người và xã hội,** chúng tôi biết rằng AI, giống như bất kỳ công nghệ giai đoạn đầu nào, đều đi kèm với sự phức tạp và rủi ro. Việc phát triển và sử dụng AI của chúng ta phải giải quyết những rủi ro này và giúp phát triển công nghệ một cách có trách nhiệm. **
Vài ngày sau, tám công ty, bao gồm Adobe, Cohere, IBM, NVIDIA, Palantir, Salesforce, Scal AI và Stability, trở thành nhóm công ty thứ hai ký thỏa thuận "phát triển công nghệ trí tuệ nhân tạo (AI) một cách có trách nhiệm". Nhiều khi, khi đối mặt với những vấn đề mà một cá nhân hay một công ty/chính phủ không thể giải quyết được, chúng ta phải nhận ra giá trị của “nỗ lực chung”.