Lời hứa và tác hại của AI là những chủ đề nóng hiện nay. Một số người nói rằng trí tuệ nhân tạo sẽ cứu chúng ta, giúp chẩn đoán một số bệnh ác tính, thu hẹp khoảng cách kỹ thuật số trong giáo dục, v.v. Nhưng cũng có những lo ngại về mối đe dọa mà nó gây ra cho chiến tranh, an ninh, thông tin sai lệch và hơn thế nữa. Nó trở thành một trò tiêu khiển cho những người bình thường và gióng lên hồi chuông cảnh báo trong thế giới kinh doanh.
AI rất hữu ích, nhưng nó vẫn chưa thể làm im lặng tiếng ồn của một căn phòng đầy trò chuyện. Tuần này, các học giả, nhà quản lý, lãnh đạo chính phủ, công ty khởi nghiệp, công ty công nghệ lớn và hàng chục tổ chức phi lợi nhuận và phi lợi nhuận tập trung tại Anh để thảo luận và tranh luận về AI.
Tại sao lại là Vương quốc Anh? Tại sao bây giờ? **
Vào thứ Tư và thứ Năm, Vương quốc Anh sẽ tổ chức Hội nghị thượng đỉnh bảo mật AI tại Bletchley Park, lần đầu tiên thuộc loại này ở Anh.
Hội nghị thượng đỉnh đã được lên kế hoạch trong vài tháng để khám phá một số vấn đề và rủi ro dài hạn do AI gây ra. Các mục tiêu của hội nghị thượng đỉnh là lý tưởng, thay vì cụ thể: "sự hiểu biết chung về những rủi ro do AI biên giới gây ra và nhu cầu hành động", "một quá trình hướng tới tương lai cho hợp tác quốc tế về bảo mật AI biên giới, bao gồm cách tốt nhất để hỗ trợ các khuôn khổ quốc gia và quốc tế", "các tổ chức nên thực hiện các biện pháp thích hợp để cải thiện an ninh của AI biên giới", v.v.
Mong muốn cấp cao này cũng được phản ánh trong danh tính của những người tham gia: các quan chức chính phủ cấp cao, các nhà lãnh đạo ngành công nghiệp và các nhà tư tưởng nổi bật trong lĩnh vực này sẽ có mặt. (Theo các báo cáo mới nhất: Elon Musk, Tổng thống Biden, Justin Trudeau và Olaf Scholz, trong số những người khác, sẽ tham dự).
Hội nghị thượng đỉnh nghe có vẻ đặc biệt, và đó là: "tấm vé vàng" cho hội nghị thượng đỉnh (được mô tả bởi người sáng lập và tác giả công nghệ Azeem Azhar có trụ sở tại London) đang bị thiếu hụt. Được biết, hội nghị thượng đỉnh sẽ có quy mô nhỏ và hầu hết đã đóng cửa. Những sự kiện này bao gồm các cuộc đàm phán tại Hội Hoàng gia (Viện Hàn lâm Khoa học Quốc gia); Các hội nghị "AI Fringe" quy mô lớn ở nhiều thành phố và thông báo từ nhiều lực lượng đặc nhiệm, trong số những người khác.
Gina Neff, giám đốc điều hành của Trung tâm Công nghệ và Dân chủ Mindelow tại Đại học Cambridge, cho biết tại một cuộc thảo luận buổi tối về khoa học và an ninh tại Hiệp hội Hoàng gia tuần trước: "Chúng tôi sẽ đóng vai trò của hội nghị thượng đỉnh mà chúng tôi đã xử lý. Nói cách khác, một sự kiện ở Bletchley sẽ làm những gì nó phải làm, và những gì không nằm trong phạm vi của sự kiện sẽ là cơ hội để mọi người động não về các vấn đề khác. "
Cuộc thảo luận của Neff là một trường hợp điển hình: trong một hội trường chật cứng của Hiệp hội Hoàng gia, cô ngồi với đại diện của Tổ chức Theo dõi Nhân quyền, các quan chức nhà nước từ công đoàn lớn Unite, người sáng lập Viện Công nghệ Toàn cầu, một nhóm chuyên gia tư vấn tập trung vào các vấn đề công bằng công nghệ ở Nam bán cầu, người đứng đầu chính sách công tại công ty khởi nghiệp Stability AI và các nhà khoa học máy tính tại Đại học Cambridge.
Đồng thời, cái gọi là cuộc họp cạnh AI có thể nói chỉ là một "cạnh" danh nghĩa. Với Hội nghị thượng đỉnh Bletchley diễn ra tại cùng một địa điểm trong tuần, với danh sách khách mời rất hạn chế và cơ hội hạn chế không kém để tìm hiểu những gì đã được thảo luận, phiên AI Edge đã nhanh chóng được mở rộng sang Bletchley và bổ sung chương trình hội nghị. Sự kiện này được cho là không được tổ chức bởi chính phủ, mà bởi một công ty PR có tên Milltown Partners (đại diện cho các công ty như DeepMind, Stripe và công ty đầu tư mạo hiểm Atomico), và thật thú vị, nó kéo dài cả tuần, được tổ chức tại nhiều địa điểm trên cả nước và miễn phí cho những người có thể nhận được vé (nhiều sự kiện đã được bán hết), và nhiều phiên cũng có sẵn trên các dịch vụ phát trực tuyến.
Mặc dù có sự đa dạng, thật đáng buồn khi thấy rằng cuộc thảo luận về AI, mặc dù còn sơ khai, vẫn còn rất chia rẽ: một là cuộc họp của các cường quốc quyền lực (hầu hết chỉ dành cho khách mời) và một cuộc họp khác là cuộc họp của phần còn lại của chúng tôi.
Đầu ngày hôm nay, một nhóm gồm 100 công đoàn và các nhà hoạt động đã gửi thư cho thủ tướng nói rằng chính phủ đang "siết chặt" tiếng nói của họ trong cuộc trò chuyện bằng cách không cho phép họ tham gia vào Bletchley Park. (Họ có thể không nhận được vé, nhưng cách họ phản đối họ là hoàn toàn hợp lý: nhóm đã công khai nó bằng cách chia sẻ bức thư với các ấn phẩm kinh tế ưu tú nhất của đất nước, chẳng hạn như Financial Times).
Không chỉ những người bình thường đang bị bỏ rơi trong giá lạnh. Carissa Véliz, giảng viên Khoa Triết học tại Đại học Oxford, cho biết tại sự kiện AI Edge hôm nay: "Không ai trong số những người tôi biết được mời. "
Một số người tin rằng có những lợi ích để hợp lý hóa.
Nhà khoa học nghiên cứu trí tuệ nhân tạo Marius Hobbhahn là người đồng sáng lập và hiệu trưởng của Apollo Research, công ty đang phát triển các công cụ an toàn AI. Ông tin rằng một số lượng nhỏ người cũng có thể thu hút nhiều sự chú ý hơn: "Càng nhiều người trong phòng, càng khó đưa ra bất kỳ kết luận nào hoặc có một cuộc thảo luận hiệu quả", ông nói.
Theo nghĩa rộng hơn, hội nghị thượng đỉnh chỉ là một "viên gạch" và là một phần của cuộc trò chuyện rộng lớn hơn hiện đang được tiến hành. Tuần trước, Thủ tướng Anh Rishi Sunak cho biết ông dự định thành lập một viện an toàn AI mới và một mạng lưới nghiên cứu ở Anh để dành nhiều thời gian và công sức hơn để nghiên cứu tác động của AI; Một nhóm các học giả nổi tiếng, dẫn đầu bởi Yoshua Bengio và Geoffrey Hinton, đã cùng nhau lao vào lĩnh vực này với một bài báo có tiêu đề "Quản lý rủi ro AI trong kỷ nguyên tiến bộ nhanh chóng"; Liên Hợp Quốc cũng đã công bố thành lập lực lượng đặc nhiệm của riêng mình để khám phá tác động của trí tuệ nhân tạo. Mới đây, Tổng thống Mỹ Joe Biden cũng đã ban hành sắc lệnh hành pháp của riêng Mỹ để thiết lập các tiêu chuẩn an toàn AI.
"Rủi ro hiện hữu"
Một trong những cuộc tranh luận lớn nhất là liệu ý tưởng cho rằng AI gây ra "rủi ro tồn tại" có bị phóng đại, hoặc thậm chí cố ý để loại bỏ sự giám sát đối với hoạt động AI trực tiếp hơn hay không.
Matt Kelly, giáo sư toán học hệ thống tại Đại học Cambridge, chỉ ra rằng một trong những lĩnh vực được trích dẫn thường xuyên nhất là thông tin sai lệch.
"Thông tin sai lệch không phải là mới. Nó thậm chí không phải là một cái gì đó mới trong thế kỷ này hoặc thế kỷ trước", ông nói trong một cuộc phỏng vấn tuần trước. "Nhưng đây là một trong những lĩnh vực mà chúng tôi nghĩ rằng có những rủi ro tiềm ẩn đối với AI trong ngắn hạn và trung hạn. Và những rủi ro này phát triển chậm theo thời gian. Kelly, một thành viên của Hiệp hội Khoa học Hoàng gia, cho biết hiệp hội cũng đã tiến hành một cuộc tập trận nhóm đỏ và xanh đặc biệt cho thông tin sai lệch trong khoa học trong thời gian diễn ra hội nghị thượng đỉnh để xem các mô hình ngôn ngữ lớn sẽ hành xử như thế nào khi cố gắng cạnh tranh với nhau. Đó là một nỗ lực để hiểu rõ hơn về những rủi ro ngay bây giờ".
Chính phủ Anh dường như đang thực hiện một cách tiếp cận hai mặt cho cuộc tranh luận này, với mối nguy hiểm rõ ràng hơn tên của sự kiện mà họ đang tổ chức, Hội nghị thượng đỉnh bảo mật AI.
Trong bài phát biểu vào tuần trước, ông Sunak nói: "Ngay bây giờ, chúng tôi không có sự hiểu biết chung về những rủi ro mà chúng tôi phải đối mặt. "Nếu không có sự đồng thuận này, chúng ta không thể mong đợi cùng nhau giải quyết những rủi ro này." Đó là lý do tại sao chúng tôi sẽ thúc đẩy mạnh mẽ tuyên bố quốc tế đầu tiên về bản chất của những rủi ro này".
Nhưng khi thiết lập hội nghị thượng đỉnh, Vương quốc Anh lần đầu tiên định vị mình là người chơi trung tâm trong việc thiết lập chương trình nghị sự về "những gì chúng ta nói về khi chúng ta nói về AI", và nó chắc chắn có quan điểm kinh tế.
"Bằng cách đưa Vương quốc Anh trở thành quốc gia dẫn đầu toàn cầu về AI an toàn, chúng ta sẽ thu hút thêm nhiều việc làm và đầu tư mới từ làn sóng công nghệ mới này", ông Sunak lưu ý. (Bản ghi nhớ cũng đã được các bộ phận khác nhận được: Bộ trưởng Nội vụ hôm nay đã tổ chức một sự kiện với Internet Watch Foundation và một số công ty ứng dụng tiêu dùng lớn như TikTok và Snap để giải quyết sự gia tăng của hình ảnh lạm dụng tình dục do AI tạo ra).
Liên quan đến Big Tech dường như có thể giúp ích theo một cách, nhưng các nhà phê bình cũng có xu hướng coi đó là một vấn đề. "Nắm bắt quy định", nơi những người chơi quyền lực lớn hơn trong ngành thực hiện các bước chủ động để thảo luận và phát triển rủi ro và bảo vệ, là một chủ đề lớn khác trong thế giới AI mới dũng cảm, và hội nghị thượng đỉnh tuần này cũng không khác.
"Hãy cảnh giác với các nhà lãnh đạo AI, những người giơ tay lên và nói, 'tôi, tôi.'" Nigel Toon, Giám đốc điều hành của nhà sản xuất chip AI Graphcore, đã chỉ ra một cách sắc sảo trong một bài báo ông viết về hội nghị thượng đỉnh sắp tới trong tuần này: "Các chính phủ có thể sẽ bước vào và thực hiện lời nói của họ cho nó." (Tuy nhiên, anh ấy không hoàn toàn bên lề: anh ấy sẽ tự mình tham dự hội nghị thượng đỉnh.)
Đồng thời, nhiều người vẫn đang tranh luận liệu cái gọi là rủi ro tồn tại hiện tại có phải là một bài tập hữu ích trong tư duy hay không.
"Tôi nghĩ rằng những lời hoa mỹ về biên giới và trí tuệ nhân tạo đã khiến chúng ta rơi vào tình trạng sợ hãi công nghệ trong năm qua", Ben Brooks, người đứng đầu chính sách công tại Stability AI, cho biết tại một cuộc thảo luận tại Hiệp hội Hoàng gia, trích dẫn thí nghiệm tư duy "Paperclip Maxing" - nơi AI có thể phá hủy thế giới bằng cách tạo ra kẹp giấy mà không quan tâm đến nhu cầu hoặc sự an toàn của con người - như một ví dụ về cách tiếp cận hạn chế có chủ ý này. "Họ không nghĩ về hoàn cảnh mà AI có thể được triển khai. Nhưng bạn có thể phát triển nó một cách an toàn. Chúng tôi muốn mọi người được truyền cảm hứng từ điều này và nhận ra rằng AI có thể đạt được và an toàn để làm. "
Những người khác ít chắc chắn hơn.
Hobbhahn của Apollo Research cho biết: "Công bằng mà nói, tôi không nghĩ rủi ro tồn tại là chính xác. "Hãy gọi đó là rủi ro thảm khốc." Với tốc độ phát triển trong những năm gần đây, các ứng dụng AI tạo ra đã đưa các mô hình ngôn ngữ lớn vào dòng chính và ông tin rằng mối quan tâm lớn nhất sẽ vẫn là các tác nhân xấu sử dụng AI, thay vì chính AI trong một cuộc bạo loạn: sử dụng nó cho chiến tranh sinh học, tình hình an ninh quốc gia và thông tin sai lệch có thể thay đổi quá trình dân chủ. Tất cả những điều này, ông nói, là những lĩnh vực mà ông tin rằng AI có khả năng đóng một vai trò thảm khốc.
"Những người đoạt giải Turing công khai quan tâm đến sự sống còn và rủi ro thảm khốc... Chúng ta thực sự nên suy nghĩ về điều đó", ông nói thêm.
Triển vọng kinh doanh
Trong khi có những rủi ro nghiêm trọng, Vương quốc Anh cũng muốn biến đất nước này thành ngôi nhà tự nhiên cho các công ty AI bằng cách tổ chức các cuộc trò chuyện lớn về AI. Tuy nhiên, một số nhà phân tích tin rằng con đường đầu tư vào AI có thể không suôn sẻ như một số người dự đoán.
"Tôi nghĩ rằng thực tế đang bắt đầu xuất hiện rằng các doanh nghiệp đang bắt đầu hiểu họ cần bao nhiêu thời gian và tiền bạc để phân bổ cho các dự án AI tạo ra để có được kết quả đầu ra đáng tin cậy thực sự có thể tăng năng suất và doanh thu", Avivah Litan, phó chủ tịch công ty phân tích tại Gartner cho biết. "Mặc dù họ thực hiện các điều chỉnh lặp đi lặp lại và kỹ thuật trong dự án, họ vẫn cần giám sát thủ công các hoạt động và đầu ra. Nói tóm lại, đầu ra của GenAI không đủ tin cậy và đòi hỏi nhiều tài nguyên để làm cho nó đáng tin cậy. Tất nhiên, mô hình đang được cải thiện mọi lúc, nhưng đó là tình trạng hiện tại của thị trường. Tuy nhiên, đồng thời, chúng tôi thấy ngày càng có nhiều dự án bước vào giai đoạn sản xuất. "
Bà tin rằng đầu tư AI "chắc chắn sẽ làm chậm sự tăng trưởng của các doanh nghiệp và tổ chức chính phủ sử dụng AI". Các nhà cung cấp đang đẩy mạnh các ứng dụng và sản phẩm AI của họ, nhưng các doanh nghiệp không thể áp dụng chúng nhanh như khi chúng được thúc đẩy. Ngoài ra, có nhiều rủi ro liên quan đến các ứng dụng GenAI, chẳng hạn như dân chủ hóa việc truy cập dễ dàng vào thông tin bí mật ngay cả trong một tổ chức. "
Cũng giống như "chuyển đổi số" là một khái niệm cháy chậm trong thực tế, chiến lược đầu tư AI của doanh nghiệp cũng cần nhiều thời gian hơn. "Phải mất thời gian để các doanh nghiệp khóa các bộ dữ liệu có cấu trúc và phi cấu trúc của họ và đặt quyền một cách chính xác và hiệu quả. Có quá nhiều chia sẻ quá mức trong doanh nghiệp mà không thực sự quan trọng cho đến lúc đó. Litan cho biết thêm, "Bây giờ, bất kỳ ai cũng có thể truy cập bất kỳ tệp nào mà người khác không được bảo vệ đầy đủ bằng cách sử dụng lệnh ngôn ngữ mẹ đẻ đơn giản, chẳng hạn như tiếng Anh." "
Thực tế là làm thế nào để cân bằng lợi ích thương mại của AI với các vấn đề an ninh và rủi ro mà Bletchley Park sẽ thảo luận nói lên rất nhiều về nhiệm vụ phía trước, nhưng cũng làm nổi bật sự căng thẳng của tình hình. Sau đó trong hội nghị, các nhà tổ chức của Bletchley đã làm việc để mở rộng cuộc thảo luận vượt ra ngoài các mối quan tâm an ninh cấp cao sang các lĩnh vực mà rủi ro thực sự có thể phát sinh, chẳng hạn như chăm sóc sức khỏe, mặc dù sự thay đổi này không được nêu chi tiết trong chương trình nghị sự hiện đang được công bố.
"Sẽ có một bàn tròn khoảng 100 chuyên gia, không hề nhỏ. Tôi là một nhà phê bình, nhưng nó không có vẻ là một ý tưởng tồi", Neff, giáo sư tại Đại học Cambridge nói. "Bây giờ, quy định toàn cầu sẽ là một chủ đề thảo luận? Hoàn toàn không. Liệu chúng ta có bình thường hóa quan hệ Đông-Tây? Có lẽ là không. Nhưng chúng tôi đang đến với hội nghị thượng đỉnh của chúng tôi. Tôi nghĩ rằng có thể có một số cơ hội rất thú vị vào thời điểm này. "
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Xem trước Hội nghị thượng đỉnh bảo mật AI của Vương quốc Anh: Tại sao bây giờ, Tại sao Vương quốc Anh
Từ: Ingrid Lunden
Nguồn: TechCrunch
Lời hứa và tác hại của AI là những chủ đề nóng hiện nay. Một số người nói rằng trí tuệ nhân tạo sẽ cứu chúng ta, giúp chẩn đoán một số bệnh ác tính, thu hẹp khoảng cách kỹ thuật số trong giáo dục, v.v. Nhưng cũng có những lo ngại về mối đe dọa mà nó gây ra cho chiến tranh, an ninh, thông tin sai lệch và hơn thế nữa. Nó trở thành một trò tiêu khiển cho những người bình thường và gióng lên hồi chuông cảnh báo trong thế giới kinh doanh.
AI rất hữu ích, nhưng nó vẫn chưa thể làm im lặng tiếng ồn của một căn phòng đầy trò chuyện. Tuần này, các học giả, nhà quản lý, lãnh đạo chính phủ, công ty khởi nghiệp, công ty công nghệ lớn và hàng chục tổ chức phi lợi nhuận và phi lợi nhuận tập trung tại Anh để thảo luận và tranh luận về AI.
Tại sao lại là Vương quốc Anh? Tại sao bây giờ? **
Vào thứ Tư và thứ Năm, Vương quốc Anh sẽ tổ chức Hội nghị thượng đỉnh bảo mật AI tại Bletchley Park, lần đầu tiên thuộc loại này ở Anh.
Hội nghị thượng đỉnh đã được lên kế hoạch trong vài tháng để khám phá một số vấn đề và rủi ro dài hạn do AI gây ra. Các mục tiêu của hội nghị thượng đỉnh là lý tưởng, thay vì cụ thể: "sự hiểu biết chung về những rủi ro do AI biên giới gây ra và nhu cầu hành động", "một quá trình hướng tới tương lai cho hợp tác quốc tế về bảo mật AI biên giới, bao gồm cách tốt nhất để hỗ trợ các khuôn khổ quốc gia và quốc tế", "các tổ chức nên thực hiện các biện pháp thích hợp để cải thiện an ninh của AI biên giới", v.v.
Mong muốn cấp cao này cũng được phản ánh trong danh tính của những người tham gia: các quan chức chính phủ cấp cao, các nhà lãnh đạo ngành công nghiệp và các nhà tư tưởng nổi bật trong lĩnh vực này sẽ có mặt. (Theo các báo cáo mới nhất: Elon Musk, Tổng thống Biden, Justin Trudeau và Olaf Scholz, trong số những người khác, sẽ tham dự).
Hội nghị thượng đỉnh nghe có vẻ đặc biệt, và đó là: "tấm vé vàng" cho hội nghị thượng đỉnh (được mô tả bởi người sáng lập và tác giả công nghệ Azeem Azhar có trụ sở tại London) đang bị thiếu hụt. Được biết, hội nghị thượng đỉnh sẽ có quy mô nhỏ và hầu hết đã đóng cửa. Những sự kiện này bao gồm các cuộc đàm phán tại Hội Hoàng gia (Viện Hàn lâm Khoa học Quốc gia); Các hội nghị "AI Fringe" quy mô lớn ở nhiều thành phố và thông báo từ nhiều lực lượng đặc nhiệm, trong số những người khác.
Gina Neff, giám đốc điều hành của Trung tâm Công nghệ và Dân chủ Mindelow tại Đại học Cambridge, cho biết tại một cuộc thảo luận buổi tối về khoa học và an ninh tại Hiệp hội Hoàng gia tuần trước: "Chúng tôi sẽ đóng vai trò của hội nghị thượng đỉnh mà chúng tôi đã xử lý. Nói cách khác, một sự kiện ở Bletchley sẽ làm những gì nó phải làm, và những gì không nằm trong phạm vi của sự kiện sẽ là cơ hội để mọi người động não về các vấn đề khác. "
Cuộc thảo luận của Neff là một trường hợp điển hình: trong một hội trường chật cứng của Hiệp hội Hoàng gia, cô ngồi với đại diện của Tổ chức Theo dõi Nhân quyền, các quan chức nhà nước từ công đoàn lớn Unite, người sáng lập Viện Công nghệ Toàn cầu, một nhóm chuyên gia tư vấn tập trung vào các vấn đề công bằng công nghệ ở Nam bán cầu, người đứng đầu chính sách công tại công ty khởi nghiệp Stability AI và các nhà khoa học máy tính tại Đại học Cambridge.
Đồng thời, cái gọi là cuộc họp cạnh AI có thể nói chỉ là một "cạnh" danh nghĩa. Với Hội nghị thượng đỉnh Bletchley diễn ra tại cùng một địa điểm trong tuần, với danh sách khách mời rất hạn chế và cơ hội hạn chế không kém để tìm hiểu những gì đã được thảo luận, phiên AI Edge đã nhanh chóng được mở rộng sang Bletchley và bổ sung chương trình hội nghị. Sự kiện này được cho là không được tổ chức bởi chính phủ, mà bởi một công ty PR có tên Milltown Partners (đại diện cho các công ty như DeepMind, Stripe và công ty đầu tư mạo hiểm Atomico), và thật thú vị, nó kéo dài cả tuần, được tổ chức tại nhiều địa điểm trên cả nước và miễn phí cho những người có thể nhận được vé (nhiều sự kiện đã được bán hết), và nhiều phiên cũng có sẵn trên các dịch vụ phát trực tuyến.
Mặc dù có sự đa dạng, thật đáng buồn khi thấy rằng cuộc thảo luận về AI, mặc dù còn sơ khai, vẫn còn rất chia rẽ: một là cuộc họp của các cường quốc quyền lực (hầu hết chỉ dành cho khách mời) và một cuộc họp khác là cuộc họp của phần còn lại của chúng tôi.
Đầu ngày hôm nay, một nhóm gồm 100 công đoàn và các nhà hoạt động đã gửi thư cho thủ tướng nói rằng chính phủ đang "siết chặt" tiếng nói của họ trong cuộc trò chuyện bằng cách không cho phép họ tham gia vào Bletchley Park. (Họ có thể không nhận được vé, nhưng cách họ phản đối họ là hoàn toàn hợp lý: nhóm đã công khai nó bằng cách chia sẻ bức thư với các ấn phẩm kinh tế ưu tú nhất của đất nước, chẳng hạn như Financial Times).
Không chỉ những người bình thường đang bị bỏ rơi trong giá lạnh. Carissa Véliz, giảng viên Khoa Triết học tại Đại học Oxford, cho biết tại sự kiện AI Edge hôm nay: "Không ai trong số những người tôi biết được mời. "
Một số người tin rằng có những lợi ích để hợp lý hóa.
Nhà khoa học nghiên cứu trí tuệ nhân tạo Marius Hobbhahn là người đồng sáng lập và hiệu trưởng của Apollo Research, công ty đang phát triển các công cụ an toàn AI. Ông tin rằng một số lượng nhỏ người cũng có thể thu hút nhiều sự chú ý hơn: "Càng nhiều người trong phòng, càng khó đưa ra bất kỳ kết luận nào hoặc có một cuộc thảo luận hiệu quả", ông nói.
Theo nghĩa rộng hơn, hội nghị thượng đỉnh chỉ là một "viên gạch" và là một phần của cuộc trò chuyện rộng lớn hơn hiện đang được tiến hành. Tuần trước, Thủ tướng Anh Rishi Sunak cho biết ông dự định thành lập một viện an toàn AI mới và một mạng lưới nghiên cứu ở Anh để dành nhiều thời gian và công sức hơn để nghiên cứu tác động của AI; Một nhóm các học giả nổi tiếng, dẫn đầu bởi Yoshua Bengio và Geoffrey Hinton, đã cùng nhau lao vào lĩnh vực này với một bài báo có tiêu đề "Quản lý rủi ro AI trong kỷ nguyên tiến bộ nhanh chóng"; Liên Hợp Quốc cũng đã công bố thành lập lực lượng đặc nhiệm của riêng mình để khám phá tác động của trí tuệ nhân tạo. Mới đây, Tổng thống Mỹ Joe Biden cũng đã ban hành sắc lệnh hành pháp của riêng Mỹ để thiết lập các tiêu chuẩn an toàn AI.
"Rủi ro hiện hữu"
Một trong những cuộc tranh luận lớn nhất là liệu ý tưởng cho rằng AI gây ra "rủi ro tồn tại" có bị phóng đại, hoặc thậm chí cố ý để loại bỏ sự giám sát đối với hoạt động AI trực tiếp hơn hay không.
Matt Kelly, giáo sư toán học hệ thống tại Đại học Cambridge, chỉ ra rằng một trong những lĩnh vực được trích dẫn thường xuyên nhất là thông tin sai lệch.
"Thông tin sai lệch không phải là mới. Nó thậm chí không phải là một cái gì đó mới trong thế kỷ này hoặc thế kỷ trước", ông nói trong một cuộc phỏng vấn tuần trước. "Nhưng đây là một trong những lĩnh vực mà chúng tôi nghĩ rằng có những rủi ro tiềm ẩn đối với AI trong ngắn hạn và trung hạn. Và những rủi ro này phát triển chậm theo thời gian. Kelly, một thành viên của Hiệp hội Khoa học Hoàng gia, cho biết hiệp hội cũng đã tiến hành một cuộc tập trận nhóm đỏ và xanh đặc biệt cho thông tin sai lệch trong khoa học trong thời gian diễn ra hội nghị thượng đỉnh để xem các mô hình ngôn ngữ lớn sẽ hành xử như thế nào khi cố gắng cạnh tranh với nhau. Đó là một nỗ lực để hiểu rõ hơn về những rủi ro ngay bây giờ".
Chính phủ Anh dường như đang thực hiện một cách tiếp cận hai mặt cho cuộc tranh luận này, với mối nguy hiểm rõ ràng hơn tên của sự kiện mà họ đang tổ chức, Hội nghị thượng đỉnh bảo mật AI.
Trong bài phát biểu vào tuần trước, ông Sunak nói: "Ngay bây giờ, chúng tôi không có sự hiểu biết chung về những rủi ro mà chúng tôi phải đối mặt. "Nếu không có sự đồng thuận này, chúng ta không thể mong đợi cùng nhau giải quyết những rủi ro này." Đó là lý do tại sao chúng tôi sẽ thúc đẩy mạnh mẽ tuyên bố quốc tế đầu tiên về bản chất của những rủi ro này".
Nhưng khi thiết lập hội nghị thượng đỉnh, Vương quốc Anh lần đầu tiên định vị mình là người chơi trung tâm trong việc thiết lập chương trình nghị sự về "những gì chúng ta nói về khi chúng ta nói về AI", và nó chắc chắn có quan điểm kinh tế.
"Bằng cách đưa Vương quốc Anh trở thành quốc gia dẫn đầu toàn cầu về AI an toàn, chúng ta sẽ thu hút thêm nhiều việc làm và đầu tư mới từ làn sóng công nghệ mới này", ông Sunak lưu ý. (Bản ghi nhớ cũng đã được các bộ phận khác nhận được: Bộ trưởng Nội vụ hôm nay đã tổ chức một sự kiện với Internet Watch Foundation và một số công ty ứng dụng tiêu dùng lớn như TikTok và Snap để giải quyết sự gia tăng của hình ảnh lạm dụng tình dục do AI tạo ra).
Liên quan đến Big Tech dường như có thể giúp ích theo một cách, nhưng các nhà phê bình cũng có xu hướng coi đó là một vấn đề. "Nắm bắt quy định", nơi những người chơi quyền lực lớn hơn trong ngành thực hiện các bước chủ động để thảo luận và phát triển rủi ro và bảo vệ, là một chủ đề lớn khác trong thế giới AI mới dũng cảm, và hội nghị thượng đỉnh tuần này cũng không khác.
"Hãy cảnh giác với các nhà lãnh đạo AI, những người giơ tay lên và nói, 'tôi, tôi.'" Nigel Toon, Giám đốc điều hành của nhà sản xuất chip AI Graphcore, đã chỉ ra một cách sắc sảo trong một bài báo ông viết về hội nghị thượng đỉnh sắp tới trong tuần này: "Các chính phủ có thể sẽ bước vào và thực hiện lời nói của họ cho nó." (Tuy nhiên, anh ấy không hoàn toàn bên lề: anh ấy sẽ tự mình tham dự hội nghị thượng đỉnh.)
Đồng thời, nhiều người vẫn đang tranh luận liệu cái gọi là rủi ro tồn tại hiện tại có phải là một bài tập hữu ích trong tư duy hay không.
"Tôi nghĩ rằng những lời hoa mỹ về biên giới và trí tuệ nhân tạo đã khiến chúng ta rơi vào tình trạng sợ hãi công nghệ trong năm qua", Ben Brooks, người đứng đầu chính sách công tại Stability AI, cho biết tại một cuộc thảo luận tại Hiệp hội Hoàng gia, trích dẫn thí nghiệm tư duy "Paperclip Maxing" - nơi AI có thể phá hủy thế giới bằng cách tạo ra kẹp giấy mà không quan tâm đến nhu cầu hoặc sự an toàn của con người - như một ví dụ về cách tiếp cận hạn chế có chủ ý này. "Họ không nghĩ về hoàn cảnh mà AI có thể được triển khai. Nhưng bạn có thể phát triển nó một cách an toàn. Chúng tôi muốn mọi người được truyền cảm hứng từ điều này và nhận ra rằng AI có thể đạt được và an toàn để làm. "
Những người khác ít chắc chắn hơn.
Hobbhahn của Apollo Research cho biết: "Công bằng mà nói, tôi không nghĩ rủi ro tồn tại là chính xác. "Hãy gọi đó là rủi ro thảm khốc." Với tốc độ phát triển trong những năm gần đây, các ứng dụng AI tạo ra đã đưa các mô hình ngôn ngữ lớn vào dòng chính và ông tin rằng mối quan tâm lớn nhất sẽ vẫn là các tác nhân xấu sử dụng AI, thay vì chính AI trong một cuộc bạo loạn: sử dụng nó cho chiến tranh sinh học, tình hình an ninh quốc gia và thông tin sai lệch có thể thay đổi quá trình dân chủ. Tất cả những điều này, ông nói, là những lĩnh vực mà ông tin rằng AI có khả năng đóng một vai trò thảm khốc.
"Những người đoạt giải Turing công khai quan tâm đến sự sống còn và rủi ro thảm khốc... Chúng ta thực sự nên suy nghĩ về điều đó", ông nói thêm.
Triển vọng kinh doanh
Trong khi có những rủi ro nghiêm trọng, Vương quốc Anh cũng muốn biến đất nước này thành ngôi nhà tự nhiên cho các công ty AI bằng cách tổ chức các cuộc trò chuyện lớn về AI. Tuy nhiên, một số nhà phân tích tin rằng con đường đầu tư vào AI có thể không suôn sẻ như một số người dự đoán.
"Tôi nghĩ rằng thực tế đang bắt đầu xuất hiện rằng các doanh nghiệp đang bắt đầu hiểu họ cần bao nhiêu thời gian và tiền bạc để phân bổ cho các dự án AI tạo ra để có được kết quả đầu ra đáng tin cậy thực sự có thể tăng năng suất và doanh thu", Avivah Litan, phó chủ tịch công ty phân tích tại Gartner cho biết. "Mặc dù họ thực hiện các điều chỉnh lặp đi lặp lại và kỹ thuật trong dự án, họ vẫn cần giám sát thủ công các hoạt động và đầu ra. Nói tóm lại, đầu ra của GenAI không đủ tin cậy và đòi hỏi nhiều tài nguyên để làm cho nó đáng tin cậy. Tất nhiên, mô hình đang được cải thiện mọi lúc, nhưng đó là tình trạng hiện tại của thị trường. Tuy nhiên, đồng thời, chúng tôi thấy ngày càng có nhiều dự án bước vào giai đoạn sản xuất. "
Bà tin rằng đầu tư AI "chắc chắn sẽ làm chậm sự tăng trưởng của các doanh nghiệp và tổ chức chính phủ sử dụng AI". Các nhà cung cấp đang đẩy mạnh các ứng dụng và sản phẩm AI của họ, nhưng các doanh nghiệp không thể áp dụng chúng nhanh như khi chúng được thúc đẩy. Ngoài ra, có nhiều rủi ro liên quan đến các ứng dụng GenAI, chẳng hạn như dân chủ hóa việc truy cập dễ dàng vào thông tin bí mật ngay cả trong một tổ chức. "
Cũng giống như "chuyển đổi số" là một khái niệm cháy chậm trong thực tế, chiến lược đầu tư AI của doanh nghiệp cũng cần nhiều thời gian hơn. "Phải mất thời gian để các doanh nghiệp khóa các bộ dữ liệu có cấu trúc và phi cấu trúc của họ và đặt quyền một cách chính xác và hiệu quả. Có quá nhiều chia sẻ quá mức trong doanh nghiệp mà không thực sự quan trọng cho đến lúc đó. Litan cho biết thêm, "Bây giờ, bất kỳ ai cũng có thể truy cập bất kỳ tệp nào mà người khác không được bảo vệ đầy đủ bằng cách sử dụng lệnh ngôn ngữ mẹ đẻ đơn giản, chẳng hạn như tiếng Anh." "
Thực tế là làm thế nào để cân bằng lợi ích thương mại của AI với các vấn đề an ninh và rủi ro mà Bletchley Park sẽ thảo luận nói lên rất nhiều về nhiệm vụ phía trước, nhưng cũng làm nổi bật sự căng thẳng của tình hình. Sau đó trong hội nghị, các nhà tổ chức của Bletchley đã làm việc để mở rộng cuộc thảo luận vượt ra ngoài các mối quan tâm an ninh cấp cao sang các lĩnh vực mà rủi ro thực sự có thể phát sinh, chẳng hạn như chăm sóc sức khỏe, mặc dù sự thay đổi này không được nêu chi tiết trong chương trình nghị sự hiện đang được công bố.
"Sẽ có một bàn tròn khoảng 100 chuyên gia, không hề nhỏ. Tôi là một nhà phê bình, nhưng nó không có vẻ là một ý tưởng tồi", Neff, giáo sư tại Đại học Cambridge nói. "Bây giờ, quy định toàn cầu sẽ là một chủ đề thảo luận? Hoàn toàn không. Liệu chúng ta có bình thường hóa quan hệ Đông-Tây? Có lẽ là không. Nhưng chúng tôi đang đến với hội nghị thượng đỉnh của chúng tôi. Tôi nghĩ rằng có thể có một số cơ hội rất thú vị vào thời điểm này. "