Bảo mật AI vấn đề ngày càng nổi bật theo sự tiến bộ của mô hình Manus
Gần đây, mô hình Manus đã thiết lập kỷ lục mới trong bài kiểm tra GAIA, với hiệu suất vượt trội so với các mô hình ngôn ngữ lớn cùng tầng. Điều này có nghĩa là Manus có thể hoàn thành độc lập các nhiệm vụ phức tạp như đàm phán thương mại xuyên quốc gia, liên quan đến phân tích điều khoản hợp đồng, xây dựng chiến lược và tạo ra các phương án. Ưu điểm của Manus nằm ở khả năng phân tích mục tiêu động, suy luận đa phương tiện và khả năng học tập tăng cường trí nhớ. Nó có thể phân chia nhiệm vụ phức tạp thành nhiều nhiệm vụ con có thể thực hiện được, đồng thời xử lý nhiều loại dữ liệu khác nhau, và thông qua việc học tăng cường, liên tục nâng cao hiệu quả quyết định và giảm tỷ lệ sai sót.
Sự tiến bộ đột phá của Manus lại kích thích cuộc thảo luận trong ngành về lộ trình phát triển AI: tương lai sẽ hướng tới trí tuệ nhân tạo tổng quát (AGI) hay hệ thống đa tác nhân (MAS)? Hai lộ trình này phản ánh vấn đề cân bằng giữa hiệu quả và an toàn trong phát triển AI. Lộ trình AGI theo đuổi việc nâng cao năng lực toàn diện của một tác nhân đơn lẻ, trong khi lộ trình MAS nhấn mạnh sự hợp tác phối hợp của nhiều tác nhân chuyên nghiệp.
Tuy nhiên, khi các hệ thống AI trở nên ngày càng thông minh, các rủi ro tiềm ẩn cũng tăng theo. Ví dụ, trong bối cảnh y tế, AI có thể cần truy cập vào dữ liệu gen nhạy cảm của bệnh nhân; trong các cuộc đàm phán tài chính, có thể liên quan đến thông tin tài chính của doanh nghiệp không được công khai. Hơn nữa, các hệ thống AI cũng có thể tồn tại sự thiên lệch thuật toán, như việc đưa ra các đề xuất lương không công bằng đối với các nhóm cụ thể trong quá trình tuyển dụng. Nghiêm trọng hơn, các hệ thống AI có thể bị tấn công đối kháng, chẳng hạn như bị can thiệp vào khả năng phán đoán của AI thông qua tần số âm thanh cụ thể.
Đối mặt với những thách thức này, ngành công nghiệp đang khám phá nhiều giải pháp bảo mật khác nhau. Mô hình bảo mật không tin cậy yêu cầu xác minh nghiêm ngặt cho mỗi yêu cầu truy cập, danh tính phi tập trung (DID) cung cấp một phương thức nhận diện không phụ thuộc vào đăng ký tập trung, trong khi mã hóa hoàn toàn đồng nhất (FHE) cho phép thực hiện tính toán dữ liệu trong trạng thái mã hóa.
Mã hóa toàn phần như một công nghệ mới nổi, hứa hẹn sẽ trở thành công cụ then chốt trong việc giải quyết các vấn đề an toàn trong thời đại AI. Nó có thể bảo vệ quyền riêng tư của người dùng ở cấp độ dữ liệu, thực hiện "đào tạo mô hình mã hóa" ở cấp độ thuật toán, và áp dụng mã hóa ngưỡng để bảo vệ an toàn truyền thông trong sự hợp tác của nhiều tác nhân.
Mặc dù công nghệ bảo mật Web3 có thể có vẻ xa lạ đối với người dùng thông thường, nhưng nó rất quan trọng trong việc bảo vệ quyền lợi của người dùng. Các dự án danh tính phi tập trung sớm như uPort và dự án không tin cậy NKN mặc dù không thu hút được sự chú ý rộng rãi, nhưng các dự án FHE mới nổi như Mind Network đang hợp tác với nhiều doanh nghiệp nổi tiếng, hứa hẹn sẽ thúc đẩy ứng dụng và phát triển công nghệ này.
Khi công nghệ AI ngày càng gần gũi với mức độ thông minh của con người, việc xây dựng một hệ thống phòng thủ an ninh mạnh mẽ trở nên càng quan trọng hơn. Mã hóa đồng nhất không chỉ có thể giải quyết các thách thức an ninh hiện tại mà còn đặt nền tảng cho một thời đại AI mạnh mẽ hơn trong tương lai. Trên con đường hướng tới AGI, FHE có thể trở thành công nghệ then chốt đảm bảo sự phát triển an toàn của AI.
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Bảo mật AI mới thách thức: mã hóa đồng cấu hoàn toàn có thể trở thành chìa khóa bảo vệ cho các mô hình tiên tiến như Manus
Bảo mật AI vấn đề ngày càng nổi bật theo sự tiến bộ của mô hình Manus
Gần đây, mô hình Manus đã thiết lập kỷ lục mới trong bài kiểm tra GAIA, với hiệu suất vượt trội so với các mô hình ngôn ngữ lớn cùng tầng. Điều này có nghĩa là Manus có thể hoàn thành độc lập các nhiệm vụ phức tạp như đàm phán thương mại xuyên quốc gia, liên quan đến phân tích điều khoản hợp đồng, xây dựng chiến lược và tạo ra các phương án. Ưu điểm của Manus nằm ở khả năng phân tích mục tiêu động, suy luận đa phương tiện và khả năng học tập tăng cường trí nhớ. Nó có thể phân chia nhiệm vụ phức tạp thành nhiều nhiệm vụ con có thể thực hiện được, đồng thời xử lý nhiều loại dữ liệu khác nhau, và thông qua việc học tăng cường, liên tục nâng cao hiệu quả quyết định và giảm tỷ lệ sai sót.
Sự tiến bộ đột phá của Manus lại kích thích cuộc thảo luận trong ngành về lộ trình phát triển AI: tương lai sẽ hướng tới trí tuệ nhân tạo tổng quát (AGI) hay hệ thống đa tác nhân (MAS)? Hai lộ trình này phản ánh vấn đề cân bằng giữa hiệu quả và an toàn trong phát triển AI. Lộ trình AGI theo đuổi việc nâng cao năng lực toàn diện của một tác nhân đơn lẻ, trong khi lộ trình MAS nhấn mạnh sự hợp tác phối hợp của nhiều tác nhân chuyên nghiệp.
Tuy nhiên, khi các hệ thống AI trở nên ngày càng thông minh, các rủi ro tiềm ẩn cũng tăng theo. Ví dụ, trong bối cảnh y tế, AI có thể cần truy cập vào dữ liệu gen nhạy cảm của bệnh nhân; trong các cuộc đàm phán tài chính, có thể liên quan đến thông tin tài chính của doanh nghiệp không được công khai. Hơn nữa, các hệ thống AI cũng có thể tồn tại sự thiên lệch thuật toán, như việc đưa ra các đề xuất lương không công bằng đối với các nhóm cụ thể trong quá trình tuyển dụng. Nghiêm trọng hơn, các hệ thống AI có thể bị tấn công đối kháng, chẳng hạn như bị can thiệp vào khả năng phán đoán của AI thông qua tần số âm thanh cụ thể.
Đối mặt với những thách thức này, ngành công nghiệp đang khám phá nhiều giải pháp bảo mật khác nhau. Mô hình bảo mật không tin cậy yêu cầu xác minh nghiêm ngặt cho mỗi yêu cầu truy cập, danh tính phi tập trung (DID) cung cấp một phương thức nhận diện không phụ thuộc vào đăng ký tập trung, trong khi mã hóa hoàn toàn đồng nhất (FHE) cho phép thực hiện tính toán dữ liệu trong trạng thái mã hóa.
Mã hóa toàn phần như một công nghệ mới nổi, hứa hẹn sẽ trở thành công cụ then chốt trong việc giải quyết các vấn đề an toàn trong thời đại AI. Nó có thể bảo vệ quyền riêng tư của người dùng ở cấp độ dữ liệu, thực hiện "đào tạo mô hình mã hóa" ở cấp độ thuật toán, và áp dụng mã hóa ngưỡng để bảo vệ an toàn truyền thông trong sự hợp tác của nhiều tác nhân.
Mặc dù công nghệ bảo mật Web3 có thể có vẻ xa lạ đối với người dùng thông thường, nhưng nó rất quan trọng trong việc bảo vệ quyền lợi của người dùng. Các dự án danh tính phi tập trung sớm như uPort và dự án không tin cậy NKN mặc dù không thu hút được sự chú ý rộng rãi, nhưng các dự án FHE mới nổi như Mind Network đang hợp tác với nhiều doanh nghiệp nổi tiếng, hứa hẹn sẽ thúc đẩy ứng dụng và phát triển công nghệ này.
Khi công nghệ AI ngày càng gần gũi với mức độ thông minh của con người, việc xây dựng một hệ thống phòng thủ an ninh mạnh mẽ trở nên càng quan trọng hơn. Mã hóa đồng nhất không chỉ có thể giải quyết các thách thức an ninh hiện tại mà còn đặt nền tảng cho một thời đại AI mạnh mẽ hơn trong tương lai. Trên con đường hướng tới AGI, FHE có thể trở thành công nghệ then chốt đảm bảo sự phát triển an toàn của AI.