"Công nghệ được điều khiển bởi những người lười biếng!"
Tôi tin rằng mọi người đã sử dụng câu này để bào chữa cho bản thân khi họ đang "câu cá" hoặc "nằm bẹp".
Từ cuộc cách mạng công nghiệp của động cơ hơi nước đến cuộc cách mạng kỹ thuật số của máy tính, sự tiến bộ của công nghệ thực sự đã làm cho con người ngày càng phẳng hơn ở một số khía cạnh.
Công nghệ AI, có tiềm năng nhất để trở thành nền tảng thế hệ tiếp theo, sẽ khiến con người trở nên "lười biếng"?
Có vẻ như có, nhưng đó không phải là tin tốt.
Theo một nghiên cứu mới được công bố trên tạp chí Frontiers in Robotics and Artificial Intelligence, con người thực sự "lười biếng" khi làm việc với AI và máy móc.
Theo Cymek, tác giả chính của nghiên cứu, "Làm việc theo nhóm có thể vừa là phước lành vừa là lời nguyền".
Vậy, trong thời đại AI, cuộc khủng hoảng lớn nhất đối với nhân loại không phải là bị thay thế bằng máy móc, mà là "lười thoái hóa"?
01 Trợ lý máy, để con người "mất cảnh giác"
Khi có một người trợ giúp đắc lực như một cỗ máy sẽ khiến con người trở nên "to gan" hơn.
Các nhà nghiên cứu tại Đại học Kỹ thuật Berlin ở Đức đã cung cấp cho 42 người tham gia hình ảnh mờ của bảng mạch và yêu cầu họ kiểm tra các khuyết tật. Một nửa số người tham gia được thông báo rằng bảng mạch mà họ đang xử lý đã được kiểm tra bởi một robot có tên là "Panda" và các khiếm khuyết đã được gắn cờ.
Thử nghiệm: Nhiệm vụ tìm kiếm trực quan để kiểm soát chất lượng bảng mạch mô phỏng |
Trên thực tế, robot "Panda" đã phát hiện 94,8% lỗi trong quá trình thử nghiệm. Tất cả những người tham gia được cung cấp cùng 320 hình ảnh của bảng mạch được quét và khi các nhà nghiên cứu xem xét kỹ hơn tỷ lệ lỗi của người tham gia, họ thấy rằng những người tham gia làm việc với "gấu trúc" có ít khiếm khuyết hơn sau này trong nhiệm vụ vì họ đã nhìn thấy "gấu trúc" đánh dấu thành công nhiều khiếm khuyết.
Cả hai nhóm người tham gia đã kiểm tra gần như toàn bộ bề mặt của bảng, dành thời gian tìm kiếm và tự đánh giá mức độ nỗ lực của họ cao hơn. Kết quả là, những người tham gia làm việc với robot đã tìm thấy trung bình 3,3 khiếm khuyết và những người hoàn thành nhiệm vụ một mình tìm thấy trung bình 4,23 khiếm khuyết.
Độ lệch trung bình và chuẩn của các khuyết tật được phát hiện bởi những người tham gia trong cả hai nhóm |
"Điều này cho thấy những người tham gia có thể ít chú ý hơn đến việc kiểm tra bảng khi làm việc với những người bạn robot của họ", nghiên cứu cho biết. Những người tham gia nghiên cứu của chúng tôi dường như đã duy trì nỗ lực của họ để kiểm tra các bảng mạch, nhưng có vẻ như việc kiểm tra được thực hiện với ít nỗ lực tinh thần và chú ý đến thông tin lấy mẫu.
Điều này có nghĩa là nếu họ được thông báo rằng robot đã kiểm tra một bộ phận và trải nghiệm độ tin cậy của robot, họ sẽ tìm thấy ít lỗi hơn. Trong tiềm thức, họ cho rằng "gấu trúc" ít có khả năng bỏ lỡ các khiếm khuyết, dẫn đến hiệu ứng "quán tính xã hội".
Ý nghĩa của nghiên cứu này đặc biệt quan trọng đối với các ngành công nghiệp dựa vào kiểm soát chất lượng nghiêm ngặt. Các tác giả cảnh báo rằng ngay cả một thời gian ngắn thư giãn sự chú ý của con người, có thể là do quá phụ thuộc vào độ chính xác của robot, có thể gây nguy hiểm cho sự an toàn.
Nhà nghiên cứu Onnasch đề cập, "Trong những ca làm việc dài hơn, sự mất động lực có xu hướng lớn hơn khi các nhiệm vụ trở thành thói quen và môi trường làm việc cung cấp ít giám sát và phản hồi hiệu suất hơn. Nó phổ biến trong ngành sản xuất, đặc biệt là trong các lĩnh vực liên quan đến an toàn, nơi kiểm tra kỹ là phổ biến, có thể có tác động tiêu cực đến kết quả công việc. "
Tất nhiên, có một số hạn chế đối với thử nghiệm của điều tra viên. Ví dụ, mẫu không đủ lớn và rất khó để mô phỏng "quán tính xã hội" trong phòng thí nghiệm vì những người tham gia biết rằng họ đang được theo dõi. Cymek giải thích: "Hạn chế chính là môi trường phòng thí nghiệm. Để hiểu được mức độ nghiêm trọng của vấn đề mất điện trong tương tác giữa người và máy, chúng ta cần ra khỏi phòng thí nghiệm và kiểm tra giả thuyết của mình trong môi trường làm việc thực tế với những công nhân có kinh nghiệm, những người thường làm việc với robot.
**02 "Cuộc khủng hoảng hợp tác giữa người và máy" đã xảy ra **
Trên thực tế, bên ngoài phòng thí nghiệm, sự "xuống cấp" do sự hợp tác giữa người và máy đã xuất hiện trong thế giới thực.
Trong lĩnh vực lái xe tự động, có một hiện tượng tương tự như quán tính xã hội, được gọi là "tự mãn tự động", thường bị phân tâm bởi sự hiện diện của hỗ trợ tự động.
Vào tháng 3 năm 2018, tại Arizona, Mỹ, một chiếc xe tự lái Uber với một nhân viên an toàn đã đâm và giết chết một người đi xe đạp. Phân tích của cảnh sát cho thấy nếu nhân viên an ninh nhìn đường, nhân viên an toàn có thể đã dừng lại 12,8 mét trước mặt nạn nhân và tránh được thảm kịch.
Tử vong do tự lái năm 2018 ở Mỹ |CNN
Tesla thường là mục tiêu của các phương tiện truyền thông và cơ quan quản lý ở Hoa Kỳ, thường là do các tai nạn liên quan đến xe tự lái. Một kịch bản điển hình là người lái xe Tesla ngủ trong khi sử dụng tính năng tự lái, hoặc chơi trò chơi và tham gia vào một vụ tai nạn xe hơi chết người.
Trong cơn sốt AI hiện nay, dự đoán rằng máy móc sẽ thay thế con người đang ngày càng tiến gần hơn đến thực tế. Một bên tin rằng máy móc sẽ phục vụ con người, trong khi bên kia tin rằng con người sẽ vô tình tạo ra thứ gì đó xấu xa.
Trong lĩnh vực y tế, hệ thống AI "Doctor Watson" của IBM đã đưa ra lời khuyên về thuốc không an toàn cho bệnh nhân ung thư. Năm nay, một bài báo chỉ ra rằng AI đã vượt qua ba phần của Kỳ thi cấp phép y tế của Hoa Kỳ. Một giả thuyết di cư tương tự là, nếu AI chẩn đoán và điều trị cho con người trong tương lai, và sau đó các bác sĩ của con người thực hiện kiểm tra, liệu các bác sĩ của con người có gặp vấn đề về "quán tính xã hội" và "tự mãn tự động" không?
Các tác giả của nghiên cứu lưu ý: "Kết hợp khả năng của con người và robot rõ ràng mang lại nhiều cơ hội, nhưng chúng ta cũng nên xem xét các hiệu ứng bầy đàn ngoài ý muốn có thể xảy ra trong các nhóm người-máy. Khi con người và robot làm việc trên một nhiệm vụ, điều này có thể dẫn đến mất động lực cho đồng đội của con người và làm cho các hiệu ứng như quán tính xã hội có nhiều khả năng xảy ra hơn.
Cũng có những lo ngại rằng AI có thể ảnh hưởng đến suy nghĩ và sự sáng tạo của con người, cũng như làm suy yếu các mối quan hệ của con người, làm xao lãng thực tế nói chung. Công ty khởi nghiệp ngôi sao AI của Thung lũng Silicon Inflection đã ra mắt chatbot Pi, được thiết kế để trở thành người bạn đồng hành thân thiện, hỗ trợ. Theo những người sáng lập, Pi là một công cụ giúp mọi người đối phó với sự cô đơn và có thể được sử dụng như một người để tâm sự. Các nhà phê bình cho rằng nó cho phép mọi người thoát khỏi thực tế hơn là tương tác với con người thực.
Giờ đây, mối quan hệ giữa con người và công cụ đã phát triển lên một tầm cao mới. Sự ra đời của tất cả các công cụ đã thực sự khiến con người lười biếng, chẳng hạn như máy quét rác cứu người dọn dẹp nhà cửa và điện thoại di động khiến mọi người không còn phải viết số điện thoại nữa.
Nhưng sự khác biệt giữa công nghệ AI và công nghệ trước đây là nhiều công việc tư duy và lựa chọn được trao cho AI, về cơ bản là một hộp đen, giống như một sự chuyển giao quyền tự chủ tư duy. Khi mọi người để quyết định lái xe hoàn toàn cho lái xe tự trị và chẩn đoán y tế cho các hệ thống AI, chi phí tiềm năng có thể hoàn toàn khác với chi phí không thể nhớ số điện thoại.
Joseph Wiesenbaum, nhà khoa học máy tính đã phát triển chatbot đầu tiên trong lịch sử, đã ví khoa học như "một loại thuốc gây nghiện" và đã trở thành "một chất độc mãn tính" do liều lượng ngày càng tăng, chẳng hạn như đưa máy tính vào các hoạt động phức tạp của con người và có thể không thể quay trở lại.
Khi con người trao sức mạnh suy nghĩ và phán đoán cho máy móc, như một loại "tài liệu tham khảo", ma quỷ của quán tính xã hội Hồi giáo và sự tự mãn tự động cũng có thể ẩn nấp trong đó, và có thể trở thành một chất độc mãn tính với sự lặp lại của các nhiệm vụ.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Ngươi quỳ ở đâu? Những nguy hiểm của con người và AI hợp tác là gì?
Nguồn gốc: Geek Park
Tác giả: Xinxin
"Công nghệ được điều khiển bởi những người lười biếng!"
Tôi tin rằng mọi người đã sử dụng câu này để bào chữa cho bản thân khi họ đang "câu cá" hoặc "nằm bẹp".
Từ cuộc cách mạng công nghiệp của động cơ hơi nước đến cuộc cách mạng kỹ thuật số của máy tính, sự tiến bộ của công nghệ thực sự đã làm cho con người ngày càng phẳng hơn ở một số khía cạnh.
Công nghệ AI, có tiềm năng nhất để trở thành nền tảng thế hệ tiếp theo, sẽ khiến con người trở nên "lười biếng"?
Có vẻ như có, nhưng đó không phải là tin tốt.
Theo một nghiên cứu mới được công bố trên tạp chí Frontiers in Robotics and Artificial Intelligence, con người thực sự "lười biếng" khi làm việc với AI và máy móc.
Theo Cymek, tác giả chính của nghiên cứu, "Làm việc theo nhóm có thể vừa là phước lành vừa là lời nguyền".
Vậy, trong thời đại AI, cuộc khủng hoảng lớn nhất đối với nhân loại không phải là bị thay thế bằng máy móc, mà là "lười thoái hóa"?
01 Trợ lý máy, để con người "mất cảnh giác"
Khi có một người trợ giúp đắc lực như một cỗ máy sẽ khiến con người trở nên "to gan" hơn.
Các nhà nghiên cứu tại Đại học Kỹ thuật Berlin ở Đức đã cung cấp cho 42 người tham gia hình ảnh mờ của bảng mạch và yêu cầu họ kiểm tra các khuyết tật. Một nửa số người tham gia được thông báo rằng bảng mạch mà họ đang xử lý đã được kiểm tra bởi một robot có tên là "Panda" và các khiếm khuyết đã được gắn cờ.
Trên thực tế, robot "Panda" đã phát hiện 94,8% lỗi trong quá trình thử nghiệm. Tất cả những người tham gia được cung cấp cùng 320 hình ảnh của bảng mạch được quét và khi các nhà nghiên cứu xem xét kỹ hơn tỷ lệ lỗi của người tham gia, họ thấy rằng những người tham gia làm việc với "gấu trúc" có ít khiếm khuyết hơn sau này trong nhiệm vụ vì họ đã nhìn thấy "gấu trúc" đánh dấu thành công nhiều khiếm khuyết.
Cả hai nhóm người tham gia đã kiểm tra gần như toàn bộ bề mặt của bảng, dành thời gian tìm kiếm và tự đánh giá mức độ nỗ lực của họ cao hơn. Kết quả là, những người tham gia làm việc với robot đã tìm thấy trung bình 3,3 khiếm khuyết và những người hoàn thành nhiệm vụ một mình tìm thấy trung bình 4,23 khiếm khuyết.
"Điều này cho thấy những người tham gia có thể ít chú ý hơn đến việc kiểm tra bảng khi làm việc với những người bạn robot của họ", nghiên cứu cho biết. Những người tham gia nghiên cứu của chúng tôi dường như đã duy trì nỗ lực của họ để kiểm tra các bảng mạch, nhưng có vẻ như việc kiểm tra được thực hiện với ít nỗ lực tinh thần và chú ý đến thông tin lấy mẫu.
Điều này có nghĩa là nếu họ được thông báo rằng robot đã kiểm tra một bộ phận và trải nghiệm độ tin cậy của robot, họ sẽ tìm thấy ít lỗi hơn. Trong tiềm thức, họ cho rằng "gấu trúc" ít có khả năng bỏ lỡ các khiếm khuyết, dẫn đến hiệu ứng "quán tính xã hội".
Ý nghĩa của nghiên cứu này đặc biệt quan trọng đối với các ngành công nghiệp dựa vào kiểm soát chất lượng nghiêm ngặt. Các tác giả cảnh báo rằng ngay cả một thời gian ngắn thư giãn sự chú ý của con người, có thể là do quá phụ thuộc vào độ chính xác của robot, có thể gây nguy hiểm cho sự an toàn.
Nhà nghiên cứu Onnasch đề cập, "Trong những ca làm việc dài hơn, sự mất động lực có xu hướng lớn hơn khi các nhiệm vụ trở thành thói quen và môi trường làm việc cung cấp ít giám sát và phản hồi hiệu suất hơn. Nó phổ biến trong ngành sản xuất, đặc biệt là trong các lĩnh vực liên quan đến an toàn, nơi kiểm tra kỹ là phổ biến, có thể có tác động tiêu cực đến kết quả công việc. "
Tất nhiên, có một số hạn chế đối với thử nghiệm của điều tra viên. Ví dụ, mẫu không đủ lớn và rất khó để mô phỏng "quán tính xã hội" trong phòng thí nghiệm vì những người tham gia biết rằng họ đang được theo dõi. Cymek giải thích: "Hạn chế chính là môi trường phòng thí nghiệm. Để hiểu được mức độ nghiêm trọng của vấn đề mất điện trong tương tác giữa người và máy, chúng ta cần ra khỏi phòng thí nghiệm và kiểm tra giả thuyết của mình trong môi trường làm việc thực tế với những công nhân có kinh nghiệm, những người thường làm việc với robot.
**02 "Cuộc khủng hoảng hợp tác giữa người và máy" đã xảy ra **
Trên thực tế, bên ngoài phòng thí nghiệm, sự "xuống cấp" do sự hợp tác giữa người và máy đã xuất hiện trong thế giới thực.
Trong lĩnh vực lái xe tự động, có một hiện tượng tương tự như quán tính xã hội, được gọi là "tự mãn tự động", thường bị phân tâm bởi sự hiện diện của hỗ trợ tự động.
Vào tháng 3 năm 2018, tại Arizona, Mỹ, một chiếc xe tự lái Uber với một nhân viên an toàn đã đâm và giết chết một người đi xe đạp. Phân tích của cảnh sát cho thấy nếu nhân viên an ninh nhìn đường, nhân viên an toàn có thể đã dừng lại 12,8 mét trước mặt nạn nhân và tránh được thảm kịch.
Tesla thường là mục tiêu của các phương tiện truyền thông và cơ quan quản lý ở Hoa Kỳ, thường là do các tai nạn liên quan đến xe tự lái. Một kịch bản điển hình là người lái xe Tesla ngủ trong khi sử dụng tính năng tự lái, hoặc chơi trò chơi và tham gia vào một vụ tai nạn xe hơi chết người.
Trong cơn sốt AI hiện nay, dự đoán rằng máy móc sẽ thay thế con người đang ngày càng tiến gần hơn đến thực tế. Một bên tin rằng máy móc sẽ phục vụ con người, trong khi bên kia tin rằng con người sẽ vô tình tạo ra thứ gì đó xấu xa.
Trong lĩnh vực y tế, hệ thống AI "Doctor Watson" của IBM đã đưa ra lời khuyên về thuốc không an toàn cho bệnh nhân ung thư. Năm nay, một bài báo chỉ ra rằng AI đã vượt qua ba phần của Kỳ thi cấp phép y tế của Hoa Kỳ. Một giả thuyết di cư tương tự là, nếu AI chẩn đoán và điều trị cho con người trong tương lai, và sau đó các bác sĩ của con người thực hiện kiểm tra, liệu các bác sĩ của con người có gặp vấn đề về "quán tính xã hội" và "tự mãn tự động" không?
Các tác giả của nghiên cứu lưu ý: "Kết hợp khả năng của con người và robot rõ ràng mang lại nhiều cơ hội, nhưng chúng ta cũng nên xem xét các hiệu ứng bầy đàn ngoài ý muốn có thể xảy ra trong các nhóm người-máy. Khi con người và robot làm việc trên một nhiệm vụ, điều này có thể dẫn đến mất động lực cho đồng đội của con người và làm cho các hiệu ứng như quán tính xã hội có nhiều khả năng xảy ra hơn.
Cũng có những lo ngại rằng AI có thể ảnh hưởng đến suy nghĩ và sự sáng tạo của con người, cũng như làm suy yếu các mối quan hệ của con người, làm xao lãng thực tế nói chung. Công ty khởi nghiệp ngôi sao AI của Thung lũng Silicon Inflection đã ra mắt chatbot Pi, được thiết kế để trở thành người bạn đồng hành thân thiện, hỗ trợ. Theo những người sáng lập, Pi là một công cụ giúp mọi người đối phó với sự cô đơn và có thể được sử dụng như một người để tâm sự. Các nhà phê bình cho rằng nó cho phép mọi người thoát khỏi thực tế hơn là tương tác với con người thực.
Giờ đây, mối quan hệ giữa con người và công cụ đã phát triển lên một tầm cao mới. Sự ra đời của tất cả các công cụ đã thực sự khiến con người lười biếng, chẳng hạn như máy quét rác cứu người dọn dẹp nhà cửa và điện thoại di động khiến mọi người không còn phải viết số điện thoại nữa.
Nhưng sự khác biệt giữa công nghệ AI và công nghệ trước đây là nhiều công việc tư duy và lựa chọn được trao cho AI, về cơ bản là một hộp đen, giống như một sự chuyển giao quyền tự chủ tư duy. Khi mọi người để quyết định lái xe hoàn toàn cho lái xe tự trị và chẩn đoán y tế cho các hệ thống AI, chi phí tiềm năng có thể hoàn toàn khác với chi phí không thể nhớ số điện thoại.
Joseph Wiesenbaum, nhà khoa học máy tính đã phát triển chatbot đầu tiên trong lịch sử, đã ví khoa học như "một loại thuốc gây nghiện" và đã trở thành "một chất độc mãn tính" do liều lượng ngày càng tăng, chẳng hạn như đưa máy tính vào các hoạt động phức tạp của con người và có thể không thể quay trở lại.
Khi con người trao sức mạnh suy nghĩ và phán đoán cho máy móc, như một loại "tài liệu tham khảo", ma quỷ của quán tính xã hội Hồi giáo và sự tự mãn tự động cũng có thể ẩn nấp trong đó, và có thể trở thành một chất độc mãn tính với sự lặp lại của các nhiệm vụ.