ChatGPT loại bỏ công cụ phát hiện chính thức, thừa nhận rằng không thể xác định văn bản AI

Nguồn: "Qubit" (ID: QbitAI), tác giả: Mengchen

Không một lời thông báo, OpenAI lặng lẽ đóng cửa công cụ dò tìm văn bản AI, và trang trực tiếp 404.

Không có phản hồi chính thức nào về vấn đề này và phải mất vài ngày trước khi có người tìm thấy một mô tả ngắn ẩn trong trang blog của công cụ được phát hành nửa năm trước.

...Trình phát hiện AI không còn khả dụng do độ chính xác thấp... Chúng tôi đang nghiên cứu các kỹ thuật phát hiện văn bản hiệu quả hơn và cam kết phát triển các kỹ thuật phát hiện âm thanh và hình ảnh.

Nhiều cư dân mạng không hài lòng với hành vi CloseAIOpenAI giết sản phẩm mà không đưa ra thông báo.

Nhưng cũng có nhiều người đồng tình với việc tự tắt máy dò AI, đặc biệt là nhóm sinh viên.

Quá nhiều giáo viên tin rằng điều này có hiệu quả, và một số lượng lớn học sinh sai lầm đã gian lận bằng AI, điều này đã trở thành một cuộc săn lùng phù thủy **.

Tỷ lệ chính xác gần giống như đoán

Độ chính xác của công cụ kiểm tra chính thức này thấp đến mức nào?

Dữ liệu do chính OpenAI cung cấp chỉ có thể xác định chính xác 26% văn bản do AI tạo và 9% văn bản do con người viết sai.

Khi nó được phát hành lần đầu tiên vào tháng 1, nó đã được cư dân mạng tóm tắt là "gần giống như đoán".

Ngoài ra, một số người đã làm thí nghiệm và phát hiện ra rằng các công cụ phát hiện khác nhau trên thị trường sẽ phán đoán rằng các văn bản lịch sử như Kinh thánh và Hiến pháp Hoa Kỳ có thể được viết bởi AI.

Nhưng vẫn còn nhiều giáo viên cố gắng kiểm tra bài làm của học sinh bằng nhiều phương pháp phát hiện khác nhau.

Trong một trong những trường hợp nổi tiếng nhất, một giáo sư tại Đại học Texas A&M gần như đã đánh giá một nửa lớp học của mình là đi muộn.

Xu hướng mới nhất là giáo viên yêu cầu học sinh viết bài tập trong tài liệu trực tuyến và kiểm tra bản ghi chỉnh sửa, nhưng những học sinh thông minh cũng có thể tìm ra cách để tránh điều đó.

Cuối cùng, trong lĩnh vực giáo dục, một số người đã gợi ý rằng các bài tập lớn/bài báo khóa học có thể trở thành lịch sử, và các bài kiểm tra đóng hoặc kiểm tra vấn đáp sẽ trở thành xu hướng chủ đạo.

Các phương pháp phát hiện hiện tại có thể bị phá vỡ

Cư dân mạng chỉ ra rằng việc OpenAI phát triển các công cụ tạo và phát hiện cùng một lúc là mâu thuẫn.

Nếu một bên làm tốt, bên kia làm không tốt, và có thể xảy ra xung đột lợi ích.

Tuy nhiên, các phương pháp phát hiện do bên thứ ba phát triển không đáng tin cậy.

Cái được biết đến sớm nhất là "Kẻ thù của ChatGPT" là GPTZero được phát triển bởi Edward Tian, sinh viên đại học Princeton, sử dụng độ phức tạp và thay đổi về độ dài cũng như độ dài của câu để đo xem một bài báo có được tạo ra bởi AI hay không.

Vào thời điểm đó, dự án GPTZero được tạo ra đặc biệt dành cho các nhà giáo dục và giáo viên có thể ném bài tập về nhà của cả lớp vào đó để kiểm tra.

Nhưng đến tháng 7, tác giả thừa nhận đã từ bỏ hướng phát hiện gian lận của học sinh, dự kiến phiên bản tiếp theo của GPTZero sẽ không còn phát hiện văn bản có phải do AI tạo ra hay không mà làm nổi bật phần giống con người nhất.

Một phương pháp phát hiện khác đã nhận được nhiều sự chú ý là phương pháp đánh dấu chìm được phát triển bởi Đại học Maryland, phương pháp này yêu cầu các mô hình lớn ẩn các dấu khi tạo văn bản và sử dụng các phương pháp thống kê để xác định chúng.

Nhưng cách lách cũng rất đơn giản, chẳng hạn có người đã phát triển một công cụ thay thế từ đồng nghĩa đơn giản có thể phá hủy các tính năng thống kê.

Một số người thậm chí bắt đầu tự hỏi tại sao mọi người phải phân biệt điều này.

Cũng giống như những con số do con người tính toán hay do máy tính hoàn thành, lâu nay không ai quan tâm.

Không ai quan tâm liệu bản thảo của diễn giả được viết bởi chính anh ấy hay bởi thư ký?

Nghiên cứu hành vi con người, sử dụng AI làm chủ đề

Việc không có khả năng phân biệt giữa AI và nội dung của con người dường như không hoàn toàn xấu.

Hiện đã có những thí nghiệm tâm lý sử dụng AI thay vì con người để tăng tốc nghiên cứu.

Một bài báo trên tạp chí phụ Cell đã chỉ ra rằng trong các kịch bản thử nghiệm được thiết kế tốt, phản hồi của ChatGPT tương quan với phản hồi của khoảng 95% người tham gia.

Và các đối tượng máy không mệt mỏi, cho phép các nhà khoa học thu thập dữ liệu và kiểm tra các lý thuyết về hành vi của con người với tốc độ chưa từng thấy.

Trong một ý kiến gần đây trên tạp chí chính Khoa học, Igor Grossman, giáo sư tâm lý học tại Đại học Waterloo, tin rằng:

"AI có thể là nhân tố thay đổi cuộc chơi đối với nghiên cứu khoa học xã hội, nơi quản lý thiên vị cẩn thận và độ trung thực của dữ liệu là chìa khóa."

### Liên kết tham khảo

[1]

[2]

[3]

[4]

[5]

[6]