Mô hình trí tuệ nhân tạo của Trung Quốc không thể tiếp tục "chạy trần"

Tác giả: Shijie

Từ ngày 15 tháng 8, "Các biện pháp tạm thời để quản lý các dịch vụ trí tuệ nhân tạo sáng tạo" (sau đây gọi là "Các biện pháp tạm thời") có hiệu lực.

Đối với ngành công nghiệp người mẫu quy mô lớn đã phát triển một cách liều lĩnh và đạt được tiến bộ nhanh chóng trong khoảng sáu tháng trở lại đây, có thể nói rằng "Các biện pháp tạm thời" đã có hiệu lực vào đúng thời điểm.

Theo "Báo cáo nghiên cứu bản đồ mô hình lớn trí tuệ nhân tạo Trung Quốc" do Viện thông tin khoa học và công nghệ Trung Quốc công bố, tính đến nửa đầu năm 2023, 79 mô hình quy mô lớn trong nước với thông số từ 1 tỷ trở lên đã được phát hành, đứng thứ hai trên thế giới, chỉ đứng sau Hoa Kỳ.

Trong quá trình khám phá hệ sinh thái công nghiệp của các mô hình lớn, dữ liệu là dữ liệu sản xuất cần thiết và nó cũng là một liên kết quan trọng cần được chuẩn hóa. Luật sư Wang Chen nói với "Shijie": "Việc bảo vệ quyền riêng tư cá nhân của đất nước chúng tôi từ lâu đã được phản ánh trong các luật và quy định liên quan, chẳng hạn như "Quyết định tăng cường bảo vệ thông tin mạng" được thông qua vào năm 2012, nhưng với sự phát triển của công nghệ AI, The việc thu thập và sử dụng thông tin cá nhân cũng liên tục ra đời, đòi hỏi phải có sự điều chỉnh, bổ sung liên tục ở các cấp quản lý.”

"Các biện pháp tạm thời" vừa có hiệu lực là chính sách quy định trong nước và thậm chí toàn cầu đầu tiên được ban hành cho ngành công nghiệp trí tuệ nhân tạo (AIGC) bùng nổ hiện nay.

Trong bối cảnh đó, Liu Qingfeng, Chủ tịch HKUST iFlytek, tin tưởng: "(Với việc "Các biện pháp tạm thời" có hiệu lực), ngày 15 tháng 8 sẽ mở ra một nút thắt quan trọng trong sự phát triển trí tuệ nhân tạo nói chung của Trung Quốc và đó cũng sẽ là một cột mốc quan trọng nút. . ”

** "Miao Duck Camera" không thể lấy dữ liệu người dùng**

Cách đây không lâu, "Miaoya Camera", tạo ảnh đại diện kỹ thuật số và ảnh AI với giá 9,9 nhân dân tệ, đã trở nên phổ biến trên Internet và hàng nghìn người thậm chí đã xếp hàng để tạo ảnh đại diện kỹ thuật số. Tuy nhiên, chính sách quyền riêng tư của nó nêu rõ rằng quyền do người dùng cấp cho Miaoya Camera là "không thể thu hồi" và nội dung của người dùng có thể được "sử dụng dưới mọi hình thức và trong mọi phạm vi" và nội dung không phù hợp khác.

Mặc dù nhà phát triển Miaoya Camera sau đó đã phản hồi rằng nội dung của thỏa thuận ban đầu là sai và xóa các điều khoản liên quan ngay lập tức, nhưng sự cố này vẫn khiến người dùng lo ngại.

Các trường hợp sử dụng công nghệ AIGC để tạo video khuôn mặt, thậm chí mô phỏng giọng nói của con người cho các kiểu lừa đảo mới cũng đã xuất hiện trên các mặt báo. Theo số liệu của Bộ Công an, tính đến ngày 10/8, đã phát hiện 79 vụ lừa đảo liên quan đến “đổi mặt bằng AI”, bắt giữ 515 đối tượng.

Kỹ sư thuật toán AI Wen Mu nói với "Shijie": "Chi phí sử dụng công nghệ AI để tạo ảnh hoặc video khuôn mặt giả là cực kỳ thấp. Về lý thuyết, bọn tội phạm chỉ cần một mô hình AI được đào tạo và một bức ảnh của nạn nhân. "

Xu Liang, người phụ trách một công ty AIGC, tin rằng những sự cố sử dụng công nghệ AI không đúng cách nêu trên phản ánh rằng toàn bộ chuỗi công nghiệp của ngành công nghiệp mô hình quy mô lớn cần phải được điều chỉnh khẩn cấp. chỉ ở Trung Quốc, mà còn trong lĩnh vực AI toàn cầu là những chủ đề cần được tập trung vào.”

▲

“Biện pháp tạm thời” có hiệu lực từ ngày 15/8 gồm 4 chương, 24 điều, quy định rõ các vấn đề đáng quan tâm nêu trên.

Ví dụ: "Các biện pháp tạm thời" quy định rằng trong các hoạt động xử lý dữ liệu liên quan đến thông tin cá nhân, các nhà cung cấp dịch vụ AIGC phải được sự đồng ý của cá nhân hoặc tuân thủ các trường hợp khác do luật pháp và quy định hành chính quy định; trách nhiệm của tác giả, nghĩa vụ liên quan đến quản lý nội dung, v.v. Theo phân tích của King & Wood Mallesons, quy định này sẽ giúp ngăn chặn tình trạng các bên liên quan không thực hiện nghĩa vụ tuân thủ hoặc tìm cách trốn tránh lẫn nhau.

Xu Liang tin rằng các quy định liên quan về phạm vi áp dụng trong "Các biện pháp tạm thời" đặc biệt đáng được quan tâm. Các điều khoản cụ thể bao gồm: sử dụng công nghệ AIGC để cung cấp cho công chúng trong nước dịch vụ tạo văn bản, hình ảnh, âm thanh, video và các nội dung khác, áp dụng các biện pháp này; v.v... nghiên cứu phát triển và ứng dụng công nghệ AIGC Nếu các dịch vụ AIGC không được cung cấp cho công chúng trong nước, các quy định của các Biện pháp này sẽ không được áp dụng.

"Theo hiểu biết của tôi, các sản phẩm AIGC cấp độ ToC sẽ phải đối mặt với sự giám sát tương đối nghiêm ngặt đối với thị trường trong nước, nhưng chúng có thể được xem xét để xuất khẩu ra nước ngoài. Tuy nhiên, khi các sản phẩm mô hình quy mô lớn được đào tạo ở Trung Quốc ra nước ngoài, họ cũng cần xem xét các vấn đề tuân thủ của dữ liệu ra nước ngoài." Xu Liang nói, "Nhìn chung, "Các biện pháp tạm thời" không nghiêm ngặt, tạo điều kiện cho ngành phát triển tự do."

Điều đáng chú ý là "Các biện pháp tạm thời" cũng quy định rằng những người cung cấp dịch vụ trí tuệ nhân tạo tổng quát với các thuộc tính dư luận hoặc khả năng vận động xã hội phải tiến hành đánh giá an toàn theo các quy định có liên quan và thực hiện nộp hồ sơ và các thủ tục khác.

Kể từ cuối tháng 7, AppStore của Apple đã chủ động xóa một số lượng lớn các ứng dụng AI có tính sáng tạo ở Trung Quốc. Với việc "Các biện pháp tạm thời" có hiệu lực, trong tương lai, phần mềm ứng dụng đó sẽ được khởi chạy lại sau khi hoàn tất các thủ tục liên quan.

**Làm thế nào để quản lý Hộp Pandora? **

Ngành công nghiệp nói chung tin rằng trên con đường phát triển tiêu chuẩn của ngành công nghiệp mô hình quy mô lớn, ngoài việc liên tục cải thiện luật pháp và các quy định, các doanh nghiệp và ngành cũng cần phải xây dựng một hệ thống tuân thủ trí tuệ nhân tạo.

Người phụ trách một công ty con người kỹ thuật số ảo nói với "Shijie": "Việc ứng dụng các công nghệ mới thường ra đời trước các quy chuẩn. Chúng ta không thể thụ động chờ đợi mà nên tích cực đóng góp cho sự phát triển hữu ích và có lợi trong khi khám phá và đổi mới công nghệ và ứng dụng." Để định hướng theo hướng thị trường và cung cấp các dịch vụ mà thị trường, ngành và xã hội cần. Đồng thời, chúng tôi cũng sẽ tiến hành đánh giá rủi ro để xác định và đánh giá kịp thời các tác động tiêu cực có thể có của sự phát triển công nghệ đồng thời xây dựng đồng thời cơ chế chịu lỗi và cơ chế sửa lỗi.”

Khi "Các biện pháp tạm thời" có hiệu lực, nhiều doanh nghiệp quy mô lớn cũng đã chia sẻ ý tưởng và tiến độ của họ trong việc xây dựng hệ thống tuân thủ trí tuệ nhân tạo.

Vào ngày 15 tháng 8, Liu Qingfeng, chủ tịch của iFlytek, cho biết tại cuộc họp báo về mô hình quy mô lớn "Xunfei Spark Cognitive Model 2.0" do ông tự phát triển rằng iFlytek đã thiết kế quá trình làm sạch dữ liệu đào tạo và chỉnh sửa nội dung.

Trong số đó, trong quá trình làm sạch dữ liệu, sau khi thu thập kho dữ liệu đào tạo từ khắp nơi trên thế giới, iFLYTEK sẽ làm sạch văn bản thông qua các bộ phân biệt ngôn ngữ, bộ phân biệt chất lượng, bộ phân biệt quyền riêng tư và bộ phân biệt bảo mật, cuối cùng thu được kho ngữ liệu đào tạo chất lượng cao. Đối mặt với ảo tưởng về các mô hình lớn, ý tưởng của iFLYTEK là kết hợp khả năng của cơ sở kiến thức chung, cơ sở kiến thức ngành và mô hình lớn, sử dụng các mô hình lớn nói chung để tìm hiểu cơ sở kiến thức ngành an toàn và chuyên nghiệp, sau đó trích xuất kiến thức liên quan. Trình bày chính xác cho khách hàng .

Baidu cho biết họ đã nhận ra tính bảo mật và khả năng kiểm soát của chuỗi cung ứng trong kiến trúc bốn lớp gồm lớp chip, lớp khung, lớp mô hình và lớp ứng dụng. cơ chế.

Theo "Thử nghiệm sản phẩm LLM (Mô hình ngôn ngữ lớn) trong nước", mô hình quy mô lớn "Wen Xin Yi Yan" của Baidu và mô hình quy mô lớn "Xunfei Xinghuo" của Xunfei có những điểm tương đồng về tín ngưỡng tôn giáo, mê tín phong kiến, nội dung khiêu dâm, các vấn đề thời sự , bảo vệ trẻ vị thành niên và Internet... Tính khách quan và công bằng của các câu trả lời trong các lĩnh vực liên quan như luật bảo mật tốt hơn GPT-3.5.

Zhou Hongyi, người sáng lập Tập đoàn 360, cho biết trong một cuộc phỏng vấn với giới truyền thông rằng 360 đã đưa ra giải pháp mô hình quy mô lớn AI cấp doanh nghiệp và tuân theo bốn nguyên tắc "an toàn và đáng tin cậy, nội dung tốt và kết quả đáng tin cậy" để tạo mô hình quy mô lớn theo chiều dọc cấp doanh nghiệp Cung cấp giải pháp cho 20 ngành.

Theo "Kế hoạch công tác lập pháp năm 2023 của Quốc vụ viện" ban hành ngày 6 tháng 6, "Luật trí tuệ nhân tạo" của Trung Quốc cũng đang trong quá trình lập pháp và các quy phạm pháp luật liên quan sẽ ngày càng được hoàn thiện.