Hướng tới AI có trách nhiệm: Xu hướng và triển vọng quản trị AI ở Trung Quốc

Tác giả: Cao Jianfeng, Nghiên cứu viên cao cấp, Viện nghiên cứu Tencent

Nguồn hình ảnh: Được tạo bởi Unbounded AI

Thế kỷ 21 là kỷ nguyên của sự phát triển chiều sâu của số hóa, kết nối mạng và trí tuệ, trong đó trí tuệ nhân tạo (AI) với tư cách là công nghệ mũi nhọn đã thu hút nhiều sự quan tâm của mọi tầng lớp xã hội. Mười năm trở lại đây được coi là "thập kỷ vàng" của AI mà đại diện là deep learning. ** [1] Thông qua học sâu, công nghệ mạng thần kinh (Neural Networks) trong lĩnh vực AI mở ra sự phục hồi, mở ra “mùa xuân thứ ba” của sự phát triển nhanh chóng trong lĩnh vực AI. Trước đó, kể từ khi khái niệm "trí tuệ nhân tạo" được đề xuất tại Hội nghị Dartmouth năm 1956, lĩnh vực AI đã trải qua hai giai đoạn thăng trầm. Cụ thể, sự hội tụ và phát triển của nhiều yếu tố kỹ thuật như thuật toán học máy, dữ liệu lớn, điện toán đám mây, chip dành riêng cho AI, framework phần mềm mã nguồn mở đã thúc đẩy những bước tiến vượt bậc trong lĩnh vực AI. một công nghệ đa năng mới và là cơ sở thông minh của nền kinh tế - xã hội, được sử dụng rộng rãi trong các lĩnh vực khác nhau của nền kinh tế - xã hội, mang lại những sản phẩm và dịch vụ mới. Từ đề xuất thuật toán, nội dung do AI tạo ra (AIGC) và chatbot trong lĩnh vực Internet tiêu dùng, đến phương tiện không người lái trong lĩnh vực công nghiệp, phần mềm y tế AI, kiểm tra chất lượng AI và nhiều ứng dụng tiện ích khác trong các dịch vụ công cộng xã hội, AI có tác động rất lớn. giá trị to lớn của phát triển xã hội chất lượng cao tiếp tục được thể hiện. [2] Tóm lại, với tư cách là công nghệ chiến lược dẫn dắt vòng cách mạng công nghệ và chuyển đổi công nghiệp mới (cách mạng công nghiệp lần thứ tư), AI được kỳ vọng sẽ định hình lại nền kinh tế và xã hội loài người, đồng thời sẽ có tác động to lớn đến năng suất, việc làm, phân phối thu nhập, toàn cầu hóa, v.v.

**Trong bối cảnh này, AI đã trở thành tâm điểm mới của cạnh tranh quốc tế và các quốc gia trên thế giới đã đưa ra các chiến lược phát triển AI và các chính sách cụ thể để nắm bắt các cơ hội phát triển và tầm cao chỉ huy chiến lược. ** Tháng 7 năm 2017, Trung Quốc công bố "Kế hoạch phát triển trí tuệ nhân tạo thế hệ mới" và nâng AI lên thành chiến lược quốc gia; tháng 4 năm 2018, EU ban hành chiến lược AI, nhằm đưa EU trở thành trung tâm AI tầm cỡ thế giới và đảm bảo rằng AI hướng đến con người , đáng tin cậy; vào tháng 2 năm 2019, "Kế hoạch AI của Mỹ" đã được công bố, khởi động chiến lược AI, nhằm nâng cao vai trò lãnh đạo của Hoa Kỳ trong lĩnh vực AI; vào tháng 9 năm 2021, Vương quốc Anh đã ban hành một chiến lược AI, với hy vọng xây dựng Vương quốc Anh cho các siêu cường AI. Phân tích chiến lược AI của các quốc gia khác nhau, không khó để nhận thấy rằng cạnh tranh quốc tế trong lĩnh vực AI không chỉ liên quan đến đổi mới công nghệ và kinh tế công nghiệp mà còn liên quan đến các khía cạnh như quản trị AI. Với việc ứng dụng rộng rãi AI, nhiều vấn đề đạo đức khoa học và công nghệ do AI mang lại tiếp tục thu hút sự quan tâm lớn từ mọi tầng lớp xã hội, chẳng hạn như phân biệt thuật toán, kén thông tin, ra quyết định AI không công bằng, lạm dụng thông tin cá nhân và vi phạm quyền riêng tư, AI bảo mật, hộp đen thuật toán, Trách nhiệm, lạm dụng công nghệ (chẳng hạn như tiêu diệt dữ liệu lớn, gian lận AI và thông tin sai lệch tổng hợp), tác động đến công việc và việc làm, tác động về đạo đức và luân lý cũng như các thách thức rủi ro khác. [3] Do đó, cùng với sự phát triển và ứng dụng nhanh chóng của công nghệ AI trong mười năm qua, mọi tầng lớp xã hội trong và ngoài nước đã đồng thời thúc đẩy quản trị AI, khám phá nhiều biện pháp quản trị và cơ chế bảo đảm như luật pháp, khuôn khổ đạo đức, tiêu chuẩn và chứng nhận, và các phương pháp hay nhất trong ngành để hỗ trợ phát triển AI có trách nhiệm, đáng tin cậy và lấy con người làm trung tâm.

Dựa trên quan điểm quốc tế, bài viết này sắp xếp những tiến bộ quan trọng của Trung Quốc trong lĩnh vực quản trị AI trong mười năm qua, phân tích và tóm tắt các quy luật và xu hướng, đồng thời hướng tới sự phát triển trong tương lai. Trong tương lai gần, khi AI ngày càng có nhiều khả năng hơn, ứng dụng và tác động của nó sẽ ngày càng sâu rộng, do đó, AI có trách nhiệm (Responsible AI) sẽ ngày càng trở nên quan trọng hơn. Sự tiến bộ và triển khai AI có trách nhiệm không thể tách rời khỏi quản trị AI hợp lý và hiệu quả. Nói cách khác, thiết lập quản trị AI lành mạnh là cách duy nhất để tiến tới AI có trách nhiệm và đảm bảo sự phát triển của AI trong tương lai. Hy vọng rằng bài viết này sẽ hữu ích cho việc phát triển và triển khai liên tục quản trị AI trong tương lai.

Tám xu hướng quản trị AI

Chiến lược vĩ mô và chính sách triển khai được phát triển đồng thời để nâng cao năng lực cạnh tranh AI quốc gia

Kể từ khi "Các ý kiến hướng dẫn về việc thúc đẩy sự phát triển có trật tự và lành mạnh của Internet vạn vật" được ban hành vào tháng 2 năm 2013 đưa ra "sự phát triển thông minh về kinh tế và xã hội", AI đã lọt vào tầm nhìn của chiến lược vĩ mô quốc gia và trở thành một chủ đề quan trọng của các văn bản chính sách cấp cao nhất của quốc gia. Ví dụ, vào năm 2015, "Các ý kiến hướng dẫn về việc tích cực thúc đẩy hành động" Internet Plus "" lần đầu tiên đề xuất "nuôi dưỡng và phát triển các ngành công nghiệp trí tuệ nhân tạo mới nổi". Kể từ đó, quốc gia này ngày càng quan tâm nhiều hơn đến AI và tiếp tục triển khai phát triển AI ở cấp độ chiến lược để đảm bảo rằng các công nghệ cốt lõi có thể tự kiểm soát và thúc đẩy sự tự lực và tự chủ về công nghệ ở cấp độ cao. sự phụ thuộc (Bảng 1).

Chính sách đất đai cũng quan trọng không kém. AI là một tổ hợp của các công nghệ mới nổi và các ngành công nghiệp mới nổi, chỉ khi đổi mới công nghệ AI được chuyển đổi thành một hệ sinh thái công nghiệp bền vững và tích hợp sâu sắc với nền kinh tế thực, nó mới có thể phát huy hết vai trò mạnh mẽ như một động lực tăng trưởng mới. Về vấn đề này, mô hình thử nghiệm đầu tiên như khu vực thử nghiệm và khu vực thử nghiệm đóng một vai trò quan trọng. Bộ Khoa học và Công nghệ đã có thành tích đáng kể trong việc xây dựng các khu thí điểm đổi mới và phát triển trí tuệ nhân tạo, cả nước đã phê duyệt xây dựng 18 khu thí điểm đổi mới và phát triển trí tuệ nhân tạo thế hệ mới quốc gia, đã phát huy tốt vai trò chủ trương công cụ, mô hình ứng dụng, kinh nghiệm và thực tiễn. Kể từ năm 2019, Bộ Công nghiệp và Công nghệ thông tin đã phê duyệt việc xây dựng 11 khu thí điểm đổi mới và ứng dụng trí tuệ nhân tạo quốc gia để thúc đẩy sự hội nhập sâu rộng của AI và nền kinh tế thực; "Ý kiến định hướng về phát triển chất lượng", tập trung giải quyết các vấn đề của Ứng dụng AI và công nghiệp hóa, đồng thời sử dụng bộ ba "cơ sở dữ liệu + nền tảng sức mạnh tính toán + mở bối cảnh" để thúc đẩy sự tích hợp sâu rộng giữa AI và phát triển kinh tế, xã hội, đồng thời hỗ trợ tốt hơn cho sự phát triển chất lượng cao.

Với sự hỗ trợ liên tục của chiến lược vĩ mô quốc gia và các chính sách triển khai, đổi mới và khởi nghiệp trong lĩnh vực AI ở Trung Quốc đã tiếp tục hoạt động tích cực. trong đổi mới công nghệ, ứng dụng công nghiệp và quy mô tài năng trong lĩnh vực AI. . "Báo cáo Chỉ số Đổi mới Trí tuệ Nhân tạo Toàn cầu năm 2021" do Viện Thông tin Khoa học và Công nghệ Trung Quốc công bố cho thấy sự phát triển AI toàn cầu hiện nay thể hiện một mô hình tổng thể do Trung Quốc và Hoa Kỳ dẫn đầu và sự cạnh tranh khốc liệt giữa các nước lớn. [4] Sự phát triển AI của Trung Quốc đã đạt được những kết quả đáng kể, mức độ đổi mới AI đã bước vào hàng đầu thế giới và khoảng cách với Hoa Kỳ ngày càng được thu hẹp. Các trung tâm siêu máy tính, quy mô doanh nghiệp AI, số lượng đăng ký bằng sáng chế, xây dựng đội ngũ tài năng và sức mạnh nghiên cứu khoa học của Trung Quốc đều đang dẫn đầu thế giới. Trong tương lai, đóng góp của AI đối với tăng trưởng kinh tế và phát triển xã hội của Trung Quốc sẽ tiếp tục tăng lên. Một báo cáo nghiên cứu của PricewaterhouseCoopers dự đoán rằng trên toàn cầu, đến năm 2030, đóng góp của AI cho nền kinh tế toàn cầu sẽ đạt 15,7 nghìn tỷ đô la Mỹ và Trung Quốc sẽ thu được lợi ích kinh tế lớn nhất từ AI, đạt 7 nghìn tỷ đô la Mỹ, điều đó có nghĩa là AI sẽ thúc đẩy Tăng trưởng GDP của Trung Quốc khoảng 26,1%, tiếp theo là Hoa Kỳ và Bắc Mỹ, sẽ đạt 3,7 nghìn tỷ đô la Mỹ. [5]

Hệ thống đạo đức khoa học và công nghệ không ngừng được hoàn thiện và trở thành bảo chứng quan trọng cho sự đổi mới AI

Trong thời đại số, các công nghệ số mới nổi như AI có tính độc đáo và phức tạp khác hẳn các ứng dụng công nghệ trong thời đại công nghiệp. Chủ yếu thể hiện ở: (1) Khả năng kết nối rộng hơn, kết nối mạng và thu thập, xử lý dữ liệu phổ biến hơn; (2) Quyền tự chủ mạnh mẽ hơn, hệ thống AI thúc đẩy các sản phẩm và dịch vụ khác nhau hoạt động độc lập mà không cần sự can thiệp của con người; (3) Độ mờ đục sâu hơn, thuật toán đen hộp" của hệ thống AI khó hiểu và khó giải thích; [6] (4) Độ trung thực cao hơn, nội dung, dữ liệu và thế giới ảo do AI tạo ra và tổng hợp ngày càng gần với thực tế hơn. Do đó, các vấn đề xã hội và đạo đức có thể gây ra bởi việc áp dụng các công nghệ mới như AI ngày càng được đặc trưng bởi tính đột ngột, che giấu, quy mô và không thể đoán trước, đặt ra những thách thức mới đối với việc quản trị khoa học và công nghệ có đạo đức. Trong quá trình phát triển và ứng dụng AI, việc xem xét đồng thời hoặc thậm chí xem xét trước các vấn đề đạo đức khoa học và công nghệ ngày càng trở nên cần thiết và quan trọng hơn. [7] Việc điều chỉnh và hoàn thiện hệ thống đạo đức khoa học và công nghệ vì thế trở thành vấn đề quan trọng trong kỷ nguyên AI, cần chuyển từ chú trọng đạo đức con người sang chú trọng đạo đức kỹ thuật, thực hiện các ràng buộc đạo đức đối với tác nhân thông minh, xây dựng một trật tự xã hội kỹ thuật số thân thiện. [8] Hơn nữa, với sự cạnh tranh toàn cầu về khoa học và công nghệ ngày càng gay gắt, đạo đức khoa học và công nghệ không chỉ liên quan đến việc ngăn ngừa các rủi ro và thách thức an ninh công nghệ mà còn liên quan đến việc xây dựng năng lực cạnh tranh công nghệ quốc gia.

**Từ sau Đại hội Đảng Cộng sản Trung Quốc lần thứ 18, nhà nước ngày càng quan tâm hơn đến đạo đức khoa học và công nghệ, chỉ rõ đạo đức khoa học và công nghệ là tiêu chí giá trị mà hoạt động khoa học và công nghệ phải tuân theo , và đã đưa đạo đức khoa học và công nghệ vào thiết kế chính sách cấp cao nhất như một hỗ trợ và đảm bảo quan trọng cho đổi mới khoa học và công nghệ. ** "Quyết định của Ủy ban Trung ương Đảng Cộng sản Trung Quốc về việc tuân thủ và cải thiện hệ thống xã hội chủ nghĩa đặc sắc Trung Quốc và thúc đẩy hiện đại hóa hệ thống quản trị quốc gia và năng lực quản trị" và "Kế hoạch và đề cương dài hạn 5 năm lần thứ 14 -term Goals for 2035" đã triển khai cấp cao nhất về đạo đức khoa học và công nghệ, Cần phải cải thiện hệ thống quản trị đạo đức khoa học và công nghệ và cải thiện hệ thống đạo đức khoa học và công nghệ. Hiện nay, đất nước tiếp tục thiết lập và hoàn thiện hệ thống đạo đức khoa học và công nghệ, hình thành khái niệm văn hóa và cơ chế đảm bảo khoa học và công nghệ tốt. Nó chủ yếu được phản ánh trong ba khía cạnh sau:

**Thứ nhất, thành lập Ủy ban đạo đức khoa học và công nghệ quốc gia, có nhiệm vụ hướng dẫn, điều phối và thúc đẩy việc xây dựng hệ thống quản trị đạo đức khoa học và công nghệ quốc gia. ** Vào tháng 7 năm 2019, Cuộc họp lần thứ 9 của Ủy ban Cải cách sâu rộng toàn diện trung ương đã xem xét và thông qua "Kế hoạch thành lập Ủy ban đạo đức khoa học và công nghệ quốc gia", chính thức thành lập tổ chức quản lý đạo đức khoa học và công nghệ quốc gia của Trung Quốc. “Các ý kiến về Tăng cường Quản trị Đạo đức Khoa học và Công nghệ” ban hành vào tháng 3 năm 2022 đã làm rõ thêm trách nhiệm quản lý của Ủy ban Đạo đức Khoa học và Công nghệ Quốc gia.

**Thứ hai, ban hành các chính sách, quy định liên quan đến đạo đức khoa học và công nghệ để hỗ trợ việc thực hiện quản trị đạo đức khoa học và công nghệ. ** Một trong những điểm nổi bật của “Luật tiến bộ khoa học và công nghệ” sửa đổi tháng 12/2021 là bổ sung các quy định liên quan về đạo đức khoa học và công nghệ. và quản lý đạo đức công nghệ, rà soát đạo đức hoạt động khoa học và công nghệ, đồng thời làm rõ bản chất pháp lý và đạo đức của hoạt động nghiên cứu, phát triển và ứng dụng khoa học và công nghệ. "Các ý kiến về tăng cường quản trị khoa học và công nghệ có đạo đức" đưa ra các yêu cầu toàn diện hơn đối với quản trị khoa học và công nghệ có đạo đức, bao gồm sáu khía cạnh chính: yêu cầu chung, nguyên tắc, hệ thống, đảm bảo thể chế, đánh giá và giám sát, giáo dục và công khai, và đặt nền tảng cho việc thực hiện quản trị khoa học và công nghệ có đạo đức. Tiếp theo cũng sẽ xây dựng các quy định hỗ trợ như phương pháp rà soát đạo đức khoa học và công nghệ, danh mục hoạt động khoa học và công nghệ có rủi ro cao về đạo đức khoa học và công nghệ, các chuẩn mực đạo đức khoa học và công nghệ trong các lĩnh vực được phân công.

**Thứ ba, nhấn mạnh quản trị khoa học và công nghệ có đạo đức trong lĩnh vực AI. **Ủy ban chuyên nghiệp quản trị trí tuệ nhân tạo thế hệ mới quốc gia đã liên tiếp ban hành "Nguyên tắc quản trị trí tuệ nhân tạo thế hệ mới-Phát triển trí tuệ nhân tạo có trách nhiệm" và "Đạo đức trí tuệ nhân tạo thế hệ mới", đưa ra các hướng dẫn đạo đức để phát triển AI có trách nhiệm. "Luật bảo mật dữ liệu", "Quy định quản lý đề xuất thuật toán dịch vụ thông tin Internet", "Hướng dẫn ý kiến về việc tăng cường quản trị toàn diện các thuật toán dịch vụ thông tin Internet" và các luật và quy định khác đưa ra các yêu cầu đạo đức khoa học và công nghệ và các biện pháp quản lý dữ liệu và thuật toán các hoạt động. "Các ý kiến về tăng cường quản trị đạo đức khoa học và công nghệ" coi AI, khoa học đời sống và y học là ba lĩnh vực chính trong giai đoạn "Kế hoạch 5 năm lần thứ 14", yêu cầu xây dựng các quy tắc và hướng dẫn đạo đức khoa học và công nghệ đặc biệt, củng cố pháp luật về đạo đức khoa học và công nghệ, đồng thời yêu cầu các giám đốc điều hành ngành có liên quan Bộ đưa ra biện pháp giám sát đạo đức khoa học và công nghệ. Có thể thấy trước rằng quy định về đạo đức công nghệ trong lĩnh vực AI sẽ được tăng cường trong tương lai. Ngoài ra, luật pháp cấp địa phương như "Quy định thúc đẩy ngành trí tuệ nhân tạo Thâm Quyến" và "Quy định thúc đẩy phát triển ngành trí tuệ nhân tạo của Thượng Hải" đều coi quản trị đạo đức AI là một đảm bảo quan trọng để hỗ trợ sự phát triển lành mạnh của AI. ngành công nghiệp.

**Từ phân tích trên, có thể thấy rằng về mặt quản trị đạo đức khoa học và công nghệ AI, một xu hướng đáng kể là lấy trách nhiệm của chủ thể quản lý đạo đức khoa học và công nghệ làm điểm xuất phát chính, tương tự đến sự nhấn mạnh về trách nhiệm của chủ thể nền tảng trong việc giám sát nền tảng Internet. **Sự giám sát của chính phủ đối với nền tảng phần lớn đạt được thông qua việc thực hiện và xác định trách nhiệm chính của nền tảng. Pháp luật liên quan trong lĩnh vực Internet đã thiết lập một hệ thống nghĩa vụ nền tảng toàn diện trước, trong và sau sự kiện. Cơ quan giám sát đã ban hành "Hướng dẫn thực hiện trách nhiệm của chủ thể trên nền tảng Internet (Bản nháp để lấy ý kiến)" đã cố gắng tinh chỉnh trách nhiệm chủ thể của các loại nền tảng khác nhau. Quy định của chính phủ về AI cho thấy một ý tưởng tương tự. Các chính sách và quy định liên quan hiện hành cố gắng hoàn thiện trách nhiệm của các chủ thể quản lý đạo đức khoa học và công nghệ, yêu cầu các chủ thể đổi mới thành lập ủy ban đạo đức, tuân thủ các nguyên tắc cơ bản của đạo đức khoa học và công nghệ, tiến hành rà soát đạo đức khoa học và công nghệ, thực hiện khoa học và công nghệ giám sát rủi ro đạo đức, cảnh báo và đánh giá sớm, đào tạo đạo đức khoa học và công nghệ.

Ứng dụng thuật toán trong lĩnh vực Internet đã trở thành đối tượng giám sát chính của AI

Đề xuất thuật toán, ra quyết định tự động bằng thuật toán, tổng hợp sâu AI và các ứng dụng thuật toán khác trong lĩnh vực Internet đã trở thành trọng tâm giám sát của chính phủ trong lĩnh vực AI do các yếu tố như ứng dụng rộng rãi, sự chú ý cao của công chúng và liên tục nêu bật các vấn đề tiêu cực . Trong những năm gần đây, nhà nước đã ban hành một loạt các luật và quy định để điều chỉnh tích cực việc áp dụng các thuật toán trong lĩnh vực Internet. [9] "Ý kiến hướng dẫn về tăng cường quản lý toàn diện các thuật toán dịch vụ thông tin Internet" do Văn phòng thông tin Internet nhà nước và chín bộ khác ban hành đã đưa ra các yêu cầu quản lý tương đối toàn diện. hệ thống và một tiêu chuẩn sinh thái thuật toán sẽ dần được thiết lập. Ý kiến cũng nhấn mạnh việc tăng cường trách nhiệm của doanh nghiệp, bao gồm trách nhiệm bảo mật thuật toán và rà soát đạo đức khoa học và công nghệ.

Về đề xuất thuật toán, "Quy định về quản trị sinh thái nội dung thông tin mạng" đề xuất cải thiện sự can thiệp của con người và cơ chế tự lựa chọn của người dùng đối với công nghệ đề xuất thuật toán. "Quy định về quản lý đề xuất thuật toán cho dịch vụ thông tin Internet" có hiệu lực từ ngày 1 tháng 3 năm 2022, là đạo luật đầu tiên của Trung Quốc tập trung vào quản trị thuật toán. Một loạt các biện pháp quản lý như giám sát rủi ro bảo mật, đánh giá bảo mật thuật toán và quản lý hồ sơ thuật toán đã tăng cường hơn nữa trách nhiệm bảo mật thuật toán của các công ty nền tảng. Những người trong ngành coi đây là một dấu hiệu và gọi năm 2022 là năm đầu tiên của quy định về thuật toán.

Về mặt ra quyết định tự động theo thuật toán, "Luật bảo vệ thông tin cá nhân của Cộng hòa nhân dân Trung Hoa", "Luật thương mại điện tử của Cộng hòa nhân dân Trung Hoa", "Quy định tạm thời về dịch vụ quản lý du lịch trực tuyến" và các quy định khác có liên quan các quy định về phân biệt thuật toán, làm quen với dữ liệu lớn, v.v. Để điều chỉnh các hành vi ra quyết định thuật toán hợp pháp, các phương pháp điều chỉnh như cung cấp cho cá nhân quyền lựa chọn, thực hiện đánh giá tác động và cá nhân có thể yêu cầu giải thích và hưởng quyền từ chối được đề xuất để tốt hơn cân bằng giữa bảo vệ quyền cá nhân và hoạt động ứng dụng thương mại của thuật toán.

Về mặt tổng hợp sâu AI (chủ yếu đề cập đến việc sử dụng công nghệ AI để tạo và tổng hợp nội dung thông tin), pháp luật liên quan tích cực vạch ra ranh giới đỏ cho việc áp dụng công nghệ tổng hợp sâu AI và thúc đẩy ứng dụng tích cực của công nghệ, chẳng hạn như " Quy định quản lý dịch vụ thông tin âm thanh và video trên mạng", "Mạng Quy định về quản trị sinh thái nội dung thông tin, Quy định về quản lý dịch vụ thông tin Internet Đề xuất thuật toán, v.v. đều cấm sử dụng thuật toán tổng hợp sâu cho thông tin sai lệch và các hoạt động bất hợp pháp khác . "Quy định về quản lý tổng hợp sâu các dịch vụ thông tin Internet" được thông qua vào tháng 11 năm 2022 tóm tắt kinh nghiệm quản lý trước đây và điều chỉnh toàn diện việc áp dụng công nghệ tổng hợp sâu về trách nhiệm chính của các nhà cung cấp dịch vụ tổng hợp sâu và quản lý nội dung thông tin tổng hợp sâu nhận dạng. Các biện pháp bảo mật cần thiết như nhận dạng, phát hiện và nhận dạng cũng như truy xuất nguồn gốc nội dung đảm bảo rằng việc áp dụng công nghệ tổng hợp sâu là an toàn và đáng tin cậy, đồng thời thúc đẩy tốt hơn sự đổi mới và phát triển công nghệ cũng như các ứng dụng tích cực.

Nhìn chung, giám sát thuật toán trong lĩnh vực Internet nhấn mạnh đến nhiều mục đích như bảo mật và khả năng kiểm soát, bảo vệ quyền và lợi ích, công bằng và công bằng, công khai và minh bạch, ngăn chặn lạm dụng. các ứng dụng thuật toán rủi ro cao. Quy định phân loại và phân loại thuật toán tương tự như quy định về hệ thống AI trong Đạo luật trí tuệ nhân tạo của Liên minh Châu Âu. Trong bối cảnh đó, cộng đồng học thuật rất quan tâm đến nghiên cứu về quản trị thuật toán và đã đề xuất nhiều ý tưởng như giải thích thuật toán, đánh giá tác động của thuật toán và kiểm tra thuật toán. Trong tương lai, tất cả các tầng lớp xã hội cần tiếp tục khám phá và cải thiện các phương pháp và biện pháp quản trị giám sát thuật toán, để đảm bảo tốt hơn rằng việc áp dụng thuật toán ngày càng tốt hơn.

Sử dụng đổi mới quy định để thúc đẩy ứng dụng AI trong các lĩnh vực quy định mạnh truyền thống

Đối với các lĩnh vực pháp lý mạnh truyền thống như vận tải và chăm sóc y tế, vấn đề chính mà những thứ mới phải đối mặt như ô tô tự lái, máy bay không người lái (ô tô bay không người lái), phần mềm y tế AI, v.v. và các rào cản pháp lý. Những rào cản này không chỉ ảnh hưởng đến niềm tin của người tiêu dùng và công chúng vào công nghệ, mà còn làm nản lòng các nhà đổi mới và nhà đầu tư. Do đó, đổi mới quy định hiệu quả là chìa khóa cho sự phát triển và ứng dụng của những điều mới này. Lấy ô tô tự lái làm ví dụ, chỉ có thể đẩy nhanh ứng dụng thương mại của ô tô tự lái bằng cách đẩy nhanh cải cách khung pháp lý và quy định nhằm điều chỉnh ô tô truyền thống và người lái, sau đó thiết lập một khung pháp lý mới và hiệu quả.

Các nhà hoạch định chính sách của Trung Quốc đang tích cực đổi mới các phương pháp và phương tiện điều tiết, đồng thời hỗ trợ và thúc đẩy việc áp dụng những thứ AI mới thông qua "Hộp cát điều tiết" (Regulatory Sandbox, xem phần giới thiệu bên dưới), các dự án thí điểm và ứng dụng trình diễn. Trong lĩnh vực ô tô tự lái, nhà nước đã ban hành hàng loạt văn bản quy phạm pháp luật nhằm khuyến khích, hỗ trợ và điều tiết các hoạt động thử nghiệm trên đường và ứng dụng trình diễn ô tô tự lái, khám phá “hộp cát quy định” về tiêu chuẩn an toàn cho chính mình. - lái xe ô tô, và nâng cao tiêu chuẩn hóa xe ô tô tự lái, quy tắc ra vào đường để đảm bảo an toàn cho việc vận chuyển ô tô tự lái. Do chính sách điều tiết thuận lợi, những nơi như Bắc Kinh, Thượng Hải, Quảng Châu, Thâm Quyến lần lượt chiếm lĩnh cao nguyên phát triển, một số thành phố đã cấp giấy phép vận hành thử nghiệm cho ô tô tự lái không cần người lái và có thể vận hành có thu phí ; Thâm Quyến là thành phố đầu tiên trong cả nước ban hành " Quy định về quản lý phương tiện kết nối thông minh Thâm Quyến thiết lập khung pháp lý và quy định cho các ứng dụng thương mại. Trong lĩnh vực chăm sóc y tế AI, do phần mềm y tế AI có nhiều tính năng mới khác biệt so với các thiết bị y tế truyền thống, bao gồm khả năng tự chủ, khả năng học hỏi và tiến hóa, lặp lại liên tục, hộp đen thuật toán, tính không thể đoán trước, v.v. nên các thủ tục phê duyệt truyền thống gặp khó khăn. thích ứng hiệu quả với việc chăm sóc y tế bằng AI.Nhu cầu phát triển phần mềm. Để đạt được mục tiêu này, các cơ quan quản lý đang tích cực cải thiện quy trình khai báo và phê duyệt đăng ký cũng như thông số kỹ thuật quản lý sử dụng của các thiết bị y tế AI, đồng thời hỗ trợ ứng dụng lâm sàng cấp tốc của phần mềm y tế AI để chẩn đoán và điều trị phụ trợ như hình ảnh y tế thông minh; hiện tại, AI y tế phần mềm đã được phê duyệt ở Trung Quốc, chẳng hạn như phần mềm chẩn đoán bệnh tăng nhãn áp có sự hỗ trợ của AI của Tencent Miying và hệ thống chẩn đoán bệnh viêm phổi có sự hỗ trợ của AI đều đã được phê duyệt cho giấy chứng nhận đăng ký thiết bị y tế hạng ba ("ba loại chứng chỉ"). Trong tương lai, các cơ quan quản lý cần tiếp tục cải thiện và tối ưu hóa quy trình đăng ký, đăng ký và phê duyệt phần mềm y tế AI để các ứng dụng y tế AI có thể cải thiện tốt hơn sinh kế và phúc lợi của người dân.

Đẩy nhanh việc khám phá các quy tắc bảo vệ quyền sở hữu trí tuệ AI

Nội dung do AI tạo ra (AI-Generated Contents, viết tắt là AIGC) đã trở thành một biên giới mới của AI, đại diện cho hướng phát triển của AI trong tương lai [10] . Trong lĩnh vực Internet, AIGC là hình thức sản xuất nội dung sau PGC (sản xuất nội dung chuyên nghiệp) và UGC (sản xuất nội dung do người dùng), mang đến sự thay đổi lớn trong lĩnh vực sản xuất nội dung tự động. Hiện tại, công nghệ AIGC đã có thể sản xuất độc lập các dạng nội dung khác nhau, bao gồm văn bản, hình ảnh, âm thanh, video, nội dung 3D (đối tượng 3D, cảnh ảo 3D) v.v. Do đó, các quy tắc bảo vệ quyền sở hữu trí tuệ đối với công nghệ AIGC và các ứng dụng của nó đã trở thành những vấn đề quan trọng không thể tránh khỏi. công nghệ bị xâm phạm” đều là những vấn đề cấp bách cần giải quyết. [11] Một số học giả nước ngoài cho rằng cần thiết lập các quy tắc bảo vệ tài sản trí tuệ AI đặc biệt và các điều ước quốc tế, bởi vì công nghệ AI phá vỡ mô hình tồn tại rằng người sáng tạo và phát minh chỉ có thể là con người. [12]

Trong và ngoài nước, các quy tắc bảo vệ quyền sở hữu trí tuệ đối với nội dung do AI tạo ra đã được tích cực khám phá. Ở nước ngoài, Vương quốc Anh, Liên minh Châu Âu, Nhật Bản, Nam Phi, v.v. đang xem xét hoặc đã xây dựng các quy tắc bảo vệ tài sản trí tuệ AI đặc biệt, chẳng hạn như các điều khoản bảo vệ các tác phẩm do máy tính tạo ra trong "Đạo luật Bản quyền, Thiết kế và Bằng sáng chế" của Anh và "Chỉ thị về bản quyền thị trường kỹ thuật số duy nhất" của Liên minh châu Âu. "Các ngoại lệ về bản quyền khai thác văn bản và dữ liệu dựa trên công nghệ AI, v.v. Về bằng sáng chế, chính sách của Vương quốc Anh chỉ ra rằng do AI chưa đủ tiên tiến để phát minh và sáng tạo một cách độc lập nên hiện tại chưa cần sửa đổi luật bằng sáng chế, nhưng cần hết sức chú ý đến tiến bộ công nghệ và đánh giá AI. vấn đề bằng sáng chế một cách kịp thời.

Tại Trung Quốc, trong vụ kiện của Công ty Luật Điện ảnh Bắc Kinh chống lại vụ vi phạm bản quyền “Baijiahao” của Baidu, tòa án cho rằng chỉ những tác phẩm gốc do thể nhân tạo ra mới có thể được bảo vệ bản quyền, do đó từ chối bản quyền của các tác phẩm do AI tạo ra một cách trực tiếp và độc lập. ra rằng các quyền và lợi ích liên quan (chẳng hạn như quyền và lợi ích cạnh tranh) của nội dung do AI tạo ra có thể được bảo vệ thông qua luật cạnh tranh và các biện pháp khác. Trong trường hợp Công ty TNHH Hệ thống máy tính Tencent Thâm Quyến kiện Công ty TNHH Công nghệ Yingxun Thượng Hải vì vi phạm bản quyền và tranh chấp cạnh tranh không lành mạnh, tòa án, dựa trên thực tế về sự hợp tác giữa con người và máy tính trong lĩnh vực AI, chỉ ra rằng các tác phẩm được "tạo ra" về mặt kỹ thuật của phần mềm viết AI Dream writer chỉ là những sáng tạo. Là một mắt xích trong quá trình, hoạt động trí tuệ tổng thể được hình thành bởi sự phân công lao động nhiều nhóm và nhiều người do nguyên đơn chủ trì là mắt xích cốt lõi của việc tạo lập nên có thể xác định bài viết liên quan đến vụ án là tác phẩm pháp nhân do nguyên đơn đăng ký. Việc xác định trường hợp nhà văn Dream phù hợp hơn với sự phát triển hiện tại của công nghệ AIGC và các ứng dụng của nó, đồng thời có ý nghĩa tham khảo lớn để làm rõ thêm các quy tắc bảo vệ quyền sở hữu trí tuệ đối với nội dung do AI tạo ra thông qua luật pháp trong tương lai. Về mặt pháp lý, "Luật bản quyền của Cộng hòa Nhân dân Trung Hoa" mới được sửa đổi năm 2020 áp dụng phương pháp xác định tác phẩm mở. Trong khi làm rõ thành phần của tác phẩm và liệt kê các loại tác phẩm chính, nó cũng quy định việc trao đổi qua lại mở. các điều khoản, cung cấp AIGC và các công nghệ mới khác.Việc bảo vệ các đối tượng mới do các ứng dụng mang lại sẽ bảo lưu không gian thể chế.

Xây dựng tiêu chuẩn hóa là một phần quan trọng trong quản trị AI

** "Đề cương phát triển tiêu chuẩn hóa quốc gia" đã chỉ ra rằng tiêu chuẩn hóa đóng vai trò cơ bản và hàng đầu trong việc thúc đẩy hiện đại hóa hệ thống quản trị quốc gia và năng lực quản trị. Đối với lĩnh vực AI, tiêu chuẩn AI không chỉ là phương tiện quan trọng để hỗ trợ, thúc đẩy sự phát triển, tiến bộ và ứng dụng rộng rãi của AI (như tiêu chuẩn kỹ thuật), mà còn là phương thức hữu hiệu để thúc đẩy việc thực hiện quản trị AI (như quản trị tiêu chuẩn, tiêu chuẩn đạo đức), bởi vì các tiêu chuẩn quản trị AI Nó có thể đóng một vai trò quan trọng trong việc "thực hiện luật pháp và giám sát, cũng như kết nối thực hành kỹ thuật". Hơn nữa, các tiêu chuẩn trong lĩnh vực quản trị AI nhanh nhẹn, linh hoạt và dễ thích ứng hơn so với luật pháp và quy định. Do đó, các tiêu chuẩn quản trị AI đã trở thành một tầm cao chỉ huy trong sự phát triển của ngành công nghiệp và công nghệ AI, và cộng đồng quốc tế đã đề xuất các biện pháp thực hiện. **Các đại diện điển hình bao gồm tiêu chuẩn AI đáng tin cậy của Liên minh Châu Âu, quản lý rủi ro AI do Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST) dẫn đầu, nhận dạng phân biệt đối xử AI và các tiêu chuẩn quản trị khác, kế hoạch phát triển hệ sinh thái chứng nhận AI của Vương quốc Anh, tiêu chuẩn đạo đức AI của IEEE, v.v. . Về mặt triển khai, IEEE đã khởi động dự án chứng nhận đạo đức AI cho ngành; Vương quốc Anh hy vọng sẽ phát triển ngành chứng nhận AI hàng đầu thế giới trị giá hàng tỷ bảng Anh trong 5 năm và vượt qua các dịch vụ chứng nhận AI của bên thứ ba trung lập (bao gồm kiểm tra, đánh giá ảnh hưởng, chứng nhận) để đánh giá và truyền đạt độ tin cậy và tuân thủ của các hệ thống AI.

**Trung Quốc rất coi trọng việc xây dựng tiêu chuẩn hóa trong lĩnh vực AI, "Đề cương phát triển tiêu chuẩn hóa quốc gia" yêu cầu nghiên cứu tiêu chuẩn hóa trong lĩnh vực AI, thông tin lượng tử và công nghệ sinh học. **Trong những năm gần đây, mọi tầng lớp xã hội đã tiếp tục thúc đẩy việc tiêu chuẩn hóa các tiêu chuẩn quốc gia, tiêu chuẩn ngành, tiêu chuẩn địa phương và tiêu chuẩn nhóm trong lĩnh vực quản trị AI. Ví dụ, Ủy ban Quản lý Tiêu chuẩn hóa Quốc gia đã thành lập Nhóm Tổng hợp Tiêu chuẩn hóa Trí tuệ Nhân tạo Quốc gia và Ủy ban Kỹ thuật Tiêu chuẩn hóa Công nghệ Thông tin Quốc gia đã thành lập Tiểu ban Kỹ thuật Trí tuệ Nhân tạo, cả hai đều nhằm thúc đẩy việc xây dựng các tiêu chuẩn quốc gia trong lĩnh vực AI. . "Hướng dẫn xây dựng hệ thống tiêu chuẩn quốc gia về trí tuệ nhân tạo thế hệ mới" được ban hành vào tháng 7 năm 2020 làm rõ thiết kế cấp cao nhất trong lĩnh vực tiêu chuẩn AI. AI thiết lập một hệ thống tuân thủ nhằm thúc đẩy sự phát triển lành mạnh và bền vững của AI. Trong tương lai, các tiêu chuẩn liên quan đến quản trị AI cần được xây dựng và triển khai nhanh hơn để đảm bảo hơn cho đổi mới công nghệ và phát triển công nghiệp trong lĩnh vực AI.

Ngành tích cực khám phá các biện pháp kỷ luật tự giác để quản trị AI và thực hành khái niệm đổi mới có trách nhiệm và công nghệ vì mục đích tốt

**Quản trị AI hiệu quả cần có sự tham gia chung của nhiều chủ thể như chính phủ, doanh nghiệp, tổ chức ngành, nhóm học thuật, người dùng hoặc người tiêu dùng và công chúng. một phần quan trọng trong việc thực hiện khái niệm "đạo đức là trên hết". ** Lý do kêu gọi "đạo đức là trên hết" phần lớn là do trước sự phát triển nhanh chóng của AI, hiện tượng "lệch pháp luật" ngày càng nổi lên. Trong lĩnh vực AI, "đạo đức là trên hết" trước tiên được thể hiện trong việc quản lý kỷ luật tự giác về đạo đức công nghệ của các công ty công nghệ và các phương pháp hay nhất của các công ty hàng đầu thường có thể đóng vai trò dẫn dắt rất tốt, thúc đẩy thực hành đổi mới và công nghệ có trách nhiệm cho ý tưởng tốt trong toàn bộ ngành công nghiệp.

Ở cấp độ ngành, trong những năm gần đây, các tổ chức nghiên cứu và tổ chức ngành có liên quan đã đề xuất các nguyên tắc đạo đức AI và các quy ước tự kỷ luật, v.v., để cung cấp hướng dẫn đạo đức cho các hoạt động AI của các công ty. Các đại diện tiêu biểu về vấn đề này bao gồm "Công ước kỷ luật tự giác của ngành trí tuệ nhân tạo" và "Hướng dẫn vận hành AI đáng tin cậy" của Liên minh phát triển ngành trí tuệ nhân tạo Trung Quốc (AIIA), "Đồng thuận Bắc Kinh về trí tuệ nhân tạo" và "Đồng thuận trí tuệ nhân tạo" của Bắc Kinh. Viện nghiên cứu trí tuệ nhân tạo Zhiyuan. Tuyên bố trách nhiệm của ngành", "Hướng dẫn thực hành tiêu chuẩn an ninh mạng-Hướng dẫn phòng ngừa rủi ro bảo mật đạo đức trí tuệ nhân tạo" của Ủy ban tiêu chuẩn hóa an ninh thông tin quốc gia, v.v.

Ở cấp độ doanh nghiệp, các công ty công nghệ, với tư cách là cơ quan chính của đổi mới công nghệ AI và ứng dụng công nghiệp, gánh vác trách nhiệm quan trọng trong việc nghiên cứu, phát triển và ứng dụng AI một cách có trách nhiệm. Ở nước ngoài, các công ty công nghệ đã khám phá kinh nghiệm tương đối chín muồi và tích lũy được nhiều nguồn lực từ việc đề xuất các nguyên tắc đạo đức AI, thành lập các tổ chức quản trị đạo đức AI nội bộ, phát triển các công cụ quản lý và kỹ thuật, thậm chí cả các giải pháp AI có trách nhiệm thương mại. [13] . Trong những năm gần đây, các công ty công nghệ trong nước đã tích cực thực hiện các yêu cầu quy định và khám phá các biện pháp tự điều chỉnh có liên quan, chủ yếu bao gồm: công bố các nguyên tắc đạo đức AI, thành lập các tổ chức quản trị AI nội bộ (chẳng hạn như ủy ban đạo đức), tiến hành đánh giá đạo đức hoặc đánh giá rủi ro bảo mật cho các hoạt động AI và tiết lộ các thuật toán ra thế giới bên ngoài. Thông tin liên quan, thúc đẩy tính công khai và minh bạch của các thuật toán và khám phá các giải pháp kỹ thuật cho các vấn đề đạo đức của AI (chẳng hạn như các công cụ phát hiện và nhận dạng nội dung thông tin tổng hợp, các công cụ đánh giá quản trị AI và các giải pháp điện toán bảo mật như như học tập liên kết), v.v.

Cạnh tranh và hợp tác quản trị AI toàn cầu cùng tồn tại

** Cạnh tranh AI toàn cầu không chỉ là cạnh tranh giữa công nghệ và ngành, mà còn là cạnh tranh giữa các quy tắc và tiêu chuẩn quản trị. **Sự phát triển của nền kinh tế kỹ thuật số toàn cầu đang hình thành các quy tắc quốc tế mới cho AI và dữ liệu, chẳng hạn như luồng dữ liệu, khung quản trị AI, v.v. Trong những năm gần đây, hợp tác quản trị AI toàn cầu đã tiếp tục phát triển. Nguyên tắc AI của OECD/G20 năm 2019 là khung chính sách AI toàn cầu đầu tiên. Vào tháng 11 năm 2021, UNESCO của Liên hợp quốc đã thông qua thỏa thuận đạo đức AI đầu tiên trên thế giới "Khuyến nghị về đạo đức của trí tuệ nhân tạo" (Recommendation on the Ethics of Artificial Intelligence), hiện là khuôn khổ chính sách AI toàn cầu và được đồng thuận rộng rãi nhất. , đánh giá tác động đạo đức và các cơ chế khác để tăng cường quản trị đạo đức AI.

Đồng thời, Hoa Kỳ và Châu Âu đang đẩy nhanh các chính sách AI nhằm củng cố vai trò lãnh đạo của họ trong lĩnh vực chính sách AI và tác động đến các quy tắc và tiêu chuẩn quản trị AI toàn cầu. Ví dụ: Liên minh Châu Âu đang nghiên cứu một dự luật AI hài hòa, dự luật này dự kiến sẽ được thông qua vào năm 2023, sẽ thiết lập một lộ trình điều tiết toàn diện, dựa trên rủi ro cho AI. Nhiều chuyên gia dự đoán rằng, giống như tác động của luật bảo mật dữ liệu trước đây GPDR đối với ngành công nghệ toàn cầu, Đạo luật AI của EU sẽ mở rộng "Hiệu ứng Brussels" sang lĩnh vực AI, đây chính là điều mà EU hy vọng sẽ thiết lập quyền quản trị AI. cho thế giới thông qua tiêu chuẩn quy định. [14] Ngoài luật pháp về AI, Hội đồng Châu Âu vẫn đang chuẩn bị cho "Công ước AI quốc tế" đầu tiên trên thế giới. Giống như "Công ước về tội phạm mạng" và "Công ước về quyền riêng tư" trước đó, cả quốc gia thành viên và quốc gia không phải thành viên đều có thể tham gia và phê chuẩn AI trong tương lai quy ước. [15] Hoa Kỳ luôn dẫn đầu toàn cầu trong lĩnh vực AI về công nghệ và ngành, và trong những năm gần đây đã bắt đầu tích cực định hình lại vai trò lãnh đạo của mình trong lĩnh vực chính sách AI. Một trong những nhiệm vụ cốt lõi của Hội đồng Thương mại và Công nghệ Hoa Kỳ-EU được thành lập vào năm 2020 là thúc đẩy hợp tác Hoa Kỳ-EU về quản trị AI. [16] Tóm lại, cạnh tranh AI toàn cầu đang ngày càng nhấn mạnh đến cạnh tranh quyền lực mềm trong lĩnh vực chính sách và quản trị AI, có thể nói đây là sự thay đổi lớn trong cạnh tranh công nghệ trong thế kỷ 21.

Trong những năm gần đây, Trung Quốc rất coi trọng việc tham gia quản trị khoa học và công nghệ toàn cầu, tích cực đưa ra các đề xuất của riêng mình và cố gắng đạt được sự công nhận và đồng thuận nhiều hơn. Ví dụ, Trung Quốc đã đưa ra "Sáng kiến bảo mật dữ liệu toàn cầu", tiếp tục truyền năng lượng tích cực vào quản trị kỹ thuật số toàn cầu. Vào tháng 11 năm 2022, tại Hội nghị các quốc gia thành viên của Công ước Liên hợp quốc về một số loại vũ khí thông thường, Trung Quốc đã đệ trình một tài liệu về tăng cường quản trị đạo đức đối với trí tuệ nhân tạo và đưa ra các đề xuất như tuân thủ đạo đức trước tiên, tăng cường kỷ luật tự giác, sử dụng có trách nhiệm trí tuệ nhân tạo và khuyến khích hợp tác quốc tế.

** TRIỂN VỌNG BA ĐIỂM**

Nhiều chính sách và văn bản quy phạm như “Kế hoạch 5 năm lần thứ 14 và phác thảo các mục tiêu dài hạn đến năm 2035”, “Xây dựng Nhà nước pháp quyền ở Trung Quốc (2020-2025)”, “Các ý kiến về tăng cường quản trị theo đạo đức của Khoa học và Công nghệ" và các chính sách và văn bản quy phạm khác cho thấy quản trị AI tiếp tục trở thành một vấn đề chính trong quản trị khoa học và công nghệ. Các lĩnh vực cốt lõi của đạo đức công nghệ. Để tăng cường hơn nữa khả năng cạnh tranh toàn cầu của Trung Quốc trong lĩnh vực AI, Trung Quốc không chỉ cần chú ý hơn đến việc trau dồi công nghệ và sức mạnh cứng công nghiệp, mà còn cần tập trung vào việc định hình quyền lực mềm, đặc biệt là quyền được nói và lãnh đạo trong chính sách và quản trị AI. . Bởi vì quản trị AI đã trở thành một phần quan trọng trong khả năng cạnh tranh AI toàn cầu.

Nhìn lại quá khứ, Trung Quốc đã làm rõ tư tưởng giám sát và quản trị AI coi trọng phát triển và an ninh, song song với đổi mới và đạo đức, vừa hỗ trợ, thúc đẩy đổi mới và phát triển, vừa đảm bảo an toàn, tin cậy và có thể kiểm soát được của các ứng dụng công nghệ. Đối mặt với tương lai, chúng ta cần tận dụng tốt hơn những nỗ lực chung của chính phủ, các ngành/doanh nghiệp, viện nghiên cứu, tổ chức xã hội, người dùng/người tiêu dùng, công chúng, giới truyền thông và các bên liên quan khác để tiếp tục thúc đẩy sự phát triển lành mạnh của AI thực tiễn quản trị và làm cho AI mang lại lợi ích tốt hơn cho sự phát triển kinh tế và xã hội, cải thiện sinh kế và phúc lợi của người dân, đồng thời thúc đẩy khoa học và công nghệ lên một tầm cao mới.

Hơn nữa, "thập kỷ vàng" AI vừa qua đã mang đến cho con người những mô hình AI ngày càng mạnh mẽ và trong tương lai gần, AI sẽ chỉ trở nên mạnh mẽ hơn. Điều này có nghĩa là khi AI tương tác với hệ sinh thái xã hội, các tác động có thể có của nó đối với con người, xã hội và môi trường sẽ vượt xa bất kỳ công nghệ nào trước đó. Do đó, nhiệm vụ chính của quản trị AI là tiếp tục ủng hộ và thực hành khái niệm "AI có trách nhiệm"; Tạo ra giá trị cho các bên liên quan và nâng cao phúc lợi của họ, đồng thời ngăn chặn lạm dụng, lạm dụng và sử dụng sai mục đích. Tóm lại, quản trị AI hiệu quả cần thúc đẩy phát triển các thực hành AI có trách nhiệm và tạo ra AI đáng tin cậy (Trustworthy AI).

Tiếp tục cải thiện khuôn khổ pháp lý về dữ liệu và AI, đồng thời thúc đẩy hoạt động giám sát chính xác và linh hoạt

Sự phát triển lành mạnh và bền vững của AI một mặt không thể tách rời khỏi sự giám sát hợp lý và hiệu quả, mặt khác cần không ngừng nâng cao mức độ cung cấp, lưu thông và sử dụng dữ liệu trong lĩnh vực AI. Trên thực tế, một trong những vấn đề chính đối với việc phát triển và ứng dụng AI trong nhiều lĩnh vực như chăm sóc y tế, sản xuất và tài chính là vấn đề thu thập và sử dụng dữ liệu, bao gồm thu thập dữ liệu khó khăn, chất lượng dữ liệu kém và tiêu chuẩn dữ liệu không nhất quán. Do đó, sự phát triển hơn nữa của AI trong tương lai phụ thuộc phần lớn vào sự cải tiến liên tục của dữ liệu và khuôn khổ pháp lý về AI. "Kế hoạch quy định kỹ thuật số" của Vương quốc Anh đề xuất rằng quy định được thiết kế tốt có thể có tác động mạnh mẽ đến việc thúc đẩy phát triển và định hình một nền kinh tế và xã hội kỹ thuật số sôi động, nhưng quy định hạn chế hoặc được thiết kế kém có thể cản trở sự đổi mới. Các quy tắc phù hợp có thể giúp mọi người tin tưởng vào các sản phẩm và dịch vụ mà họ sử dụng, từ đó sẽ thúc đẩy sự phổ biến của các sản phẩm và dịch vụ cũng như mức tiêu thụ, đầu tư và đổi mới hơn nữa. [17] Điều này cũng đúng với AI.

** Một mặt, để quản trị AI, cần thúc đẩy tốt hơn việc giám sát chính xác và nhanh nhẹn. Điều này bao gồm: Đầu tiên, áp dụng các quy tắc khác nhau cho các sản phẩm, dịch vụ và ứng dụng AI khác nhau. **Bởi vì các ứng dụng AI hiện nay gần như phổ biến, rất khó để quy tắc một kích cỡ phù hợp với tất cả có thể thích ứng một cách hợp lý với các đặc điểm riêng của ứng dụng AI trong các ngành và lĩnh vực khác nhau cũng như tác động của chúng đối với các cá nhân và xã hội. Điều này đòi hỏi chúng tôi phải áp dụng khung chính sách quản trị AI dựa trên rủi ro. Ví dụ: cùng một công nghệ AI không chỉ có thể được sử dụng để phân tích và dự đoán các thuộc tính cá nhân và sở thích cá nhân của người dùng, đồng thời đẩy nội dung được cá nhân hóa mà còn hỗ trợ chẩn đoán và điều trị bệnh; Phân loại và tổ chức cũng có thể được sử dụng để xác định khối u ung thư. Các ứng dụng này có sự khác biệt lớn về mức độ rủi ro, tầm quan trọng của kết quả cũng như tác động cá nhân và xã hội. **Thứ hai, nó nhấn mạnh việc áp dụng giám sát phi tập trung và khác biệt trên cơ sở chấm điểm và phân loại các ứng dụng AI. **Giống như Internet, AI là một công nghệ rất rộng và có mục đích chung, không phù hợp và khó thực hiện giám sát thống nhất. Từ góc độ nước ngoài, hiện chỉ có Liên minh Châu Âu đang cố gắng thiết lập một khung pháp lý thống nhất và chung cho tất cả các ứng dụng AI (mô hình của EU), trong khi Vương quốc Anh và Hoa Kỳ nhấn mạnh sự giám sát phi tập trung đối với các ngành dựa trên các kịch bản ứng dụng và rủi ro ( mô hình Anh-Mỹ). Vương quốc Anh đề xuất tuân theo các nguyên tắc và áp dụng giám sát thúc đẩy đổi mới đối với các ứng dụng AI. [18] Hoa Kỳ luôn nhấn mạnh đường lối quản trị kết hợp giữa quy định của ngành và kỷ luật tự giác của ngành, chẳng hạn như "Bản kế hoạch chi tiết về quyền của AI" không chỉ đề xuất 5 nguyên tắc mà còn làm rõ ý tưởng về quy định phi tập trung do cơ quan quản lý ngành lãnh đạo và định hướng kịch bản ứng dụng. [19] Đối với Trung Quốc, luật pháp và giám sát AI trong quá khứ gần với mô hình Anh-Mỹ hơn, nghĩa là các quy tắc quản lý riêng biệt được xây dựng cho các ứng dụng AI khác nhau như dịch vụ đề xuất thuật toán, tổng hợp sâu và lái xe tự động. Mô hình quản lý phi tập trung và khác biệt này tuân thủ các nguyên tắc quản trị nhanh và có thể thích ứng tốt hơn với các đặc điểm phức tạp của sự phát triển và lặp lại nhanh chóng của công nghệ AI và các ứng dụng của nó. **Thứ ba, kêu gọi đổi mới liên tục hộp công cụ điều tiết và áp dụng các sáng kiến điều tiết đa dạng. Một là "hộp cát quy định" AI. ** Một trong những sáng kiến chính của Liên minh Châu Âu trong quy định về AI là "hộp cát quy định" AI được đề xuất. [20] Là một cách hiệu quả để hỗ trợ và thúc đẩy giao tiếp cũng như cộng tác giữa các cơ quan quản lý và các đối tượng đổi mới, "hộp cát quy định" có thể cung cấp một môi trường được kiểm soát để phát triển, thử nghiệm và xác minh các ứng dụng AI đổi mới tuân thủ. Các thông lệ tốt nhất và hướng dẫn thực hiện được tạo ra từ "hộp cát quy định" sẽ giúp các doanh nghiệp, đặc biệt là doanh nghiệp nhỏ, vừa và siêu nhỏ và các công ty mới thành lập thực hiện các quy định pháp lý. **Thứ hai là các dịch vụ xã hội quản trị AI, bao gồm các tiêu chuẩn quản trị AI, chứng nhận, thử nghiệm, đánh giá, kiểm toán, v.v. **Trong lĩnh vực an ninh mạng, các dịch vụ xã hội về an ninh mạng như chứng nhận an ninh mạng, thử nghiệm và đánh giá rủi ro là một cách quan trọng để thực hiện các yêu cầu quy định. Quản trị AI có thể học hỏi từ cách tiếp cận này. Hiện tại, Liên minh Châu Âu, Vương quốc Anh, Hoa Kỳ và IEEE đều đang thúc đẩy các dịch vụ xã hội quản trị AI. Ví dụ: IEEE đã đưa ra chứng nhận đạo đức AI cho ngành; [21] "Lộ trình thiết lập hệ sinh thái chứng nhận AI hiệu quả" do Vương quốc Anh ban hành hy vọng sẽ phát triển ngành chứng nhận AI hàng đầu thế giới, thông qua các dịch vụ chứng nhận AI của bên thứ ba trung lập (bao gồm đánh giá tác động, kiểm tra sai lệch và kiểm tra tuân thủ, chứng nhận, đánh giá tuân thủ) , thử nghiệm hiệu suất, v.v.) để đánh giá và truyền đạt độ tin cậy cũng như tính tuân thủ của các hệ thống AI. Vương quốc Anh tin rằng đây sẽ là một ngành công nghiệp mới trị giá hàng tỷ bảng Anh. [22] Trung Quốc cần đẩy nhanh việc thiết lập một hệ thống dịch vụ xã hội quản trị AI hợp lý, đồng thời đảm nhận và thực hiện tốt hơn các yêu cầu pháp lý và quy định ở thượng nguồn thông qua các dịch vụ quản trị AI ở hạ nguồn. Ngoài ra, các phương pháp quy định như hướng dẫn chính sách, bến cảng an toàn về trách nhiệm, dự án thí điểm, ứng dụng trình diễn và trách nhiệm giải trình sau sự kiện đều có thể đóng một vai trò quan trọng trong các tình huống ứng dụng khác nhau.

**Mặt khác, cần đẩy nhanh việc hoàn thiện khung pháp lý về lưu thông và sử dụng dữ liệu, tiếp tục nâng cao mức độ cung cấp dữ liệu trong lĩnh vực AI. **Đầu tiên là xây dựng khung pháp lý cho dữ liệu công cộng mở và chia sẻ ở cấp quốc gia, thống nhất chất lượng dữ liệu và tiêu chuẩn quản trị dữ liệu, và sử dụng tải xuống dữ liệu, giao diện API, điện toán riêng (học liên kết, điện toán đa bên an toàn, bảo mật và môi trường điện toán đáng tin cậy, v.v.), dữ liệu Các phương pháp quản lý và kỹ thuật đa dạng như Không gian dữ liệu để thúc đẩy chia sẻ mở tối đa dữ liệu công khai. Thứ hai là tích cực loại bỏ các trở ngại khác nhau đối với việc phát triển và ứng dụng công nghệ điện toán riêng tư và công nghệ dữ liệu tổng hợp. Hiện tại, trong việc lưu thông và sử dụng nhiều loại dữ liệu, các công nghệ điện toán riêng tư như học liên kết đang đóng vai trò ngày càng quan trọng và có thể đạt được các hiệu ứng như "dữ liệu có sẵn/đếm được và vô hình", "dữ liệu không thay đổi thuật toán/giá trị di chuyển”. Được thúc đẩy bởi sự phát triển của AI và các ứng dụng dữ liệu lớn, học tập liên kết, là phương pháp ứng dụng và quảng cáo chính trong lĩnh vực điện toán bảo mật, hiện là con đường kỹ thuật trưởng thành nhất. Trong bước tiếp theo, chúng tôi có thể hỗ trợ tốt hơn việc ứng dụng và phát triển các công nghệ điện toán bảo mật, chẳng hạn như học tập liên kết bằng cách xây dựng không gian dữ liệu trong các khu vực chiến lược, xây dựng các tiêu chuẩn ngành cho điện toán bảo mật và ban hành các hướng dẫn pháp lý để triển khai các công nghệ điện toán bảo mật.

Quản trị đạo đức AI cần chuyển từ nguyên tắc sang thực tiễn

Với sự phát triển thể chế hóa và luật hóa quản trị đạo đức khoa học và công nghệ, tăng cường quản trị đạo đức khoa học và công nghệ đã trở thành một trong những “câu hỏi bắt buộc” và “phải lựa chọn” đối với doanh nghiệp khoa học và công nghệ. Theo khái niệm "đạo đức là trên hết", các yêu cầu đối với quản trị khoa học và công nghệ có đạo đức có nghĩa là các công ty công nghệ không thể hy vọng giải quyết các vấn đề đạo đức AI theo cách các biện pháp khắc phục hậu quả mà cần phải tham gia vào toàn bộ quá trình. Vòng đời của AI từ thiết kế, phát triển đến triển khai, trong đó tích cực thực hiện trách nhiệm của cơ quan quản lý đạo đức khoa học và công nghệ chính, đồng thời thúc đẩy sáng tạo kỷ luật tự giác về đạo đức khoa học và công nghệ theo nhiều cách khác nhau. Nhìn chung, trong một xã hội công nghệ và kỹ thuật số cao, các công ty công nghệ cần xem xét việc kết hợp quản trị AI vào bối cảnh quản trị doanh nghiệp của họ như một mô-đun quan trọng như các mô-đun hiện có như pháp lý, tài chính và kiểm soát rủi ro. Các khía cạnh sau đây đáng được khám phá thêm:

**Đầu tiên, về mặt quản lý, cần thiết lập cơ chế quản lý rủi ro đạo đức AI. **Quản lý rủi ro đạo đức AI cần xuyên suốt toàn bộ vòng đời của AI, bao gồm giai đoạn tiền thiết kế, giai đoạn thiết kế và phát triển, giai đoạn triển khai cũng như các hoạt động thử nghiệm và đánh giá trong suốt các giai đoạn này, để xác định, phân tích, đánh giá một cách toàn diện , quản lý và điều chỉnh rủi ro đạo đức AI . Điều này phụ thuộc vào doanh nghiệp để thiết lập cơ cấu tổ chức và quy tắc quản lý tương ứng, chẳng hạn như ủy ban đạo đức, quy trình xem xét đạo đức và các công cụ quản lý khác. Các nhà hoạch định chính sách có thể xem xét ban hành hướng dẫn chính sách về vấn đề này.

Thứ hai, về mặt thiết kế, cần tuân theo khái niệm thiết kế hướng đến con người và thực hành khái niệm "Đạo đức theo thiết kế"** (Ethicsby Design). **Thiết kế nhúng có đạo đức có nghĩa là tích hợp các giá trị đạo đức, nguyên tắc, yêu cầu và quy trình vào thiết kế, phát triển và triển khai AI, người máy và hệ thống dữ liệu lớn. Các doanh nghiệp cần phản ánh về quy trình ứng dụng và R&D AI do các kỹ thuật viên lãnh đạo, đồng thời chú trọng hơn đến nền tảng đa dạng và sự tham gia của các hoạt động ứng dụng và R&D AI. Đưa chính sách, luật pháp, đạo đức, xã hội, triết học và các nhân sự đa ngành và liên ngành khác vào nhóm phát triển công nghệ là cách trực tiếp và hiệu quả nhất để đưa các yêu cầu đạo đức vào thiết kế và phát triển công nghệ. Trong tương lai, các nhà hoạch định chính sách có thể chung tay với ngành để tổng kết kinh nghiệm và bài học, đồng thời ban hành các hướng dẫn kỹ thuật, phương pháp hay nhất và các tài liệu khác cho thiết kế nhúng có đạo đức.

**Cuối cùng, về mặt công nghệ, cần tiếp tục khám phá các phương pháp tiếp cận kỹ thuật và định hướng thị trường để giải quyết các vấn đề đạo đức AI và tạo ra các ứng dụng AI đáng tin cậy. **Một là công cụ đạo đức AI. Nhiều vấn đề trong các ứng dụng AI, chẳng hạn như khả năng giải thích, tính công bằng, bảo mật, bảo vệ quyền riêng tư, v.v., có thể được giải quyết thông qua đổi mới công nghệ. Tập trung vào những vấn đề này, ngành đã khám phá một số công cụ đạo đức AI và công cụ kiểm toán AI, và công việc trong tương lai trong lĩnh vực này cần được phát triển hơn nữa. Thứ hai là dịch vụ đạo đức AI (AIEthicsasa Service). [23] Đó là con đường định hướng thị trường. Các công ty đạo đức AI hàng đầu và các công ty khởi nghiệp về đạo đức AI phát triển các giải pháp AI có trách nhiệm tập trung vào các công cụ và dịch vụ đạo đức AI, đồng thời cung cấp chúng dưới dạng dịch vụ thương mại. [24] Công ty nghiên cứu và tư vấn Forrester dự đoán rằng ngày càng nhiều công ty công nghệ AI và các công ty trong các lĩnh vực khác áp dụng AI sẽ mua các giải pháp AI có trách nhiệm để giúp họ thực hiện các nguyên tắc đạo đức AI công bằng và minh bạch, đồng thời quy mô thị trường của các dịch vụ đạo đức AI sẽ tăng gấp đôi. Thứ ba là các phương pháp cung cấp dịch vụ cộng đồng công nghệ như AI Ethics Bounty. Tương tự như tiền thưởng lỗ hổng bảo mật mạng (tiền thưởng lỗi), tiền thưởng phân biệt thuật toán (Algorithmic Bias Bounty) và các phương pháp cung cấp dịch vụ cộng đồng kỹ thuật khác được các công ty Internet sử dụng rộng rãi, nó có thể khám phá, xác định và giải quyết các vấn đề đạo đức AI, phát triển các công cụ kiểm toán AI và tạo các ứng dụng AI đáng tin cậy sẽ đóng một vai trò quan trọng. Một số công ty nước ngoài và tổ chức nghiên cứu đại học, chẳng hạn như Twitter và Đại học Stanford, đã phát động Thử thách tiền thưởng phân biệt đối xử theo thuật toán và Thử thách kiểm tra AI, kêu gọi người tham gia phát triển các công cụ để xác định và giảm thiểu phân biệt đối xử theo thuật toán trong các mô hình AI. Nuôi dưỡng và củng cố cộng đồng đạo đức AI thông qua các phương pháp cung cấp dịch vụ cộng đồng công nghệ này sẽ đóng một vai trò quan trọng trong quản trị AI.

Hợp tác quản trị AI toàn cầu cần tiếp tục tăng cường

Như đã đề cập trước đó, quản trị AI toàn cầu tạo ra một tình huống cạnh tranh, không phù hợp với các khái niệm về công nghệ hướng tới con người, mở và chia sẻ cũng như phát triển toàn diện. Các quốc gia cần tiếp tục tăng cường hợp tác trong quản trị AI quốc tế, thúc đẩy việc xây dựng các thỏa thuận quốc tế về đạo đức và quản trị AI, hình thành khuôn khổ, tiêu chuẩn và quy tắc quản trị AI quốc tế với sự đồng thuận rộng rãi, tăng cường trao đổi và hợp tác về công nghệ, nhân tài, ngành công nghiệp, v.v. ., và phản đối chủ nghĩa loại trừ, thúc đẩy tính toàn diện của công nghệ và công nghệ vì lợi ích, đồng thời thực hiện sự phát triển toàn diện của tất cả các quốc gia. Sự tham gia sâu rộng của Trung Quốc vào quản trị công nghệ toàn cầu cần nắm bắt vòng cơ hội xây dựng quy tắc quốc tế mới trong lĩnh vực AI và dữ liệu, liên tục đề xuất các giải pháp quản trị AI phù hợp với sự đồng thuận toàn cầu và tiếp tục đưa trí tuệ của Trung Quốc vào quản trị kỹ thuật số toàn cầu và quản trị AI. Đồng thời, chúng ta cần tăng cường tiếng nói quốc tế, tích hợp các ý tưởng, đề xuất và thực tiễn của mình vào cộng đồng quốc tế, nỗ lực để được công nhận và đồng thuận nhiều hơn, đồng thời tăng tiếng nói và ảnh hưởng của chúng ta.

Đối mặt với tương lai, với sự phát triển không ngừng của công nghệ AI, AI sẽ ngày càng trở nên mạnh mẽ hơn và AI tổng thể (Artificial General Intelligence, viết tắt là AGI) có thể xuất hiện trong tương lai. Một AI nói chung sẽ có mức độ thông minh tương đương với con người và có thể thực hiện bất kỳ nhiệm vụ trí tuệ nào mà con người có thể làm được. Về lý thuyết, AI nói chung có thể thiết kế một mức độ thông minh cao hơn, mang lại sự bùng nổ lớn về trí thông minh, cái gọi là "điểm kỳ dị", dẫn đến siêu trí tuệ. Từ ứng dụng AI hiện tại đến AGI trong tương lai, có thể là một bước nhảy vọt từ thay đổi định lượng sang thay đổi định tính. Điều này đã làm dấy lên lo ngại về việc AGI sẽ thay thế công việc của con người, vượt khỏi tầm kiểm soát và thậm chí đe dọa sự tồn tại của con người. Do đó, để phát triển AI đa năng và các vấn đề đạo đức và an toàn tiềm ẩn của nó, thế giới cần lập kế hoạch trước và hợp tác với nhau để đảm bảo rằng công nghệ AI mang tính toàn diện, an toàn, đáng tin cậy và có thể kiểm soát hơn vì lợi ích của toàn nhân loại.

Bài viết này xuất hiện lần đầu trong Số 4 năm 2023 của "Tạp chí Đại học Sư phạm Thượng Hải (Ấn bản Khoa học Xã hội và Triết học)"