0****1 引言

近年來，AIGC（生成式人工智能）技術的迅速進步為社會經濟發展帶來了新的機遇。各行各業都開始關注AIGC相關技術在商業落地中的應用，AIGC相關的創業及項目如雨後春筍般湧現。然而，AIGC在發展過程中也帶來了新的挑戰，例如傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題。

為了應對AIGC的快速發展，國家網信辦、國家發改委、教育部等七部門於7月10日正式發布《生成式人工智能服務管理暫行辦法》，這也是全球首部AIGC領域的監管法規。

除了這部專門的監管法規外，我國在科技發展、網絡安全、個人信息保護、互聯網信息等多個方面已發布了多項法律、行政法規等規範性文件，構成了人工智能領域多層級、多角度的規範治理體系。

本文是由上海曼昆律師事務所匯總、梳理的當前國內外人工智能領域的監管政策。

0****2 中國對AIGC的監管

（一）法律

《中華人民共和國科學技術進步法》

我國科技領域的基本法，2021年第二次修訂，2022年1月1日正式施行。

《中華人民共和國個人信息保護法》

2021年11月1日正式施行，其中包括了一些關於人工智能的規定，如禁止將個人信息用於違法活動和侵害個人權益，要求人工智能決策的透明和可解釋性等。

《中華人民共和國數據安全法》

2021年9月1日正式施行，其中包括了一些關於人工智能的規定，如要求加強對人工智能相關數據的安全保護和管理等。

《中華人民共和國網絡安全法》

2017年6月1日施行，其中第二十二條規定了網絡運營者應當採取技術措施和其他必要措施，防止和減少網絡安全事件的發生，其中包括使用人工智能等技術手段。

（二）部門規章

《生成式人工智能服務管理暫行辦法》

2023年4月11日，國家網信辦發布了《生成式人工智能服務管理辦法（徵求意見稿）》（以下簡稱“《辦法（徵求意見稿）》”）。在徵集並綜合考量各方意見後，網信辦聯合發改委、教育部、科技部、工信部、廣電總局於2023年7月10日正式發布**《生成式人工智能服務管理暫行辦法》**（以下簡稱“《暫行辦法》”）。作為全球範圍內首部直接針對生成式人工智能進行規制的國家層面法律文件，《暫行辦法》將於2023年8月15日正式施行，我國人工智能敏捷治理管理模式初見成效。

《互聯網信息服務算法推薦管理規定》

2022年3月1日生效的***《互聯網信息服務算法推薦管理規定》（“《算法推薦規定》*”）要求算法推薦服務提供者應當建立健全算法機制機理審核，應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等，不得設置誘導用戶沉迷、過度消費等違反法律法規或者違背倫理道德的算法模型。此外，《算法推薦規定》要求算法法推薦服務應當向網信部門完成備案：具有輿論屬性或者社會動員能力的算法推薦服務提供者應當在提供服務之日起十個工作日內通過互聯網信息服務算法備案系統填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息，履行備案手續。

《互聯網信息服務深度合成管理規定》

2023年1月10日生效的***《互聯網信息服務深度合成管理規定》（“《深度合成規定》*”）是AIGC領域最為核心的監管規定。 “深度合成技術”是指利用以深度學習、虛擬現實為代表的生成合成類算法製作文本、圖像、音頻、視頻、虛擬場景等信息的技術，包括文本轉語音、音樂生成、人臉生成、人臉替換、圖像增強等技術。因此，AIGC屬於《深度合成規定》的監管範圍。

《深度合成规定》明确，深度合成服务提供者应当采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核，此外，提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。

（三）部門規範性文件

《新一代人工智能倫理規範》

2021年9月25日，國家新一代人工智能治理專業委員會發布了《新一代人工智能倫理規範》(以下簡稱《倫理規範》)，旨在將倫理道德融入人工智能全生命週期，為從事人工智能相關活動的自然人、法人和其他相關機構等提供倫理指引。

《倫理規範》經過專題調研、集中起草、意見徵詢等環節，充分考慮當前社會各界有關隱私、偏見、歧視、公平等倫理關切，包括總則、特定活動倫理規範和組織實施等內容。 《倫理規範》提出了增進人類福祉、促進公平公正、保護隱私安全、確保可控可信、強化責任擔當、提升倫理素養等6項基本倫理要求。同時，提出人工智能管理、研發、供應、使用等特定活動的18項具體倫理要求。

《網絡安全標準實踐指南-人工智能倫理安全風險防範指引》

為防範人工智能倫理安全風險，2021年1月5日，全國信息安全標準化技術委員會秘書處組織編制了《網絡安全標準實踐指南—人工智能倫理安全風險防範指引》，為組織或個人開展人工智能研究開發、設計製造、部署應用等相關活動提供指引。

（四）行業標準、指導文件

《人工智能醫療器械註冊審查指導原則》

2022年3月，器審中心發布《人工智能醫療器械註冊審查指導原則》，進一步規範人工智能醫療器械全生命週期過程質控要求和註冊申報資料要求，同時提出第三方數據庫也可開展算法性能評估，並明確了第三方數據庫在權威性、科學性、規範性、多樣性、封閉性、動態性方面的專用要求。

《人工智能醫用軟件產品分類界定指導原則》

2021年7月8日，為進一步加強人工智能醫用軟件類產品監督管理，推動產業高質量發展，國家藥監局組織製定並正式發布《人工智能醫用軟件產品分類界定指導原則》（下文簡稱《指導原則》）。

在該《指導原則》中，藥監局對人工智能醫用軟件明晰了定義，其是指“基於醫療器械數據，採用人工智能技術實現其醫療用途的獨立軟件。含人工智能軟件組件的醫療器械分類界定可參考本原則。”同時也對醫療器械數據做出明確定義，指“醫療器械產生的用於醫療用途的客觀數據，特殊情形下可包含通用設備產生的用於醫療用途的客觀數據。”此外，《指導原則》對管理屬性和管理類別還進行了界定。

《深度學習輔助決策醫療器械軟件審評要點》

2019年7月，國家藥監局醫療器械技術審評中心(以下簡稱器審中心)發布《深度學習輔助決策醫療器械軟件審評要點》，明確通用深度學習輔助決策醫療器械軟件的審評範圍，並提出基於風險的全生命週期監管方式。

（五）地方性法規

《上海市促進人工智能產業發展條例》

2022年9月22日，上海市十五屆人大常委會第四十四次會議表決通過《上海市促進人工智能產業發展條例》，於2022年10月1日起施行。

《深圳經濟特區人工智能產業促進條例》

2022年9月，深圳公佈了全國首部人工智能產業專項立法**《深圳經濟特區人工智能產業促進條例》**。自2022年11月1日起實施。

《上海市數據條例》

2021年11月25日上海市第十五屆人民代表大會常務委員會第三十七次會議通過，2022年1月1日起施行。

（六）地方工作文件

《北京市加快建設具有全球影響力的人工智能創新策源地實施方案（2023-2025）》、《北京市促進通用人工智能創新發展的若干措施》

2023年5月30日下午，2023中關村論壇重大科技成果專場發布會舉行。會上，北京市科委、中關村管委會二級巡視員劉航發布了**《北京市加快建設具有全球影響力的人工智能創新策源地實施方案（2023-2025）》（以下簡稱《實施方案》）、《北京市促進通用人工智能創新發展的若干措施》（以下簡稱《若干措施》）**兩項政策。北京市將通過這兩項政策，從鼓勵與引導行業發展角度，圍繞創新發展共性需求，進一步統籌資源，全面推動人工智能自主技術體系建設及產業生態發展。

這兩項政策的發布，旨在加快實施創新驅動發展戰略，高水平建設國家新一代人工智能創新發展試驗區和國家人工智能創新應用先導區，持續提升人工智能領域全球影響力，進一步推動人工智能創新創新引領和健康發展，支撐北京國際科技創新中心建設。

0****3 全球各國對AIGC監管

歐盟

《數據治理法案》

2022年6月生效。該法案是在《歐洲數據戰略》的框架下首先提交的一項法律草案，其最初的內容是在2020年11月。 《數據治理法案》整體而言，以製度創新為重點，以鼓勵數據共享，提升數據使用效率，使數據資源的流動和使用，以達到更高的公共政策目的。一是要構建公共部門對數據進行重新使用的製度。二是構建一個有利於數據仲介發展的架構。三是對數據的利他行為進行規範指導。

另外，在《數據治理法案》的第六章中，設立了一個歐洲數據革新委員會，為其提供建議，以便將數據分享服務供應商、跨行業數據分享、數據重新使用等方面的信息納入其中。

《人工智能法案》條例草案

在2021年4月，歐盟委員會就提出了《人工智能法案》條例草案，這被視為歐盟在人工智能以及更廣泛的歐盟數字戰略領域的里程碑事件。只不過提案的推進並沒有想像中順利，歐洲議會議員們尚未就提案基本原則達成一致。

《可信賴人工智能倫理準則》

2019年發布，這些指導方針包含七個方面：人類活動與監管；科技穩健與安全；隱私權與資料管理；透明度；多樣性與非歧視與公平；社會與環境福祉；問責。

《通用數據保護條例》

2016年通過，2018年生效。目的是解決收集和利用用戶數據的問題。它將替代1995年歐盟頒布的《數據保護指令》，以適應云計算、因特網和大數據的發展。 《規定》的目的是為了約束互聯網和大數據公司對個人和敏感數據的處理，保障數據主體的合法權益。與它的前任《數據保護指令》相比，《GDPR》可以直接對所有的歐盟成員國生效，而不需要任何國家將其轉換為本國法律。

英國

《促進創新的人工智能監管方法》

2023年3月29日，英國發布《促進創新的人工智能監管方法》白皮書，概述了人工智能治理的5項原則。提出其基於原則的人工智能治理方法，以為企業和群眾對人工智能的使用提供信心，為行業提供具有確定性、一致性的監管方法。在本白皮書中，英國提出了人工智能在各部門的開發和使用中都應遵守的五項原則，日後將由各監管部門根據具體情況在該五項原則的基礎上對各領域的最佳實踐發布指南。同時白皮書指出，為鼓勵人工智能的創新，並確保能夠對日後產生的各項挑戰作出及時回應，將不會在當前就對人工智能行業進行嚴格立法規制。此外，白皮書特別強調政府和行業、企業等多主體開展協同治理的重要性，以及加強人工智能治理全球合作和互操作性的重要性，以盡快實現英國在人工智能領域的全球領導者地位。

意大利

2023年3月31日，意大利政府數據保護局（Garante）要求禁止OpenAI公司開發的AI聊天機器人ChatGPT在意大利的使用，並對ChatGPT應用程序涉嫌違反隱私規則展開調查。加拿大聯邦隱私監管機構近期宣布，已對OpenAI展開調查，因該公司涉嫌“未經同意收集、使用和披露個人信息”。

美國

《人工智能風險管理框架》（AI RMF）1.0版

美國國家標準與技術研究院於2023年1月發布了《人工智能風險管理框架》（AI RMF）1.0版，旨在指導機構組織在開發和部署人工智能係統時降低安全風險，避免產生偏見和其他負面後果，提高人工智能可信度。

早在2016年，美國就頒布了《國家人工智能研究與發展戰略規劃》和《為人工智能的未來做好準備》兩個國家級框架性、促進性而非管制性、約束性的文件，並在近年來不斷更新。兩個政策框架旨在積極促進人工智能技術發展和科技創新。針對人工智能技術帶來的挑戰，文件只是提出了原則性的應對方法。

加拿大

《人工智能和數據法案》

2022年6月，加拿大發布《人工智能和數據法案》該法案旨在規范國際及省級之間的人工智能係統交易。為此，法律規定：應當採取措施，降低由高影響人工智能所引起的傷害和輸出偏差；公開有關人工智能的公共信息；授權創新、科技和工業部長制定與人工智能係統相關的政策，並對“持有或使用非法獲取的個人信息”作出相應的禁止，以保護數據的隱私，以達到設計、開發、使用或提供人工智能係統的目的。

德國

《自動駕駛法案》

2021年7月發布。該議案的目的是為無人駕駛技術的商業應用提供法律基礎和管理框架。該議案的最大亮點之一，就是為L4級別的無人駕駛車輛，在高速公路上的特定路段正常運行，提供了合法依據，並對相關的技術要求，行駛條件，數據處理等作出了明確的規定。德國也因此成為世界上第一個讓無人汽車加入到每天的交通中，並將其推廣到整個國家。

法案的另一項重要內容，就是為“無人駕駛特性”設立了技術監察系統。因此，智能機動車擁有者必須對機動車的使用行為進行規範，以確保機動車的行車安全及機動車的使用環境兼容性，並對機動車的使用行為負責。這些責任包括：對該系統進行經常性的維修，以保證無人駕駛的運行狀態良好，對遵守交通規則採取防範措施，以及對技術監管的責任。為了履行這項義務，汽車擁有者應委派具有專門技能的自然人作為技術監視者，對汽車進行遠程監視並對汽車進行干預。