0****1 Введение

В последние годы быстрый прогресс технологии AIGC (генеративный искусственный интеллект) открыл новые возможности для социального и экономического развития. Все слои общества начали обращать внимание на применение технологий, связанных с AIGC, в коммерческой реализации, и стартапы и проекты, связанные с AIGC, росли как грибы после дождя. Однако во время своего развития AIGC также столкнулся с новыми проблемами, такими как распространение ложной информации, нарушение прав на личную информацию, безопасность данных и предрассудки.

В ответ на быстрое развитие AIGC семь департаментов, включая Управление киберпространства Китая, Национальную комиссию по развитию и реформам и Министерство образования, 10 июля официально выпустили «Временные меры по управлению генеративными услугами искусственного интеллекта». , что также является первым в мире нормативным актом в области AIGC.

В дополнение к этому специальному нормативному регулированию моя страна издала ряд законов, административных положений и других нормативных документов с точки зрения технологического развития, сетевой безопасности, защиты личной информации, информации в Интернете и т. д. Угол системы нормативного управления.

В этой статье обобщается и анализируется текущая политика регулирования в области искусственного интеллекта в стране и за рубежом Шанхайской юридической фирмы Mankiw.

0****2 Китайский надзор за AIGC

(1) Закон

"Закон Китайской Народной Республики о научно-техническом прогрессе"

Основной закон в области науки и техники в моей стране будет пересмотрен во второй раз в 2021 году и вступит в силу с 1 января 2022 года.

"Закон Китайской Народной Республики о защите личной информации"

Он будет официально реализован 1 ноября 2021 года и включает в себя некоторые положения об искусственном интеллекте, такие как запрет на использование личной информации для незаконных действий и нарушение личных прав, а также требование прозрачности и объяснимости принятия решений с использованием искусственного интеллекта.

"Закон о безопасности данных Китайской Народной Республики"

Он будет официально реализован 1 сентября 2021 года и включает в себя некоторые положения об искусственном интеллекте, такие как требование об усилении защиты безопасности и управлении данными, связанными с искусственным интеллектом.

"Закон Китайской Народной Республики о сетевой безопасности"

Он вступил в силу 1 июня 2017 года. Статья 22 предусматривает, что сетевые операторы должны принимать технические меры и другие необходимые меры для предотвращения и сокращения возникновения инцидентов сетевой безопасности, в том числе с использованием искусственного интеллекта и других технических средств.

(2) Положения Департамента

"Временные меры по управлению сервисами генеративного искусственного интеллекта"

11 апреля 2023 г. Управление киберпространства Китая опубликовало «Меры по управлению генеративными службами искусственного интеллекта (проект для комментариев)» (далее именуемые «Меры (проект для комментариев)»). Запросив и всесторонне изучив мнения всех сторон, Управление киберпространства Китая совместно с Национальной комиссией по развитию и реформам, Министерством образования, Министерством науки и технологий, Министерством промышленности и информационных технологий и Государственной администрацией Радио, кино и телевидения, 10 июля 2023 г. официально обнародованы «Временные меры для управления генеративными службами искусственного интеллекта» (далее именуемые «Временные меры»). «Временные меры» станут первым в мире юридическим документом национального уровня, который напрямую регулирует генеративный искусственный интеллект, и будут официально введены в действие 15 августа 2023 года. Модель гибкого управления искусственным интеллектом в моей стране достигла первых результатов.

"Правила управления рекомендациями по алгоритму информационной службы Интернета"

*** «Правила управления рекомендациями по алгоритмам службы информации в Интернете» *** («** «Правила рекомендаций по алгоритмам» **»), вступившие в силу 1 марта 2022 г., требуют, чтобы поставщики услуг рекомендаций по алгоритмам создали надежный механизм алгоритма. обзор. Механизм алгоритма, модель, данные и результаты применения должны регулярно пересматриваться, оцениваться и проверяться, а модели алгоритмов, которые вызывают у пользователя зависимость, чрезмерное потребление и т. д., которые нарушают законы и правила или нарушают этику и мораль, не должны создаваться. . Кроме того, «Положение о рекомендации алгоритмов» требует, чтобы услуги по рекомендации алгоритмов были поданы в Департамент информации Интернета: Файловая система заполняет информацию, такую как имя поставщика услуг, форму услуги, область применения, тип алгоритма, отчет о самооценке алгоритма, содержание, которое должно быть опубликовано, и т. д., и выполняет процедуры регистрации.

"Положение об администрировании глубокого синтеза информационных услуг Интернета"

"Правила управления глубоким синтезом интернет-информационной службы" (""Правила глубокого синтеза""), вступившие в силу 10 января 2023 года, являются основным нормативным актом в области AIGC. «Технология глубокого синтеза» относится к технологии использования алгоритмов генеративного синтеза, представленных глубоким обучением и виртуальной реальностью, для создания текста, изображений, аудио, видео, виртуальных сцен и другой информации, включая преобразование текста в речь, генерацию музыки, генерацию лиц, Замена человеческого лица, улучшение изображения и другие технологии. Таким образом, AIGC подпадает под действие Правил глубокого синтеза.

В «Правилах глубокого синтеза» четко указано, что поставщики услуг глубокого синтеза должны использовать технические или ручные методы для проверки входных данных и результатов синтеза пользователей услуг глубокого синтеза.Для услуг, которые генерируют или значительно изменяют функцию информационного контента, например, реальные сцены , необходимо четко обозначить разумное положение и область сгенерированного или отредактированного информационного содержания, чтобы напомнить публике о глубоком синтезе. **

(3) Нормативные документы ведомства

** «Этический кодекс искусственного интеллекта нового поколения»**

25 сентября 2021 года Национальный профессиональный комитет по управлению искусственным интеллектом нового поколения издал «Кодекс этики искусственного интеллекта нового поколения» (далее именуемый «Кодекс этики»), цель которого — интегрировать этику во весь жизненный цикл искусственного интеллекта. и обеспечить основу для развития искусственного интеллекта Обеспечить этические рекомендации для физических лиц, юридических лиц и других соответствующих учреждений, участвующих в соответствующей деятельности.

«Кодекс этики» подвергся специальному исследованию, интенсивной разработке и обсуждению мнений. Он полностью учитывает текущие этические проблемы всех слоев общества, связанные с конфиденциальностью, предрассудками, дискриминацией и справедливостью, включая общие принципы, конкретную этику деятельности, и организационной реализации. «Кодекс этики» выдвигает шесть основных этических требований, включая улучшение благосостояния людей, поощрение справедливости и справедливости, защиту конфиденциальности и безопасности, обеспечение управляемости и доверия, усиление ответственности и повышение этической грамотности. В то же время предлагается 18 конкретных этических требований к конкретным видам деятельности, таким как управление искусственным интеллектом, исследования и разработки, поставка и использование.

"Стандартные практические рекомендации по сетевой безопасности — рекомендации по предотвращению угроз этической безопасности, связанных с искусственным интеллектом"

В целях предотвращения этических рисков безопасности, связанных с искусственным интеллектом, 5 января 2021 года Секретариат Национального технического комитета по стандартизации информационной безопасности организовал составление «Практических рекомендаций по стандартам сетевой безопасности - Руководства по предотвращению этических рисков безопасности искусственного интеллекта». ", который предназначен для организаций или частных лиц, которые проводят исследования в области искусственного интеллекта. Предоставление рекомендаций по связанным с этим видам деятельности, таким как разработка, проектирование и производство, а также развертывание приложений.

(4) Отраслевые стандарты и руководящие документы

《Руководящие принципы проверки регистрации медицинских устройств с искусственным интеллектом》

В марте 2022 года Центр оценки устройств выпустил «Руководящие принципы регистрации и проверки медицинских устройств с искусственным интеллектом» для дальнейшей стандартизации требований к контролю качества для всего жизненного цикла медицинских устройств с искусственным интеллектом и требований к материалам регистрационной декларации. В то же время было предложено, чтобы сторонние базы данных также могли выполнять оценку производительности алгоритма, и уточнены конкретные требования к сторонним базам данных с точки зрения авторитетности, научности, нормативности, разнообразия, замкнутости и динамики.

** «Руководство по классификации и определению медицинских программных продуктов с искусственным интеллектом»**

8 июля 2021 г. в целях дальнейшего усиления надзора и управления медицинскими программными продуктами с искусственным интеллектом и содействия качественному развитию отрасли Государственное управление по санитарному надзору за качеством пищевых продуктов и медикаментов организовало разработку и официально выпустило «Руководство по классификации». и «Определение медицинских программных продуктов с искусственным интеллектом» (далее именуемые «Руководящие принципы») в принципе»).

В «Руководящих принципах» Управление по санитарному надзору за качеством пищевых продуктов и медикаментов четко определило медицинское программное обеспечение с искусственным интеллектом, которое относится к «независимому программному обеспечению, использующему технологию искусственного интеллекта для достижения своих медицинских целей на основе данных медицинского устройства. Классификация медицинских устройств, содержащих программное обеспечение с искусственным интеллектом Компоненты Определение может ссылаться на этот принцип». В то же время оно также дает четкое определение данных медицинского устройства, которое относится к «объективным данным, генерируемым медицинскими устройствами для медицинских целей, и в особых случаях может включать объективные данные, генерируемые оборудование общего назначения для медицинских целей». Кроме того, «Руководящие принципы» также определяют атрибуты управления и категории управления.

** «Ключевые моменты обзора программного обеспечения для медицинского устройства, помогающего принимать решения в процессе глубокого обучения»**

В июле 2019 года Центр оценки технологий медицинских устройств Государственного управления по санитарному надзору за качеством пищевых продуктов и медикаментов (далее именуемый Центром оценки устройств) выпустил «Точки обзора программного обеспечения для принятия решений с помощью глубокого обучения», в которых разъяснялся объем проверки общих программное обеспечение для принятия решений для медицинских устройств с помощью глубокого обучения, а также предложил метод наблюдения за полным жизненным циклом, основанный на оценке рисков.

(5) Местные правила

«Муниципальные правила Шанхая о содействии развитию индустрии искусственного интеллекта»

22 сентября 2022 года 44-е заседание Постоянного комитета 15-го Шанхайского муниципального собрания народных представителей проголосовало за принятие «Шанхайского муниципального положения о содействии развитию индустрии искусственного интеллекта», которое вступит в силу 1 октября 2022 года.

"Правила продвижения индустрии искусственного интеллекта особой экономической зоны Шэньчжэня"

В сентябре 2022 года в Шэньчжэне был обнародован первый в стране специальный закон об индустрии искусственного интеллекта** «Правила продвижения индустрии искусственного интеллекта Шэньчжэньской особой экономической зоны»**. Действует с 1 ноября 2022 г.

"Шанхайские правила обработки данных"

Принят на 37-м заседании Постоянного комитета 15-го Шанхайского муниципального собрания народных представителей 25 ноября 2021 года, вступает в силу с 1 января 2022 года.

(6) Местные рабочие документы

** «План реализации Пекина по ускорению строительства глобально влиятельного инновационного центра искусственного интеллекта (2023-2025 гг.)» ***, **** «Несколько мер Пекина по содействию инновациям и развитию общего Искусственный интеллект" *

Во второй половине дня 30 мая 2023 г. в рамках Чжунгуаньцуньского форума 2023 г. состоялась специальная конференция, посвященная основным достижениям науки и техники. На встрече Лю Ханг, инспектор второго уровня Пекинской муниципальной комиссии по науке и технологиям и управляющего комитета Zhongguancun, обнародовал ** «Пекинский план реализации по ускорению строительства глобально влиятельного источника инноваций в области искусственного интеллекта (2023–2025)». (далее именуемый «План реализации»)», «Несколько мер Пекина по содействию инновациям и развитию общего искусственного интеллекта» (далее именуемый «Несколько мер»)** две политики. С помощью этих двух политик, с точки зрения поощрения и направления развития отрасли, Пекин будет и далее координировать ресурсы вокруг общих потребностей в инновациях и развитии, а также всесторонне содействовать созданию независимых технологических систем искусственного интеллекта и развитию промышленной экологии.

Выпуск этих двух политик направлен на ускорение реализации стратегии развития, ориентированной на инновации, создание национальной пилотной зоны инноваций и разработки искусственного интеллекта нового поколения высокого уровня и национальной пилотной зоны приложений инноваций искусственного интеллекта, продолжение улучшения глобального влияние искусственного интеллекта и дальнейшее продвижение искусственного интеллекта.Инновации и инновации ведут и развиваются здоровым образом, поддерживая строительство Пекинского международного научно-технического инновационного центра.

0****3 Все страны мира контролируют AIGC

ЕВРОСОЮЗ

Закон об управлении данными

Действует с июня 2022 г. Законопроект является первым законопроектом, представленным в рамках Европейской стратегии данных, первое содержание которого было опубликовано в ноябре 2020 года. В целом «Закон об управлении данными» фокусируется на институциональных инновациях для поощрения обмена данными, повышения эффективности использования данных и обеспечения потока и использования ресурсов данных для достижения более высоких целей государственной политики. Одним из них является создание системы повторного использования данных в государственном секторе. Во-вторых, создать основу, способствующую развитию посредников данных. В-третьих, регулировать и направлять альтруистическое поведение данных.

Кроме того, в соответствии с главой VI Закона об управлении данными был создан Европейский совет по инновациям в области данных для предоставления рекомендаций по включению информации о поставщиках услуг обмена данными, межотраслевом обмене данными, повторном использовании данных и т. д.

Билл об искусственном интеллекте Билл

В апреле 2021 года Европейская комиссия предложила проект регламента «Закона об искусственном интеллекте», который считается знаковым событием для ЕС в области искусственного интеллекта и более широкой цифровой стратегии ЕС. Просто продвижение предложения было не таким гладким, как ожидалось, и члены Европарламента еще не пришли к соглашению по основным принципам предложения.

** «Этические принципы надежного искусственного интеллекта»**

Опубликованные в 2019 году руководящие принципы охватывают семь областей: человеческая деятельность и управление, технологическая надежность и безопасность, конфиденциальность и управление данными, прозрачность, разнообразие, недискриминация и справедливость, социальное и экологическое благополучие и подотчетность.

《Общее положение о защите данных》

Принят в 2016 году и вступил в силу в 2018 году. Цель — решить проблему сбора и использования пользовательских данных. Он заменит «Директиву о защите данных», обнародованную Европейским союзом в 1995 году, чтобы адаптироваться к развитию облачных вычислений, Интернета и больших данных. Целью «Регламента» является ограничение обработки персональных и конфиденциальных данных интернет-компаниями и компаниями, работающими с большими данными, а также защита законных прав и интересов субъектов данных. В отличие от своего предшественника, Директивы о защите данных, GDPR может напрямую применяться ко всем государствам-членам ЕС, не требуя от какой-либо страны преобразования его в национальное законодательство.

ВЕЛИКОБРИТАНИЯ

Регуляторный подход к искусственному интеллекту для инноваций

29 марта 2023 г. Соединенное Королевство выпустило информационный документ «Регуляторные подходы к искусственному интеллекту для продвижения инноваций», в котором изложены пять принципов управления искусственным интеллектом. Предлагает свой основанный на принципах подход к управлению ИИ, чтобы обеспечить предприятиям и общественности уверенность в использовании ИИ, а также определенный и последовательный подход к регулированию отрасли. В этом официальном документе Соединенное Королевство выдвигает пять принципов, которых следует придерживаться при разработке и использовании искусственного интеллекта в различных ведомствах. В будущем каждое регулирующее ведомство будет выпускать передовой опыт в различных областях на основе пяти принципов в соответствии с конкретными обстоятельства руководство. В то же время в Белой книге указано, что в целях поощрения инноваций в области искусственного интеллекта и обеспечения своевременного реагирования на различные вызовы, которые возникнут в будущем, в настоящее время не будет налагаться строгое законодательство на отрасль искусственного интеллекта. Кроме того, в Белой книге особо подчеркивается важность совместного управления между правительством, промышленностью и предприятиями, а также важность укрепления глобального сотрудничества и функциональной совместимости в управлении искусственным интеллектом, чтобы реализовать глобальное лидерство Великобритании в области управления. искусственный интеллект как можно скорее.

Италия

31 марта 2023 года итальянское государственное агентство по защите данных (Garante) потребовало запретить использование ChatGPT, чат-робота с искусственным интеллектом, разработанного OpenAI, в Италии, и начало расследование предполагаемого нарушения правил конфиденциальности приложением ChatGPT. Федеральный регулятор конфиденциальности Канады недавно объявил, что начал расследование в отношении OpenAI якобы за «сбор, использование и раскрытие личной информации без согласия».

США

** «Структура управления рисками искусственного интеллекта» (AI RMF), версия 1.0**

Национальный институт стандартов и технологий выпустил версию 1.0 «Структуры управления рисками искусственного интеллекта» (AI RMF) в январе 2023 года, цель которой — помочь организациям снизить риски безопасности, избежать предвзятости и других рисков при разработке и развертывании систем искусственного интеллекта. Негативные последствия, повышение доверия к ИИ.

Еще в 2016 году Соединенные Штаты обнародовали два документа национального уровня, рекламные, а не нормативные, и обязательные документы: «Национальный стратегический план исследований и разработок в области искусственного интеллекта» и «Подготовка к будущему искусственного интеллекта». Он постоянно обновлялся. в последние годы. Две основы политики направлены на активное содействие развитию технологий искусственного интеллекта и технологических инноваций. В ответ на вызовы, вызванные технологией искусственного интеллекта, документ предлагает лишь принципиальный ответ.

Канада

Закон об искусственном интеллекте и данных

В июне 2022 года Канада выпустила «Закон об искусственном интеллекте и данных», целью которого является регулирование международных и провинциальных транзакций с системами искусственного интеллекта. С этой целью закон предусматривает, что: должны быть приняты меры для уменьшения вреда и предвзятости результатов, вызванных высокоэффективным искусственным интеллектом; должна быть раскрыта общедоступная информация об искусственном интеллекте; министр инноваций, технологий и промышленности должен быть уполномочен формулировать политика, связанная с системами искусственного интеллекта, и «Хранение или использование незаконно полученной личной информации» запрещено соответственно для защиты конфиденциальности данных с целью проектирования, разработки, использования или предоставления систем искусственного интеллекта.

Германия

Закон о самостоятельном вождении

Выпущено в июле 2021 года. Цель законопроекта — обеспечить правовую основу и нормативную базу для коммерческого применения беспилотных технологий. Одним из самых важных моментов предложения является то, что оно обеспечивает правовую основу для нормальной эксплуатации беспилотных транспортных средств уровня L4 на определенных участках дорог на скоростных автомагистралях и дает четкие разъяснения по соответствующим техническим требованиям, условиям вождения и обработке данных. Таким образом, Германия стала первой в мире, которая позволила беспилотным автомобилям присоединиться к ежедневному движению и продвигать его по всей стране.

Еще одним важным содержанием законопроекта является создание системы технического контроля за «возможностями беспилотного вождения». Таким образом, умные владельцы транспортных средств должны регулировать использование транспортных средств, чтобы обеспечить безопасность транспортных средств и совместимость использования транспортных средств, а также нести ответственность за использование транспортных средств. Эти обязанности включают в себя: регулярное техническое обслуживание системы для поддержания автономного вождения в рабочем состоянии, меры предосторожности для соблюдения правил дорожного движения и ответственность за технический надзор. Для выполнения этого обязательства владелец автомобиля должен назначить физическое лицо, обладающее специальными навыками, в качестве технического наблюдателя для удаленного наблюдения и вмешательства в автомобиль.