0****1 Introdução

Nos últimos anos, o rápido progresso da tecnologia AIGC (Generative Artificial Intelligence) trouxe novas oportunidades para o desenvolvimento social e econômico. Todas as esferas da vida começaram a prestar atenção à aplicação de tecnologias relacionadas ao AIGC na implementação comercial, e startups e projetos relacionados ao AIGC surgiram como cogumelos. No entanto, o AIGC também trouxe novos desafios durante seu desenvolvimento, como disseminação de informações falsas, violação de direitos de informação pessoal, segurança de dados e preconceito.

Em resposta ao rápido desenvolvimento do AIGC, sete departamentos, incluindo a Administração do Ciberespaço da China, a Comissão Nacional de Desenvolvimento e Reforma e o Ministério da Educação, lançaram oficialmente as "Medidas provisórias para o gerenciamento de serviços de inteligência artificial generativa" em 10 de julho , que também é a primeira regulamentação regulatória do mundo na área de AIGC.

Além deste regulamento regulatório especial, meu país emitiu uma série de leis, regulamentos administrativos e outros documentos normativos em termos de desenvolvimento tecnológico, segurança de rede, proteção de informações pessoais, informações da Internet, etc. Ângulo do sistema de governança normativa.

Este artigo resume e classifica as atuais políticas regulatórias no campo da inteligência artificial no país e no exterior pelo Shanghai Mankiw Law Firm.

0****2 Supervisão da AIGC pela China

(1) Lei

"A Lei de Progresso Científico e Tecnológico da República Popular da China"

A Lei Básica no campo da ciência e tecnologia em meu país será revisada pela segunda vez em 2021 e entrará em vigor em 1º de janeiro de 2022.

"Lei de Proteção de Informações Pessoais da República Popular da China"

Ele será implementado oficialmente em 1º de novembro de 2021, o que inclui alguns regulamentos sobre inteligência artificial, como proibir o uso de informações pessoais para atividades ilegais e infringir direitos pessoais, além de exigir transparência e explicabilidade da tomada de decisões de inteligência artificial.

"Lei de Segurança de Dados da República Popular da China"

Será implementado oficialmente em 1º de setembro de 2021, o que inclui alguns regulamentos sobre inteligência artificial, como a exigência de fortalecer a proteção de segurança e o gerenciamento de dados relacionados à inteligência artificial.

"Lei de Segurança de Rede da República Popular da China"

Entrou em vigor em 1º de junho de 2017. O Artigo 22 estipula que as operadoras de rede devem tomar medidas técnicas e outras medidas necessárias para prevenir e reduzir a ocorrência de incidentes de segurança de rede, incluindo o uso de inteligência artificial e outros meios técnicos.

(2) Regulamentos do departamento

"Medidas Provisórias para Geração de Serviços de Inteligência Artificial Gerativa"

Em 11 de abril de 2023, a Administração do Ciberespaço da China emitiu as "Medidas para a Administração de Serviços Gerativos de Inteligência Artificial (Rascunho para Comentário)" (doravante denominadas "Medidas (Rascunho para Comentário)"). Depois de solicitar e considerar exaustivamente as opiniões de todas as partes, a Administração do Ciberespaço da China, juntamente com a Comissão Nacional de Desenvolvimento e Reforma, o Ministério da Educação, o Ministério da Ciência e Tecnologia, o Ministério da Indústria e Tecnologia da Informação e a Administração Estatal of Radio, Film and Television, divulgou oficialmente "Medidas Provisórias para a Administração de Serviços de Inteligência Artificial Generativa" em 10 de julho de 2023 (doravante denominadas "Medidas Provisórias"). Como o primeiro documento legal de nível nacional do mundo que regula diretamente a inteligência artificial generativa, as "Medidas Provisórias" serão implementadas oficialmente em 15 de agosto de 2023. o modelo de gerenciamento ágil de governança de inteligência artificial do meu país alcançou os primeiros resultados.

"Regulamentos de gerenciamento de recomendação de algoritmo de serviço de informações da Internet"

"Regulamentos de gerenciamento de recomendação de algoritmo de serviço de informações da Internet" (""Regulamento de recomendação de algoritmo""), que entrou em vigor em 1º de março de 2022, exige que os provedores de serviços de recomendação de algoritmo estabeleçam um mecanismo de algoritmo sólido revisão, O mecanismo do algoritmo, modelo, dados e resultados do aplicativo devem ser revisados, avaliados e verificados regularmente, e modelos de algoritmo que induzem o vício do usuário, consumo excessivo, etc. que violem leis e regulamentos ou violem a ética e a moral não devem ser configurados . Além disso, o "Regulamento sobre Recomendação de Algoritmos" exige que os serviços de recomendação de algoritmos sejam arquivados no Departamento de Informações da Internet: Os provedores de serviços de recomendação de algoritmos com atributos de opinião pública ou capacidade de mobilização social devem passar pelo algoritmo do serviço de informações da Internet dentro de dez dias úteis a partir da data O sistema de arquivamento preenche informações como nome do prestador de serviços, formulário de atendimento, campo de aplicação, tipo de algoritmo, relatório de autoavaliação do algoritmo, conteúdo a ser divulgado, etc., e realiza os procedimentos de arquivamento.

"Regulamento sobre a Administração de Síntese Profunda de Serviços de Informações da Internet"

"Regulamentos de gerenciamento de síntese profunda do serviço de informações da Internet" (""Regulamentos de síntese profunda""), que entrou em vigor em 10 de janeiro de 2023, é o principal regulamento regulatório no campo de AIGC. "Tecnologia de síntese profunda" refere-se à tecnologia de uso de algoritmos de síntese generativa representados por aprendizado profundo e realidade virtual para produzir texto, imagens, áudio, vídeo, cenas virtuais e outras informações, incluindo conversão de texto em fala, geração de música, geração de face, substituição de rosto humano, aprimoramento de imagem e outras tecnologias. Portanto, o AIGC se enquadra no escopo regulatório dos Deep Synthesis Regulations.

Os "Regulamentos de Síntese Profunda" estipulam claramente que os provedores de serviços de síntese profunda devem adotar métodos técnicos ou manuais para revisar os dados de entrada e os resultados de síntese dos usuários do serviço de síntese profunda. Para serviços que geram ou alteram significativamente a função do conteúdo da informação, como cenas reais , é necessário marcar com destaque a posição e a área razoáveis do conteúdo da informação gerada ou editada para lembrar o público da síntese em profundidade. **

(3) Documentos normativos do departamento

** "Código de Ética da Inteligência Artificial de Nova Geração"**

Em 25 de setembro de 2021, o Comitê Profissional Nacional de Governança de Inteligência Artificial de Nova Geração emitiu o "Código de Ética de Inteligência Artificial de Nova Geração" (doravante denominado "Código de Ética"), que visa integrar a ética em todo o ciclo de vida da inteligência artificial e fornecer uma base para o desenvolvimento da inteligência artificial Fornecer orientação ética para pessoas físicas, jurídicas e outras instituições relevantes envolvidas em atividades relevantes.

O "Código de Ética" passou por pesquisas especiais, elaboração intensiva e consulta de pareceres, contemplando integralmente as preocupações éticas atuais de todos os setores da sociedade relacionadas à privacidade, preconceito, discriminação e justiça, incluindo princípios gerais, ética de atividades específicas, e implementação organizacional. O "Código de Ética" apresenta seis requisitos éticos básicos, incluindo melhorar o bem-estar humano, promover a equidade e a justiça, proteger a privacidade e a segurança, garantir a controlabilidade e credibilidade, fortalecer a responsabilidade e melhorar a alfabetização ética. Ao mesmo tempo, são propostos 18 requisitos éticos específicos para atividades específicas, como gerenciamento de inteligência artificial, pesquisa e desenvolvimento, fornecimento e uso.

"Diretrizes práticas padrão de segurança de rede - Diretrizes para prevenção de riscos éticos de segurança de inteligência artificial"

A fim de prevenir os riscos éticos de segurança da inteligência artificial, em 5 de janeiro de 2021, a Secretaria do Comitê Técnico de Normalização de Segurança da Informação Nacional organizou a compilação das "Diretrizes práticas de padrões de segurança de rede - Diretrizes para a prevenção de riscos éticos de segurança artificial ", que é para organizações ou indivíduos realizarem pesquisas de inteligência artificial. Fornecer orientação para atividades relacionadas, como desenvolvimento, design e fabricação e implantação de aplicativos.

(4) Padrões da indústria e documentos de orientação

《Princípios Orientadores para Revisão de Registro de Dispositivos Médicos de Inteligência Artificial》

Em março de 2022, o Centro de Avaliação de Dispositivos emitiu os "Princípios Orientadores para o Registro e Revisão de Dispositivos Médicos de Inteligência Artificial" para padronizar ainda mais os requisitos de controle de qualidade para todo o processo de ciclo de vida de dispositivos médicos de inteligência artificial e os requisitos para materiais de declaração de registro Ao mesmo tempo, propôs que bancos de dados de terceiros também possam realizar avaliação de desempenho de algoritmos e esclareceu os requisitos específicos para bancos de dados de terceiros em termos de autoridade, cientificidade, normatividade, diversidade, fechamento e dinâmica.

** "Diretrizes para a Classificação e Definição de Produtos de Software Médico de Inteligência Artificial"**

Em 8 de julho de 2021, a fim de fortalecer ainda mais a supervisão e gestão de produtos de software médico de inteligência artificial e promover o desenvolvimento de alta qualidade da indústria, a Administração Estadual de Alimentos e Medicamentos organizou a formulação e lançou oficialmente as "Diretrizes para a Classificação e Definição de Produtos de Software Médico de Inteligência Artificial" (doravante denominados "Diretrizes") em princípio").

Nos "Princípios Orientadores", a Food and Drug Administration definiu claramente o software médico de inteligência artificial, que se refere a "software independente que usa tecnologia de inteligência artificial para atingir seus objetivos médicos com base em dados de dispositivos médicos. A classificação de dispositivos médicos que contêm software de inteligência artificial componentes A definição pode se referir a este princípio." Ao mesmo tempo, também faz uma definição clara de dados de dispositivos médicos, que se refere a "dados objetivos gerados por dispositivos médicos para fins médicos e, em casos especiais, podem incluir dados objetivos gerados por equipamentos de uso geral para fins médicos." Além disso, os "Princípios Orientadores" também definem atributos de gerenciamento e categorias de gerenciamento.

** "Pontos-chave de análise de software de dispositivo médico para assistência a decisões profundas"**

Em julho de 2019, o Centro de Avaliação de Tecnologia de Dispositivos Médicos da Administração Estadual de Alimentos e Medicamentos (doravante denominado Centro de Avaliação de Dispositivos) lançou os "Pontos de Revisão de Software de Dispositivos Médicos de Tomada de Decisões Assistidas por Aprendizado Profundo", que esclareceu o escopo da revisão geral software de dispositivo médico de tomada de decisão assistida por aprendizado profundo e apresentou um método de supervisão de ciclo de vida completo baseado em risco.

(5) Regulamentos Locais

"Regulamentos Municipais de Xangai sobre a Promoção do Desenvolvimento da Indústria de Inteligência Artificial"

Em 22 de setembro de 2022, a 44ª reunião do Comitê Permanente do 15º Congresso Popular Municipal de Xangai votou pela aprovação do "Regulamento Municipal de Xangai para a Promoção do Desenvolvimento da Indústria de Inteligência Artificial", que entrará em vigor em 1º de outubro de 2022.

"Regulamentos de Promoção da Indústria de Inteligência Artificial da Zona Econômica Especial de Shenzhen"

Em setembro de 2022, Shenzhen promulgou a primeira legislação especial do país para a indústria de inteligência artificial** "Regulamentos de Promoção da Indústria de Inteligência Artificial da Zona Econômica Especial de Shenzhen"**. Em vigor a partir de 1º de novembro de 2022.

"Regulamentos de Dados de Xangai"

Adotado na 37ª reunião do Comitê Permanente do 15º Congresso Popular Municipal de Xangai em 25 de novembro de 2021 e entrará em vigor em 1º de janeiro de 2022.

(6) Documentos de Trabalho Local

**"Plano de implementação para Pequim para acelerar a construção de um centro de inovação de inteligência artificial globalmente influente (2023-2025)"****, ***"Várias medidas para Pequim para promover a inovação e o desenvolvimento de Inteligência Artificial" *

Na tarde de 30 de maio de 2023, o Fórum Zhongguancun de 2023 realizou uma conferência especial sobre as principais conquistas científicas e tecnológicas. Na reunião, Liu Hang, inspetor de segundo nível da Comissão Municipal de Ciência e Tecnologia de Pequim e do Comitê de Gestão de Zhongguancun, divulgou ** "Plano de Implementação de Pequim para Acelerar a Construção de uma Fonte de Inovação de Inteligência Artificial Globalmente Influente (2023-2025) " (doravante referido como o "Plano de Implementação") "), "Diversas Medidas de Pequim para Promover a Inovação e Desenvolvimento da Inteligência Artificial Geral" (doravante referido como "Diversas Medidas")** duas políticas. Por meio dessas duas políticas, na perspectiva de incentivar e orientar o desenvolvimento da indústria, Pequim coordenará ainda mais os recursos em torno das necessidades comuns de inovação e desenvolvimento e promoverá de forma abrangente a construção de sistemas de tecnologia independentes de inteligência artificial e o desenvolvimento da ecologia industrial.

O lançamento dessas duas políticas visa acelerar a implementação da estratégia de desenvolvimento orientada para a inovação, construir uma zona piloto nacional de inovação e desenvolvimento de inteligência artificial de nova geração de alto nível e uma zona piloto nacional de aplicação de inovação de inteligência artificial, continuar a aprimorar o mercado global influência da inteligência artificial e promover ainda mais a inteligência artificial.A inovação e a inovação lideram e se desenvolvem de forma saudável, apoiando a construção do Centro Internacional de Inovação em Ciência e Tecnologia de Pequim.

0****3 Todos os países do mundo supervisionam o AIGC

UE

Lei de Governança de Dados

A partir de junho de 2022. O projeto de lei é o primeiro projeto de lei a ser apresentado no âmbito da Estratégia Europeia de Dados, cujo primeiro conteúdo foi em novembro de 2020. No geral, a "Lei de Governança de Dados" se concentra na inovação institucional para incentivar o compartilhamento de dados, melhorar a eficiência do uso de dados e permitir o fluxo e o uso de recursos de dados para atingir objetivos de política pública mais elevados. Uma delas é construir um sistema para o setor público reutilizar dados. A segunda é construir uma estrutura que conduza ao desenvolvimento de intermediários de dados. A terceira é regular e orientar o comportamento altruísta dos dados.

Além disso, no Capítulo VI da Lei de Governança de Dados, foi estabelecido um Conselho Europeu de Inovação de Dados para fornecer conselhos sobre a inclusão de informações sobre provedores de serviços de compartilhamento de dados, compartilhamento de dados entre setores, reutilização de dados, etc.

Projeto de Lei de Inteligência Artificial

Em abril de 2021, a Comissão Europeia propôs o projeto de regulamento para a "Lei da Inteligência Artificial", considerada um marco para a UE no campo da inteligência artificial e da estratégia digital mais ampla da UE. É que o avanço da proposta não foi tão tranquilo quanto o esperado, e os membros do Parlamento Europeu ainda não chegaram a um acordo sobre os princípios básicos da proposta.

** "Diretrizes de Ética em Inteligência Artificial Confiável"**

Publicadas em 2019, as diretrizes abrangem sete áreas: atividade humana e governança; robustez e segurança tecnológica; privacidade e gestão de dados; transparência; diversidade e não discriminação e justiça; bem-estar social e ambiental; e responsabilidade.

《Regulamento Geral de Proteção de Dados》

Aprovado em 2016 e entrou em vigor em 2018. O objetivo é resolver o problema de coleta e utilização de dados do usuário. Ele substituirá a "Diretiva de Proteção de Dados" promulgada pela União Européia em 1995 para se adaptar ao desenvolvimento da computação em nuvem, Internet e big data. O objetivo do "Regulamento" é restringir o processamento de dados pessoais e sensíveis por empresas de Internet e big data e proteger os direitos e interesses legítimos dos titulares dos dados. Em contraste com seu antecessor, a Diretiva de Proteção de Dados, o GDPR pode ser aplicado diretamente a todos os estados membros da UE sem exigir que nenhum país o converta em lei nacional.

Reino Unido

Uma Abordagem Regulatória para Inteligência Artificial para Inovação

Em 29 de março de 2023, o Reino Unido lançou um white paper sobre "Abordagens regulatórias de inteligência artificial para promover a inovação", descrevendo cinco princípios para a governança de inteligência artificial. Propõe sua abordagem baseada em princípios para a governança de IA para fornecer às empresas e ao público confiança no uso de IA e uma abordagem segura e consistente de regulamentação para o setor. Neste white paper, o Reino Unido apresenta cinco princípios que devem ser seguidos no desenvolvimento e uso de inteligência artificial em vários departamentos. No futuro, cada departamento regulador emitirá as melhores práticas em vários campos com base nos cinco princípios de acordo com circunstâncias. Ao mesmo tempo, o white paper destacou que, para incentivar a inovação da inteligência artificial e garantir uma resposta oportuna aos vários desafios que surgirão no futuro, não será imposta legislação rígida à indústria de inteligência artificial no momento. Além disso, o white paper enfatiza especificamente a importância da governança colaborativa entre o governo, a indústria e as empresas, bem como a importância de fortalecer a cooperação global e a interoperabilidade na governança de inteligência artificial, de modo a concretizar a liderança global do Reino Unido no campo de inteligência artificial o mais rápido possível.

Itália

Em 31 de março de 2023, a Agência de Proteção de Dados do Governo Italiano (Garante) solicitou a proibição do uso do ChatGPT, um robô de bate-papo com IA desenvolvido pela OpenAI, na Itália, e iniciou uma investigação sobre a suposta violação das regras de privacidade pelo aplicativo ChatGPT. O regulador federal de privacidade do Canadá anunciou recentemente que abriu uma investigação sobre a OpenAI por supostamente "coletar, usar e divulgar informações pessoais sem consentimento".

EUA

** "Estrutura de Gerenciamento de Riscos de Inteligência Artificial" (AI RMF) Versão 1.0**

O National Institute of Standards and Technology lançou a versão 1.0 do "Artificial Intelligence Risk Management Framework" (AI RMF) em janeiro de 2023, que visa orientar as organizações a reduzir os riscos de segurança, evitar vieses e outros riscos ao desenvolver e implantar sistemas de inteligência artificial. Consequências negativas, aumentando a credibilidade da IA.

Já em 2016, os Estados Unidos promulgaram duas estruturas de nível nacional, mais promocionais do que regulamentares, e documentos vinculativos, "Plano Estratégico Nacional de Pesquisa e Desenvolvimento de Inteligência Artificial" e "Preparando-se para o Futuro da Inteligência Artificial". nos últimos anos. Os dois quadros políticos visam promover ativamente o desenvolvimento da tecnologia de IA e a inovação tecnológica. Em resposta aos desafios trazidos pela tecnologia de inteligência artificial, o documento propõe apenas uma resposta baseada em princípios.

Canadá

Lei de Inteligência Artificial e Dados

Em junho de 2022, o Canadá lançou a "Lei de Inteligência Artificial e Dados", que visa regular as transações internacionais e provinciais do sistema de inteligência artificial. Para tanto, a lei determina que: medidas devem ser tomadas para reduzir os danos e o viés de produção causados pela inteligência artificial de alto impacto; informações públicas sobre inteligência artificial devem ser divulgadas; o ministro da inovação, tecnologia e indústria deve ser autorizado a formular políticas relacionadas a sistemas de inteligência artificial e a "Retenção ou uso de informações pessoais obtidas ilegalmente" são proibidas para proteger a privacidade dos dados com a finalidade de projetar, desenvolver, usar ou fornecer sistemas de inteligência artificial.

Alemanha

A lei da direção autônoma

Lançado em julho de 2021. O objetivo do projeto de lei é fornecer a base legal e a estrutura regulatória para a aplicação comercial da tecnologia sem motorista. Um dos maiores destaques da proposta é que ela fornece uma base legal para a operação normal de veículos não tripulados de nível L4 em trechos específicos de vias expressas e faz esclarecimentos claros sobre requisitos técnicos relevantes, condições de direção e processamento de dados. A Alemanha tornou-se, assim, a primeira no mundo a permitir que veículos não tripulados se juntem ao tráfego diário e o promovam para todo o país.

Outro conteúdo importante do projeto de lei é o estabelecimento de um sistema de monitoramento técnico para "recursos de direção autônoma". Portanto, os proprietários de veículos automotores inteligentes devem regular o uso de veículos automotores para garantir a segurança dos veículos automotores e a compatibilidade do uso de veículos automotores e ser responsáveis pelo uso de veículos automotores. Essas responsabilidades incluem: manutenção regular do sistema para manter a condução autônoma em boas condições de funcionamento, medidas preventivas para o cumprimento das regras de trânsito e responsabilidade pela supervisão técnica. Para cumprimento desta obrigação, o proprietário da viatura deve designar uma pessoa singular com competências especializadas como monitor técnico para monitorizar e intervir remotamente na viatura.