"Existem pessoas que querem que a IA seja fortemente regulamentada em geral porque têm medo das consequências da IA. Porque dizem que se alguém pode dominar a IA, se pode fazer o que quiser com a IA, então a situação será. muito perigoso, então precisa haver uma forte regulamentação da IA. Discordo totalmente disso.”
Demorou muito tempo para o ser humano estabelecer os atuais mecanismos de ética e governança. Se a inteligência artificial pode desenvolver consciência e inteligência como os humanos, como os humanos podem atender aos requisitos de ética e governança? Qual é o mecanismo de intervenção humana na inteligência artificial?
Em 6 de julho, a Conferência Mundial de Inteligência Artificial de 2023 foi aberta em Xangai. Yann LeCun, vencedor do Prêmio Turing de 2018 e cientista-chefe de inteligência artificial da equipe Meta AI Basic Artificial Intelligence Research Institute, disse na cerimônia de abertura que discorda completamente que "como qualquer um pode usar inteligência artificial para fazer qualquer coisa, a situação pode ser muito perigoso." , então a inteligência artificial precisa ser estritamente regulamentada." A longo prazo, a única maneira de tornar as plataformas de IA seguras, boas e úteis é abrir o código delas.
Yang Likun falou sobre como a inteligência artificial se torna inteligente e controlável. "Se você acha que a maneira de alcançar a inteligência artificial de nível humano é fazer um LLM autorregressivo (Large Language Model) maior e, em seguida, usar o teste de dados de vários modelos, então você pode pensar que esses sistemas de inteligência artificial não são seguros. Mas em Fato I Não acho que esse sistema possa ser muito inteligente. Acho que a maneira como eles se tornam inteligentes também é a maneira de torná-los controláveis, ou seja, o conceito de inteligência artificial orientada por objetivos. Essencialmente, é dar a eles objetivos isso deve ser alcançado.” Yang Likun disse: Algumas dessas metas são metas definidas pela tarefa, como o sistema respondeu à pergunta? O sistema deu partida no seu carro? O sistema limpou a mesa? Outras metas funcionam como cercas de segurança, como não machucar ninguém.
Yang Likun acredita que esses sistemas de inteligência artificial não enganarão ou dominarão os humanos por meio da infiltração pouco a pouco. Os humanos podem definir metas que forçam as IAs a serem honestas, como forçá-las a sucumbir aos humanos, ter cuidado para não deixá-los curiosos e dar-lhes acesso a recursos que não deveriam ter. "Então, acho que esses sistemas serão completamente controláveis e manipuláveis. Os sistemas podem ser projetados para serem seguros, mas não é fácil. Projetar esses alvos, tornando o sistema seguro, será um grande desafio de engenharia."
Mas Yang Likun disse que os humanos não precisam projetar bem desde o início, mas podem começar construindo um sistema tão inteligente quanto um mouse.O objetivo dos humanos é torná-lo um bom mouse. "Vamos colocá-los em uma caixa de areia ou em um ambiente de simulação e queremos ter certeza de que estão seguros, o que é uma questão importante porque há algumas pessoas que, em geral, querem que a IA seja fortemente regulamentada porque têm medo das consequências da IA. Porque eles dizem que se alguém pode se apossar da IA, se eles podem fazer o que quiserem com a IA, então a situação pode ser muito perigosa, então precisa haver uma regulamentação estrita da IA. Eu não concordo com isso em tudo.”
Pelo contrário, Yang Likun acredita que, a longo prazo, a única maneira de tornar as plataformas de inteligência artificial seguras, boas e práticas é abrir o código. No futuro, todos vão interagir com o mundo digital por meio de assistentes de inteligência artificial, e toda informação humana deve passar por esse assistente de inteligência artificial.Se a tecnologia for controlada por poucas empresas, isso não é bom. “Os futuros sistemas de IA serão o tesouro de todo o conhecimento humano, e a forma como eles são treinados precisa ser baseada em várias fontes. Portanto, veremos mais LLMs de código aberto e mais sistemas de IA de código aberto no futuro”.
Ver original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Yang Likun, vencedor do Prêmio Turing: A única maneira de tornar as plataformas de IA seguras, boas e práticas é o código aberto
Fonte: O Papel See More
Repórter Zhang Jing
"Existem pessoas que querem que a IA seja fortemente regulamentada em geral porque têm medo das consequências da IA. Porque dizem que se alguém pode dominar a IA, se pode fazer o que quiser com a IA, então a situação será. muito perigoso, então precisa haver uma forte regulamentação da IA. Discordo totalmente disso.”
Demorou muito tempo para o ser humano estabelecer os atuais mecanismos de ética e governança. Se a inteligência artificial pode desenvolver consciência e inteligência como os humanos, como os humanos podem atender aos requisitos de ética e governança? Qual é o mecanismo de intervenção humana na inteligência artificial?
Em 6 de julho, a Conferência Mundial de Inteligência Artificial de 2023 foi aberta em Xangai. Yann LeCun, vencedor do Prêmio Turing de 2018 e cientista-chefe de inteligência artificial da equipe Meta AI Basic Artificial Intelligence Research Institute, disse na cerimônia de abertura que discorda completamente que "como qualquer um pode usar inteligência artificial para fazer qualquer coisa, a situação pode ser muito perigoso." , então a inteligência artificial precisa ser estritamente regulamentada." A longo prazo, a única maneira de tornar as plataformas de IA seguras, boas e úteis é abrir o código delas.
Yang Likun falou sobre como a inteligência artificial se torna inteligente e controlável. "Se você acha que a maneira de alcançar a inteligência artificial de nível humano é fazer um LLM autorregressivo (Large Language Model) maior e, em seguida, usar o teste de dados de vários modelos, então você pode pensar que esses sistemas de inteligência artificial não são seguros. Mas em Fato I Não acho que esse sistema possa ser muito inteligente. Acho que a maneira como eles se tornam inteligentes também é a maneira de torná-los controláveis, ou seja, o conceito de inteligência artificial orientada por objetivos. Essencialmente, é dar a eles objetivos isso deve ser alcançado.” Yang Likun disse: Algumas dessas metas são metas definidas pela tarefa, como o sistema respondeu à pergunta? O sistema deu partida no seu carro? O sistema limpou a mesa? Outras metas funcionam como cercas de segurança, como não machucar ninguém.
Yang Likun acredita que esses sistemas de inteligência artificial não enganarão ou dominarão os humanos por meio da infiltração pouco a pouco. Os humanos podem definir metas que forçam as IAs a serem honestas, como forçá-las a sucumbir aos humanos, ter cuidado para não deixá-los curiosos e dar-lhes acesso a recursos que não deveriam ter. "Então, acho que esses sistemas serão completamente controláveis e manipuláveis. Os sistemas podem ser projetados para serem seguros, mas não é fácil. Projetar esses alvos, tornando o sistema seguro, será um grande desafio de engenharia."
Mas Yang Likun disse que os humanos não precisam projetar bem desde o início, mas podem começar construindo um sistema tão inteligente quanto um mouse.O objetivo dos humanos é torná-lo um bom mouse. "Vamos colocá-los em uma caixa de areia ou em um ambiente de simulação e queremos ter certeza de que estão seguros, o que é uma questão importante porque há algumas pessoas que, em geral, querem que a IA seja fortemente regulamentada porque têm medo das consequências da IA. Porque eles dizem que se alguém pode se apossar da IA, se eles podem fazer o que quiserem com a IA, então a situação pode ser muito perigosa, então precisa haver uma regulamentação estrita da IA. Eu não concordo com isso em tudo.”
Pelo contrário, Yang Likun acredita que, a longo prazo, a única maneira de tornar as plataformas de inteligência artificial seguras, boas e práticas é abrir o código. No futuro, todos vão interagir com o mundo digital por meio de assistentes de inteligência artificial, e toda informação humana deve passar por esse assistente de inteligência artificial.Se a tecnologia for controlada por poucas empresas, isso não é bom. “Os futuros sistemas de IA serão o tesouro de todo o conhecimento humano, e a forma como eles são treinados precisa ser baseada em várias fontes. Portanto, veremos mais LLMs de código aberto e mais sistemas de IA de código aberto no futuro”.