"Hay personas que quieren que la IA esté fuertemente regulada en general porque tienen miedo de las consecuencias de la IA. Porque dicen que si alguien puede dominar la IA, si puede hacer lo que quiera con la IA, entonces la situación será. Puede ser muy peligroso, por lo que debe haber una fuerte regulación de la IA. Estoy totalmente en desacuerdo con eso”.
A los seres humanos les llevó mucho tiempo establecer los mecanismos actuales de ética y gobernanza. Si se permite que la inteligencia artificial desarrolle conciencia e inteligencia como los humanos, ¿cómo pueden los humanos cumplir con los requisitos de ética y gobierno? ¿Cuál es el mecanismo de intervención humana en la inteligencia artificial?
El 6 de julio se inauguró la Conferencia Mundial de Inteligencia Artificial 2023 en Shanghái. Yann LeCun, ganador del Premio Turing 2018 y científico jefe de inteligencia artificial del equipo del Instituto de Investigación de Inteligencia Artificial Básica Meta AI, dijo en la ceremonia de apertura que no está de acuerdo con que "dado que cualquiera puede usar la inteligencia artificial para hacer cualquier cosa, la situación puede ser muy peligroso", por lo que la inteligencia artificial debe ser estrictamente regulada". A la larga, la única forma de hacer que las plataformas de IA sean seguras, buenas y útiles es abrirlas.
Yang Likun habló sobre cómo la inteligencia artificial se vuelve inteligente y controlable. "Si cree que la forma de lograr una inteligencia artificial a nivel humano es hacer un LLM (modelo de lenguaje grande) autorregresivo más grande y luego usar pruebas de datos de modelos múltiples, entonces puede pensar que estos sistemas de inteligencia artificial no son seguros. Pero en De hecho, no creo que este sistema pueda ser muy inteligente. Creo que la forma en que se vuelven inteligentes también es la forma de hacerlos controlables, es decir, el concepto de inteligencia artificial dirigida por objetivos. Esencialmente, es darles objetivos. eso debe cumplirse”. Yang Likun dijo: Algunas de estas metas son metas definidas por la tarea, como por ejemplo, ¿respondió el sistema a la pregunta? ¿El sistema encendió su automóvil? ¿El sistema limpió la mesa? Otros objetivos actúan como vallas de seguridad, como para no lastimar a nadie.
Yang Likun cree que estos sistemas de inteligencia artificial no engañarán ni dominarán a los humanos a través de la infiltración poco a poco. Los humanos pueden establecer objetivos que obliguen a las IA a ser honestas, como obligar a las IA a sucumbir a los humanos, tener cuidado de despertar su curiosidad y darles acceso a recursos que no deberían tener. "Así que creo que estos sistemas serán completamente controlables y manipulables. Los sistemas pueden diseñarse para que sean seguros, pero no es fácil. Diseñar estos objetivos, hacer que el sistema sea seguro, será un desafío de ingeniería difícil".
Pero Yang Likun dijo que los humanos no tienen que diseñarlo bien desde el principio, sino que pueden comenzar construyendo un sistema tan inteligente como un ratón. El objetivo de los humanos es convertirlo en un buen ratón. "Los pondremos en un entorno de pruebas o de simulación y queremos asegurarnos de que estén seguros, lo cual es un tema importante porque hay algunas personas que en general quieren que la IA esté fuertemente regulada porque tienen miedo de las consecuencias de la IA... Porque dicen que si alguien puede hacerse con la IA, si puede hacer lo que quiera con la IA, entonces la situación podría ser muy peligrosa, por lo que debe haber una regulación estricta de la IA. de acuerdo con eso en absoluto.”
Por el contrario, Yang Likun cree que, a largo plazo, la única forma de hacer que las plataformas de inteligencia artificial sean seguras, buenas y prácticas es abrir el código. En el futuro, todos interactuarán con el mundo digital a través de asistentes de inteligencia artificial, y toda la información humana debe pasar por este asistente de inteligencia artificial. Si la tecnología está controlada por unas pocas empresas, esto no es bueno. "Los futuros sistemas de IA serán el tesoro oculto de todo el conocimiento humano, y la forma en que se entrenan debe basarse en numerosas fuentes. Por lo tanto, veremos más LLM de código abierto y más sistemas de IA de código abierto en el futuro".
Ver originales
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Yang Likun, ganador del Premio Turing: La única forma de hacer que las plataformas de IA sean seguras, buenas y prácticas es el código abierto
Fuente: El Papel
reportero zhang jing
"Hay personas que quieren que la IA esté fuertemente regulada en general porque tienen miedo de las consecuencias de la IA. Porque dicen que si alguien puede dominar la IA, si puede hacer lo que quiera con la IA, entonces la situación será. Puede ser muy peligroso, por lo que debe haber una fuerte regulación de la IA. Estoy totalmente en desacuerdo con eso”.
A los seres humanos les llevó mucho tiempo establecer los mecanismos actuales de ética y gobernanza. Si se permite que la inteligencia artificial desarrolle conciencia e inteligencia como los humanos, ¿cómo pueden los humanos cumplir con los requisitos de ética y gobierno? ¿Cuál es el mecanismo de intervención humana en la inteligencia artificial?
El 6 de julio se inauguró la Conferencia Mundial de Inteligencia Artificial 2023 en Shanghái. Yann LeCun, ganador del Premio Turing 2018 y científico jefe de inteligencia artificial del equipo del Instituto de Investigación de Inteligencia Artificial Básica Meta AI, dijo en la ceremonia de apertura que no está de acuerdo con que "dado que cualquiera puede usar la inteligencia artificial para hacer cualquier cosa, la situación puede ser muy peligroso", por lo que la inteligencia artificial debe ser estrictamente regulada". A la larga, la única forma de hacer que las plataformas de IA sean seguras, buenas y útiles es abrirlas.
Yang Likun habló sobre cómo la inteligencia artificial se vuelve inteligente y controlable. "Si cree que la forma de lograr una inteligencia artificial a nivel humano es hacer un LLM (modelo de lenguaje grande) autorregresivo más grande y luego usar pruebas de datos de modelos múltiples, entonces puede pensar que estos sistemas de inteligencia artificial no son seguros. Pero en De hecho, no creo que este sistema pueda ser muy inteligente. Creo que la forma en que se vuelven inteligentes también es la forma de hacerlos controlables, es decir, el concepto de inteligencia artificial dirigida por objetivos. Esencialmente, es darles objetivos. eso debe cumplirse”. Yang Likun dijo: Algunas de estas metas son metas definidas por la tarea, como por ejemplo, ¿respondió el sistema a la pregunta? ¿El sistema encendió su automóvil? ¿El sistema limpió la mesa? Otros objetivos actúan como vallas de seguridad, como para no lastimar a nadie.
Yang Likun cree que estos sistemas de inteligencia artificial no engañarán ni dominarán a los humanos a través de la infiltración poco a poco. Los humanos pueden establecer objetivos que obliguen a las IA a ser honestas, como obligar a las IA a sucumbir a los humanos, tener cuidado de despertar su curiosidad y darles acceso a recursos que no deberían tener. "Así que creo que estos sistemas serán completamente controlables y manipulables. Los sistemas pueden diseñarse para que sean seguros, pero no es fácil. Diseñar estos objetivos, hacer que el sistema sea seguro, será un desafío de ingeniería difícil".
Pero Yang Likun dijo que los humanos no tienen que diseñarlo bien desde el principio, sino que pueden comenzar construyendo un sistema tan inteligente como un ratón. El objetivo de los humanos es convertirlo en un buen ratón. "Los pondremos en un entorno de pruebas o de simulación y queremos asegurarnos de que estén seguros, lo cual es un tema importante porque hay algunas personas que en general quieren que la IA esté fuertemente regulada porque tienen miedo de las consecuencias de la IA... Porque dicen que si alguien puede hacerse con la IA, si puede hacer lo que quiera con la IA, entonces la situación podría ser muy peligrosa, por lo que debe haber una regulación estricta de la IA. de acuerdo con eso en absoluto.”
Por el contrario, Yang Likun cree que, a largo plazo, la única forma de hacer que las plataformas de inteligencia artificial sean seguras, buenas y prácticas es abrir el código. En el futuro, todos interactuarán con el mundo digital a través de asistentes de inteligencia artificial, y toda la información humana debe pasar por este asistente de inteligencia artificial. Si la tecnología está controlada por unas pocas empresas, esto no es bueno. "Los futuros sistemas de IA serán el tesoro oculto de todo el conocimiento humano, y la forma en que se entrenan debe basarse en numerosas fuentes. Por lo tanto, veremos más LLM de código abierto y más sistemas de IA de código abierto en el futuro".