Este puede ser el mejor momento para que el famoso director británico Christopher Nolan estrene una nueva película.
Después de que "Tenet" "sucumbiera" debido a la nueva epidemia de la corona, la nueva película del director, "Oppenheimer", comenzará a filmarse en un mes.
Esta película sobre la vida de Robert Oppenheimer, el "padre de la bomba atómica", se centra en cómo un hombre carismático e inteligente dirigió "el cerebro más inteligente de la tierra" para superar difíciles problemas de física mientras inventaba la historia más peligrosa del mundo. arma.
El miedo a las "amenazas nucleares" con el que crecieron Nolan y sus contemporáneos tiene ahora un nuevo eco.
**Es que esta vez la bomba atómica tiene un nuevo nombre, IA. **
La tecnología ChatGPT ha vuelto a hacer popular la inteligencia artificial, y el miedo y el entusiasmo por las nuevas tecnologías siguen la misma tendencia. Cientos de expertos en IA emitieron una carta conjunta declarando la amenaza de "extinción humana" que puede traer la inteligencia artificial.
Recientemente, Wired publicó una larga entrevista con el director Christopher Nolan, en la que el director explicó su punto de vista sobre la actualmente tan discutida "amenaza de la IA" y la comparación entre la inteligencia artificial y la amenaza nuclear de hace 70 años.
Nolan, quien una vez usó el amor para salvar a la humanidad en "Interstellar", cree que la mayor amenaza para la IA es que los seres humanos tienen un deseo instintivo de mantener sus creaciones en el altar y luego deshacerse de todas las responsabilidades que deben asumir. **
El director señaló claramente que, en comparación con la generación de científicos de Oppenheimer que luchaban y resistían entre la ciencia y los que estaban en el poder, la "búsqueda de supervisión" de los actuales profesionales de la IA es "hipócrita".
Al mismo tiempo, como cineasta de la vieja escuela obsesionado con el cine, Nolan tiene expectativas sobre el desarrollo de la IA generativa en el campo de la creación cinematográfica y televisiva, pero lo que quiere hacer es "dar a los actores una atmósfera real y ambiente."
"El mayor peligro para la humanidad es renunciar a la responsabilidad.", dijo Nolan en una entrevista.
标题：Cómo Christopher Nolan aprendió a dejar de preocuparse y amar la IA
Enlace:
Por María Streshinsky
Compilador: Jing Yu
El siguiente es el texto original de la entrevista, editado por el editor sin cambiar el significado original:
01 Destruye el mundo, primero la bomba atómica
**P: Parece que tu trabajo con Emma (la esposa de Nolan, su productora desde hace mucho tiempo) ha sido, en cierto modo, una preparación para Oppenheimer. **
Nolan: Eso es lo que siento acerca de esta película.
Siento lo mismo con cada proyecto que hago. Porque estoy tratando de aprovechar lo que he aprendido antes. Cada vez que terminas una película, siempre quedan algunas preguntas sin respuesta. Entonces, en la próxima película, continúas donde lo dejaron las cosas.
En Oppenheimer, muy literalmente, se menciona a Oppenheimer en Tenet (la película anterior de Nolan).
**P: Entonces ha estado en tu mente por un tiempo. **
Nolan: La historia de Oppenheimer ha permanecido conmigo durante años. Es una idea increíble: alguien está tratando de calcular una relación entre la teoría y el mundo real, y luego hay una posibilidad muy pequeña de que destruya el mundo entero. Sin embargo, presionaron el botón.
**P: Muy dramático. **
Nolan: Quiero decir, este es literalmente el momento más dramático de toda la historia de la humanidad.
**P: Mucha gente tal vez no sepa que cuando lanzamos las bombas en 1945, no solo fue un momento terrible, sino que también fue el momento en que la gente aprendió que los humanos ahora tienen la capacidad de acabar con toda la raza humana. **
Nolan: Mi sensación sobre Oppenheimer es que mucha gente conoce el nombre y sabe que tiene algo que ver con la bomba atómica y que sucedieron algunas cosas complicadas en la relación con la historia de Estados Unidos, y no mucho. demás.
Francamente, para mí, ese es el público ideal para mis películas. Aquellos que no saben nada tendrán la experiencia más loca. **Porque es una historia loca.
**P: ¿Te refieres a su historia personal? **
Nolan: El público debería saberlo porque es una de las personas más importantes de todos los tiempos.
El actor reina de Nolan, Cillian Murphy, interpreta a Oppenheimer en la película ｜Douban Movie
**P: Hay una línea en la película donde alguien le dice a Oppenheimer, puedes obligar a cualquiera a hacer cualquier cosa. Algo como esto. Era un gran gerente que lo sabía todo. En esa sala había científicos haciendo X, y en otra sala había científicos haciendo Y. Era un tipo que podía tenerlo todo en su cabeza. **
Nolan: Sabe inspirar a las personas a través del drama de sus personajes, proyectando su propia luz. Les dio a todos los científicos, funcionarios y a todos un objetivo en el que concentrarse.
**P: Tiene verdadero carisma. **
Nolan: Encantador, esa es la palabra perfecta. Permitió que todo tomara forma, y la película toca mucho eso, y fue su carisma el que permitió a estos eruditos, estos teóricos, unirse y construir algo tan enorme e importante con sus propias manos. Es un milagro.
**P: Hablando de construir algo enorme, estuve recientemente en la conferencia TED en Vancouver y una de las sesiones más interesantes fue una serie de charlas sobre inteligencia artificial generativa. Muchos oradores mencionaron las bombas atómicas y las armas nucleares. El último orador fue un tecnólogo: habló sobre la inevitable utilización de la inteligencia artificial como arma. **
Terminó su discurso diciendo que la única manera de mantener el orden mundial es tener mejores armas de IA. Eso es un elemento disuasorio. Eso se parece mucho a lo que la gente piensa de la bomba atómica. Parece que tu película ha encontrado el momento perfecto para estrenarla.
NOLAN: Creo que la relación es una cuestión interesante. Esto es diferente. Pero es la mejor metáfora (y por eso la uso en "Tenet") para desatar irreflexivamente los peligros de una nueva tecnología en el mundo. Esta es una advertencia. Podemos aprender de esto.
Dicho esto, **Creo que la bomba atómica fue única en cuanto a tecnología que cambió y puso en peligro al mundo. **
**P: ¿Y los orígenes de estas tecnologías no son los mismos? **
Nolan: Hay una diferencia fundamental.
Los científicos que estudian la división del átomo han estado tratando de explicar a los gobiernos que (la energía nuclear) es un hecho de la naturaleza, derivado de Dios o de quien creó el mundo. Es sólo un conocimiento de la naturaleza que inevitablemente sucederá. Nadie puede ocultarlo, no lo creamos nosotros y no nos pertenece. Así lo ven ellos.
**P: En otras palabras, sentían que simplemente estaban revelando lo que ya estaba allí. **
Nolan: Y creo que es difícil para ti defender ese argumento sobre la inteligencia artificial. Por supuesto, alguien hará esto.
P: Debes haber crecido a la sombra de la bomba.
Crecí en Gran Bretaña en la década de 1980 y tuvimos una serie de campañas por el desarme nuclear y ese tipo de cosas, y la gente era muy, muy consciente de la amenaza de las armas nucleares. Cuando tenía 13 años, mis amigos y yo creíamos que eventualmente moriríamos en un holocausto nuclear.
P: Pero no lo hiciste, el mundo siguió adelante.
Estaba hablando de esto el otro día con Steven Spielberg, quien creció bajo la amenaza de la crisis de los misiles cubanos en la década de 1960. La misma cosa.
Ha habido momentos en la historia de la humanidad en los que el peligro de una guerra nuclear ha sido tan palpable y palpable para nosotros que lo sabemos muy bien. Por supuesto, sólo podemos preocuparnos durante un tiempo antes de seguir adelante y empezar a preocuparnos por otras cosas. El problema es que el peligro en realidad no desaparece.
**P: Sí. Quiero decir, siento que hace un mes a todos nos preocupaba que algunos países pudieran usar armas nucleares. **
Nolan: Lo que recuerdo de la década de 1980 es que el miedo a una guerra nuclear había disminuido y fue reemplazado por el miedo a la destrucción del medio ambiente. **Es casi como si los humanos no pudiéramos permanecer temerosos de una sola amenaza por mucho tiempo; tenemos una relación complicada con el miedo. **
Sí, ciertos países han estado utilizando esta amenaza apocalíptica y este miedo para levantar su bandera. Esto es muy preocupante.
Foto de trabajo del director Nolan｜Universal Pictures
02 Poner IA en el altar es lo más peligroso
**P: ¿Tan inquietante como la amenaza del apocalipsis de la IA? **
Nolan: Bueno, el crecimiento de la IA en los sistemas de armas y los problemas que crearía han sido tan obvios durante años que pocos periodistas se molestaron en escribir sobre ello. **Ahora hay un chatbot que puede escribir un artículo para el periódico local, lo que de repente es una crisis. **
**P: Los que estamos en los medios hemos estado haciendo esto durante años. perseguir ciegamente. Algunos de nosotros escribimos sobre inteligencia artificial porque podría costarnos nuestros puestos de trabajo. **
Nolan: Eso es parte del problema. Para mí, la inteligencia artificial es un problema muy simple, es como la palabra algoritmo. Vemos que las empresas utilizan algoritmos, y ahora inteligencia artificial, como medio para eludir la responsabilidad por sus acciones. **
**P: Por favor explique algunas oraciones más. **
Nolan: Si aceptamos la idea de que la IA es omnipotente, aceptamos que puede eximir a las personas de la responsabilidad por sus acciones (militarmente, socioeconómicamente, etc.).
**El mayor peligro con la IA es que nos liberamos al atribuirle estas propiedades divinas. **
No sé cuál es la base mitológica de esto,** pero a lo largo de la historia los humanos hemos tenido esta tendencia a crear ídolos falsos, a crear algo a nuestra propia imagen y decir que tenemos poderes divinos porque hicimos estas cosas. **
**P: Esto se siente muy, muy bien. Es como si estuviéramos en ese punto de inflexión. **
Nolan: Exacto.
**P: Con estos grandes modelos de lenguaje, el siguiente paso podría incluso ser que las máquinas comiencen a aprender por sí mismas. **
Nolan: Hay un artículo interesante en Los Angeles Times sobre ChatGPT y OpenAI. Básicamente, ChatGPT es un argumento de venta y OpenAI es ahora una empresa privada. Tienen la máquina de ventas más grande del mundo y es algo muy peligroso. Tal vez no deberíamos llevarlo a las masas porque ahora todo el mundo quiere un asistente de IA.
Eso no significa que no haya peligros reales aquí, porque creo que sí los hay. Pero personalmente, y esta es sólo mi opinión, Creo que el peligro está en abdicar de la responsabilidad.
**P: La gente sigue diciendo que es necesario que haya un organismo internacional para regular la IA. **
Nolan: Pero esta es la estratagema política más antigua de las empresas de tecnología. ¿Bien? Esto es, ya sabes, lo que hizo SBF con FTX [el escándalo del colapso del intercambio de criptomonedas]; Zuckerberg ha estado pidiendo ser regulado durante años. Porque saben que nuestros burócratas electos no pueden entender estas cuestiones en absoluto.
**P: ¿Como vimos en las audiencias del Congreso? **
Nolan: ¿Qué pueden decir? Quiero decir, esto es algo muy profesional, gente en el poder versus creadores y Oppenheimer; permítanme traerlo de vuelta a Oppenheimer.
El problema de Oppenheimer era que valoraba el papel de los científicos en la posguerra como expertos que tenían que descubrir cómo controlar la energía nuclear. Pero cuando ves lo que le pasó, entiendes que eso nunca se permitiría que sucediera.
**Esta es la muy complicada relación entre la ciencia y quienes están en el poder, y nunca ha quedado al descubierto tan brutalmente como en la historia de Oppenheimer. Creo que hay varias lecciones que aprender de esto. **
Oppenheimer también necesita abordar la relación entre los que están en el poder y la ciencia｜Total Film
**P: ¿Por ejemplo? **
Nolan: Así que está tratando de trabajar desde dentro del sistema en lugar de darse la vuelta y decir, ya sabes, lo que necesitamos es amor, o algo de él o nada de él. Su enfoque fue muy práctico, pero aun así fue derrotado. Es muy complicado y creo que es muy hipócrita que estos "inventores" hoy en día digan "necesitamos ser regulados". **
**P: Oppenheimer quiere que se comparta la ciencia. **
Nolan: Usó la palabra Cóndor. Se honesto.
**P: ¿Sus pensamientos parecían haber cambiado con la llegada de la bomba de hidrógeno? **
Nolan: No, él también cree en lo de la bomba de hidrógeno. Es algo interesante porque, en cierto modo, es un spoiler. Pero, por otro lado, eso es historia, puedes buscarlo en Google.
En este importante momento, a medida que avanzaba el programa de la bomba de hidrógeno, comenzó a dar un discurso en el que dijo: "Me gustaría poder decirte lo que sé. No puedo. Si supieras lo que sé, lo entenderías". que debemos compartir información. Básicamente, esta es la única manera de evitar la destrucción del mundo.”
Por eso, en su opinión, la franqueza es el medio más práctico. Ve a las Naciones Unidas como una institución poderosa en el futuro, con capacidad real de acción. Creía que el control global de la energía atómica era la única manera de garantizar la paz mundial. Obviamente, eso no sucedió.
**P: No previó lo que está sucediendo ahora, el lento declive de las democracias. **
Nolan: No creo que él viera eso en absoluto, fue un momento muy optimista.
**P: Por eso existe un organismo rector mundial de la IA. **
Nolan: Sí. Pero ese es el problema cuando se trata de empresas de tecnología que se niegan a tener restricciones geográficas.
Institucionalmente, se alienta y permite a las empresas de tecnología eludir la regulación gubernamental. Esto se ha convertido en una "perspectiva moral".
Por cierto, esto me hace pensar que Silicon Valley es malvado y que toda esa gente es terrible. No lo creo. Es sólo el sistema(), así es como funciona.
**P: A nivel de cuestiones de seguridad, la fabricación de armas nucleares requiere ciertos elementos, pero la IA no tiene esta restricción. **
Nolan: Durante la Segunda Guerra Mundial, el programa británico de bombas nucleares era muy complejo. Tienen muchos grandes científicos. Pero el gobierno de Churchill se dio cuenta de que simplemente no tenía suficientes recursos. Entonces dieron todo lo que tenían a los estadounidenses. Dijeron que tienes tamaño, estás lejos de la primera línea y tienes una base industrial.
En mi investigación, leí una estadística sobre el número de estadounidenses que participaron en la construcción de la primera bomba atómica: alrededor de 500.000. Varias empresas están involucradas y este es un proceso físico enorme, por lo que hoy en día es fácil ser descubierto si un país realiza pruebas nucleares en secreto. Hay algunas cosas que nos dan un poco de seguridad de que este proceso se puede gestionar.
Y no creo que ninguna de esas limitaciones se aplique a la inteligencia artificial.
**P: Sí, en realidad no para la IA, especialmente cuando algunas de las cosas de las que estamos hablando sobre la IA son una amenaza "más suave". Desinformación que se difunde rápidamente, desempleo tecnológico. **
Nolan: De hecho, pero no lo creo del todo. Creo que la IA aún puede ser una herramienta muy poderosa. Soy optimista al respecto, soy realmente optimista.
**Pero debemos verlo como una herramienta, y la persona que la empuña debe seguir siendo responsable de utilizar esa herramienta. Si le damos a la inteligencia artificial el estatus de humanos, como le hemos hecho a las corporaciones en algún momento, entonces sí, tendremos enormes problemas. **
03 La IA es buena, pero sigue la tradición
**P: ¿Ves belleza en la inteligencia artificial, especialmente en el cine? **
Nolan: Oh, por supuesto. Todo el aprendizaje automático se aplica a la tecnología deepfake, lo que supone un avance notable en efectos visuales y audio. A largo plazo, en términos de creación ambiental, como construir una puerta o una ventana. Si se compila una gran cantidad de datos, como la apariencia de las cosas, el reflejo de las cosas, etc., en una base de datos, será una herramienta muy poderosa.
**P: ¿Usarás IA para crear? **
Nolan: Soy un cineasta "analógico" de la vieja escuela. Filmé en película, tratando de darles a los actores una realidad completa.
Mi postura sobre la tecnología, en lo que se refiere a mi trabajo, es que quiero utilizar la tecnología donde mejor funciona. Por ejemplo, si hacemos una acrobacia, una acrobacia peligrosa. Puedes hacerlo con una coacción más visible y luego borrarla, algo así.
**P: Lo que significa que esto mejorará la conveniencia y eficiencia de los efectos visuales. **
Nolan: Este no es un lobo blanco con las manos vacías, parte de una idea más detallada y basada en datos. Finalmente podría romper la barrera entre animación y fotografía, porque es un híbrido.
Si le dices a un artista que, por ejemplo, haga un dibujo de un astronauta, lo está inventando a partir de material de memoria o de referencia. Con la IA, es un enfoque diferente: en realidad estás utilizando todo el historial de la imagen. **
**P: Utilice imágenes reales. **
**Nolan:**Usamos imágenes reales, pero de una manera completa y fundamentalmente reconstruida, lo que por supuesto plantea importantes problemas de derechos de autor de los artistas, que deben abordarse adecuadamente.
La película intenta restaurar la escena del intercambio entre Oppenheimer y Einstein｜Universal Pictures
**P: Volvamos a la ciencia y a su película. En una cita de la edición de diciembre de 2014 de WIRED, que usted fue editor invitado, dijo: "La relación entre la narración y el método científico me fascina. En realidad, no se trata de comprensión intelectual. Es una sensación de captar algo". Cuéntame sobre tu amor por la ciencia. **
Nolan: Bueno, siempre me han interesado los problemas de astronomía y física. Exploré este hobby en Interstellar. Cuando mi hermano (Jonathan Nolan) estaba escribiendo el guión, miraba los experimentos mentales de Einstein y descubrió que había una sensación especial de melancolía en algunos de ellos, y eso tenía que ver con partes del tiempo.
Por ejemplo, después de que se llevaron a un gemelo y lo trajeron de regreso, el otro creció un poco, ¿lo sabías? **El pensamiento de Einstein sobre la física tiene la misma "calidad literaria" que la forma en que se hacen estos experimentos mentales, la forma en que se encuadran estas ideas. El proceso de visualización requerido por los físicos no es diferente al requerido para la creación literaria. **
**P: ¿Te sentiste así durante la etapa de edición de la película? **
Nolan: Me siento así en cada etapa del cine. Gran parte de mi trabajo intenta expresar la intuición y el sentimiento sobre la forma de las cosas. Esto puede resultar difícil y complejo.
**P: Creo que si estoy trabajando en una historia y no conozco la estructura, el flujo, algo anda mal. No puedo hablar de esta pieza de manera significativa. **
Nolan: Pienso en estructuras y patrones de una manera muy geográfica o geométrica. A lo largo de los años,** he intentado adoptar un enfoque estructural desde cero, pero en última instancia es un proceso muy instintivo: ¿este sentimiento tiene una forma narrativa y cómo toma forma? **Me fascinó darme cuenta de que los físicos pasan por un proceso muy similar. Muy interesante.
**P: Quizás esto sea un guiño a Interstellar, pero los físicos siempre parecen amar profundamente la física. **
Nolan: Me apasiona la búsqueda de la verdad y amo el método científico. Odio que los científicos en los medios de comunicación o los medios de comunicación hablen en nombre de los científicos lo tergiversen. El puro método científico y la idea de que la ciencia busca constantemente refutarse a sí misma la hacen más capaz de elevar la mente humana que la religión o cualquier otra cosa.
**P: Antes de esta entrevista, vi tu película con mi madre. Ella sintió que su película podría tener un mensaje muy anti-negativismo. "Dunkerque", "Interstellar", "Batman". ¿O es esto optimismo? **
Nolan: El final de "Inception" es exactamente así. Alguien tenía una visión nihilista de ese final, ¿verdad? Pero al mismo tiempo, también esperaba estar con sus hijos. Esta ambigüedad no es emocional. Para el espectador, es una confusión intelectual.
Curiosamente, creo que hay una relación interesante que explorar entre los finales de "Inception" y "Oppenheimer". Oppenheimer tiene un final complicado y sentimientos complicados.
**P: ¿Cómo ha sido la respuesta inicial de la audiencia? **
**Nolan: Algunas personas salen de las películas en un estado absolutamente devastado. **Se quedaron sin palabras. Todos esos temores que existen a nivel histórico y fáctico están representados en la película. Pero el amor por los personajes, el amor por las relaciones, es tan fuerte como en todos mis trabajos anteriores.
El director estaba en su casa de Los Ángeles y la película fue filmada por su hijo｜MAGNUS NOLAN
**P: También está la complejidad del tema. **
**Nolan:**La historia de Oppenheimer es una colección de problemas imposibles, dilemas éticos imposibles y paradojas. No hay respuestas fáciles en su historia, sólo preguntas difíciles, y eso es lo que la hace tan convincente.
Creo que podemos encontrar mucho sobre lo que ser optimistas en la película, pero hay una pregunta general que se cierne sobre la parte superior. Siento la necesidad de plantear algunas preguntas al final para que la gente piense en ello y genere discusión.
**P: ¿Qué pasaba por la cabeza de Oppenheimer antes y después de que se lanzara la bomba atómica? ¿Qué crees que pensaría? **
**Nolan:**La respuesta está en la película. Escribí este guión en primera persona. Esto es lo que le dije a Cillian (Cillian Murphy, que interpreta a Oppenheimer en la película): Tú eres los ojos del público. El lo hizo. Durante la mayor parte de la historia, nunca llegamos más allá de su experiencia. Este es mi mejor intento de transmitir la respuesta a esta pregunta.
**P: Estoy un poco nervioso por ver el trabajo completo. **
Nolan: Creo que tendrás que esperar mucho tiempo. Es una experiencia intensa porque es una historia intensa. Se la mostré a un cineasta recientemente y me dijo que era una película de terror, y no estuve en desacuerdo.
Es interesante que hayas usado la palabra nihilismo antes. No creo que mi trabajo pueda relacionarse con el nihilismo. Pero** cuando comencé a terminar esta película, comencé a sentir este color, que no tenía en mis otras películas, simplemente oscuridad pura. Está ahí y esta película lucha contra ello. **
**P: ¿Te afecta? ¿Dormiste bien? **
Nolan: Estoy durmiendo muy bien ahora y me siento aliviado de haber terminado. Pero disfruté muchísimo viendo esta película. Creo que cuando veas esta película lo entenderás. Sentirse atraído por algo que da miedo es un sentimiento complicado, ¿sabes? Así se desarrolla el espacio del terror.
**P: ¿Lo han visto sus hijos? **
Nolan: Sí.
**P: ¿Sabían algo sobre Oppenheimer antes? **
NOLAN: Cuando comencé a escribir el guión, se lo conté a uno de mis hijos, y él literalmente me dijo: "Pero ya nadie se preocupa por eso, las armas nucleares". Dos años después, ya no lo hace. . El mundo ha vuelto a cambiar.
Esta es una lección para todos nosotros, pero especialmente para los jóvenes.
**El mundo está cambiando rápidamente. **
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
Entrevista a "Oppenheimer" Nolan: Al destruir a la humanidad, las bombas atómicas son más aterradoras que la IA
Este puede ser el mejor momento para que el famoso director británico Christopher Nolan estrene una nueva película.
Después de que "Tenet" "sucumbiera" debido a la nueva epidemia de la corona, la nueva película del director, "Oppenheimer", comenzará a filmarse en un mes.
Esta película sobre la vida de Robert Oppenheimer, el "padre de la bomba atómica", se centra en cómo un hombre carismático e inteligente dirigió "el cerebro más inteligente de la tierra" para superar difíciles problemas de física mientras inventaba la historia más peligrosa del mundo. arma.
El miedo a las "amenazas nucleares" con el que crecieron Nolan y sus contemporáneos tiene ahora un nuevo eco.
**Es que esta vez la bomba atómica tiene un nuevo nombre, IA. **
La tecnología ChatGPT ha vuelto a hacer popular la inteligencia artificial, y el miedo y el entusiasmo por las nuevas tecnologías siguen la misma tendencia. Cientos de expertos en IA emitieron una carta conjunta declarando la amenaza de "extinción humana" que puede traer la inteligencia artificial.
Recientemente, Wired publicó una larga entrevista con el director Christopher Nolan, en la que el director explicó su punto de vista sobre la actualmente tan discutida "amenaza de la IA" y la comparación entre la inteligencia artificial y la amenaza nuclear de hace 70 años.
Nolan, quien una vez usó el amor para salvar a la humanidad en "Interstellar", cree que la mayor amenaza para la IA es que los seres humanos tienen un deseo instintivo de mantener sus creaciones en el altar y luego deshacerse de todas las responsabilidades que deben asumir. **
El director señaló claramente que, en comparación con la generación de científicos de Oppenheimer que luchaban y resistían entre la ciencia y los que estaban en el poder, la "búsqueda de supervisión" de los actuales profesionales de la IA es "hipócrita".
Al mismo tiempo, como cineasta de la vieja escuela obsesionado con el cine, Nolan tiene expectativas sobre el desarrollo de la IA generativa en el campo de la creación cinematográfica y televisiva, pero lo que quiere hacer es "dar a los actores una atmósfera real y ambiente."
"El mayor peligro para la humanidad es renunciar a la responsabilidad.", dijo Nolan en una entrevista.
标题：Cómo Christopher Nolan aprendió a dejar de preocuparse y amar la IA
Enlace:
Por María Streshinsky
Compilador: Jing Yu
El siguiente es el texto original de la entrevista, editado por el editor sin cambiar el significado original:
01 Destruye el mundo, primero la bomba atómica
**P: Parece que tu trabajo con Emma (la esposa de Nolan, su productora desde hace mucho tiempo) ha sido, en cierto modo, una preparación para Oppenheimer. **
Nolan: Eso es lo que siento acerca de esta película.
Siento lo mismo con cada proyecto que hago. Porque estoy tratando de aprovechar lo que he aprendido antes. Cada vez que terminas una película, siempre quedan algunas preguntas sin respuesta. Entonces, en la próxima película, continúas donde lo dejaron las cosas.
En Oppenheimer, muy literalmente, se menciona a Oppenheimer en Tenet (la película anterior de Nolan).
**P: Entonces ha estado en tu mente por un tiempo. **
Nolan: La historia de Oppenheimer ha permanecido conmigo durante años. Es una idea increíble: alguien está tratando de calcular una relación entre la teoría y el mundo real, y luego hay una posibilidad muy pequeña de que destruya el mundo entero. Sin embargo, presionaron el botón.
**P: Muy dramático. **
Nolan: Quiero decir, este es literalmente el momento más dramático de toda la historia de la humanidad.
**P: Mucha gente tal vez no sepa que cuando lanzamos las bombas en 1945, no solo fue un momento terrible, sino que también fue el momento en que la gente aprendió que los humanos ahora tienen la capacidad de acabar con toda la raza humana. **
Nolan: Mi sensación sobre Oppenheimer es que mucha gente conoce el nombre y sabe que tiene algo que ver con la bomba atómica y que sucedieron algunas cosas complicadas en la relación con la historia de Estados Unidos, y no mucho. demás.
Francamente, para mí, ese es el público ideal para mis películas. Aquellos que no saben nada tendrán la experiencia más loca. **Porque es una historia loca.
**P: ¿Te refieres a su historia personal? **
Nolan: El público debería saberlo porque es una de las personas más importantes de todos los tiempos.
**P: Hay una línea en la película donde alguien le dice a Oppenheimer, puedes obligar a cualquiera a hacer cualquier cosa. Algo como esto. Era un gran gerente que lo sabía todo. En esa sala había científicos haciendo X, y en otra sala había científicos haciendo Y. Era un tipo que podía tenerlo todo en su cabeza. **
Nolan: Sabe inspirar a las personas a través del drama de sus personajes, proyectando su propia luz. Les dio a todos los científicos, funcionarios y a todos un objetivo en el que concentrarse.
**P: Tiene verdadero carisma. **
Nolan: Encantador, esa es la palabra perfecta. Permitió que todo tomara forma, y la película toca mucho eso, y fue su carisma el que permitió a estos eruditos, estos teóricos, unirse y construir algo tan enorme e importante con sus propias manos. Es un milagro.
**P: Hablando de construir algo enorme, estuve recientemente en la conferencia TED en Vancouver y una de las sesiones más interesantes fue una serie de charlas sobre inteligencia artificial generativa. Muchos oradores mencionaron las bombas atómicas y las armas nucleares. El último orador fue un tecnólogo: habló sobre la inevitable utilización de la inteligencia artificial como arma. **
Terminó su discurso diciendo que la única manera de mantener el orden mundial es tener mejores armas de IA. Eso es un elemento disuasorio. Eso se parece mucho a lo que la gente piensa de la bomba atómica. Parece que tu película ha encontrado el momento perfecto para estrenarla.
NOLAN: Creo que la relación es una cuestión interesante. Esto es diferente. Pero es la mejor metáfora (y por eso la uso en "Tenet") para desatar irreflexivamente los peligros de una nueva tecnología en el mundo. Esta es una advertencia. Podemos aprender de esto.
Dicho esto, **Creo que la bomba atómica fue única en cuanto a tecnología que cambió y puso en peligro al mundo. **
**P: ¿Y los orígenes de estas tecnologías no son los mismos? **
Nolan: Hay una diferencia fundamental.
Los científicos que estudian la división del átomo han estado tratando de explicar a los gobiernos que (la energía nuclear) es un hecho de la naturaleza, derivado de Dios o de quien creó el mundo. Es sólo un conocimiento de la naturaleza que inevitablemente sucederá. Nadie puede ocultarlo, no lo creamos nosotros y no nos pertenece. Así lo ven ellos.
**P: En otras palabras, sentían que simplemente estaban revelando lo que ya estaba allí. **
Nolan: Y creo que es difícil para ti defender ese argumento sobre la inteligencia artificial. Por supuesto, alguien hará esto.
P: Debes haber crecido a la sombra de la bomba.
Crecí en Gran Bretaña en la década de 1980 y tuvimos una serie de campañas por el desarme nuclear y ese tipo de cosas, y la gente era muy, muy consciente de la amenaza de las armas nucleares. Cuando tenía 13 años, mis amigos y yo creíamos que eventualmente moriríamos en un holocausto nuclear.
P: Pero no lo hiciste, el mundo siguió adelante.
Estaba hablando de esto el otro día con Steven Spielberg, quien creció bajo la amenaza de la crisis de los misiles cubanos en la década de 1960. La misma cosa.
Ha habido momentos en la historia de la humanidad en los que el peligro de una guerra nuclear ha sido tan palpable y palpable para nosotros que lo sabemos muy bien. Por supuesto, sólo podemos preocuparnos durante un tiempo antes de seguir adelante y empezar a preocuparnos por otras cosas. El problema es que el peligro en realidad no desaparece.
**P: Sí. Quiero decir, siento que hace un mes a todos nos preocupaba que algunos países pudieran usar armas nucleares. **
Nolan: Lo que recuerdo de la década de 1980 es que el miedo a una guerra nuclear había disminuido y fue reemplazado por el miedo a la destrucción del medio ambiente. **Es casi como si los humanos no pudiéramos permanecer temerosos de una sola amenaza por mucho tiempo; tenemos una relación complicada con el miedo. **
Sí, ciertos países han estado utilizando esta amenaza apocalíptica y este miedo para levantar su bandera. Esto es muy preocupante.
02 Poner IA en el altar es lo más peligroso
**P: ¿Tan inquietante como la amenaza del apocalipsis de la IA? **
Nolan: Bueno, el crecimiento de la IA en los sistemas de armas y los problemas que crearía han sido tan obvios durante años que pocos periodistas se molestaron en escribir sobre ello. **Ahora hay un chatbot que puede escribir un artículo para el periódico local, lo que de repente es una crisis. **
**P: Los que estamos en los medios hemos estado haciendo esto durante años. perseguir ciegamente. Algunos de nosotros escribimos sobre inteligencia artificial porque podría costarnos nuestros puestos de trabajo. **
Nolan: Eso es parte del problema. Para mí, la inteligencia artificial es un problema muy simple, es como la palabra algoritmo. Vemos que las empresas utilizan algoritmos, y ahora inteligencia artificial, como medio para eludir la responsabilidad por sus acciones. **
**P: Por favor explique algunas oraciones más. **
Nolan: Si aceptamos la idea de que la IA es omnipotente, aceptamos que puede eximir a las personas de la responsabilidad por sus acciones (militarmente, socioeconómicamente, etc.).
**El mayor peligro con la IA es que nos liberamos al atribuirle estas propiedades divinas. **
No sé cuál es la base mitológica de esto,** pero a lo largo de la historia los humanos hemos tenido esta tendencia a crear ídolos falsos, a crear algo a nuestra propia imagen y decir que tenemos poderes divinos porque hicimos estas cosas. **
**P: Esto se siente muy, muy bien. Es como si estuviéramos en ese punto de inflexión. **
Nolan: Exacto.
**P: Con estos grandes modelos de lenguaje, el siguiente paso podría incluso ser que las máquinas comiencen a aprender por sí mismas. **
Nolan: Hay un artículo interesante en Los Angeles Times sobre ChatGPT y OpenAI. Básicamente, ChatGPT es un argumento de venta y OpenAI es ahora una empresa privada. Tienen la máquina de ventas más grande del mundo y es algo muy peligroso. Tal vez no deberíamos llevarlo a las masas porque ahora todo el mundo quiere un asistente de IA.
Eso no significa que no haya peligros reales aquí, porque creo que sí los hay. Pero personalmente, y esta es sólo mi opinión, Creo que el peligro está en abdicar de la responsabilidad.
**P: La gente sigue diciendo que es necesario que haya un organismo internacional para regular la IA. **
Nolan: Pero esta es la estratagema política más antigua de las empresas de tecnología. ¿Bien? Esto es, ya sabes, lo que hizo SBF con FTX [el escándalo del colapso del intercambio de criptomonedas]; Zuckerberg ha estado pidiendo ser regulado durante años. Porque saben que nuestros burócratas electos no pueden entender estas cuestiones en absoluto.
**P: ¿Como vimos en las audiencias del Congreso? **
Nolan: ¿Qué pueden decir? Quiero decir, esto es algo muy profesional, gente en el poder versus creadores y Oppenheimer; permítanme traerlo de vuelta a Oppenheimer.
El problema de Oppenheimer era que valoraba el papel de los científicos en la posguerra como expertos que tenían que descubrir cómo controlar la energía nuclear. Pero cuando ves lo que le pasó, entiendes que eso nunca se permitiría que sucediera.
**Esta es la muy complicada relación entre la ciencia y quienes están en el poder, y nunca ha quedado al descubierto tan brutalmente como en la historia de Oppenheimer. Creo que hay varias lecciones que aprender de esto. **
**P: ¿Por ejemplo? **
Nolan: Así que está tratando de trabajar desde dentro del sistema en lugar de darse la vuelta y decir, ya sabes, lo que necesitamos es amor, o algo de él o nada de él. Su enfoque fue muy práctico, pero aun así fue derrotado. Es muy complicado y creo que es muy hipócrita que estos "inventores" hoy en día digan "necesitamos ser regulados". **
**P: Oppenheimer quiere que se comparta la ciencia. **
Nolan: Usó la palabra Cóndor. Se honesto.
**P: ¿Sus pensamientos parecían haber cambiado con la llegada de la bomba de hidrógeno? **
Nolan: No, él también cree en lo de la bomba de hidrógeno. Es algo interesante porque, en cierto modo, es un spoiler. Pero, por otro lado, eso es historia, puedes buscarlo en Google.
En este importante momento, a medida que avanzaba el programa de la bomba de hidrógeno, comenzó a dar un discurso en el que dijo: "Me gustaría poder decirte lo que sé. No puedo. Si supieras lo que sé, lo entenderías". que debemos compartir información. Básicamente, esta es la única manera de evitar la destrucción del mundo.”
Por eso, en su opinión, la franqueza es el medio más práctico. Ve a las Naciones Unidas como una institución poderosa en el futuro, con capacidad real de acción. Creía que el control global de la energía atómica era la única manera de garantizar la paz mundial. Obviamente, eso no sucedió.
**P: No previó lo que está sucediendo ahora, el lento declive de las democracias. **
Nolan: No creo que él viera eso en absoluto, fue un momento muy optimista.
**P: Por eso existe un organismo rector mundial de la IA. **
Nolan: Sí. Pero ese es el problema cuando se trata de empresas de tecnología que se niegan a tener restricciones geográficas.
Institucionalmente, se alienta y permite a las empresas de tecnología eludir la regulación gubernamental. Esto se ha convertido en una "perspectiva moral".
Por cierto, esto me hace pensar que Silicon Valley es malvado y que toda esa gente es terrible. No lo creo. Es sólo el sistema(), así es como funciona.
**P: A nivel de cuestiones de seguridad, la fabricación de armas nucleares requiere ciertos elementos, pero la IA no tiene esta restricción. **
Nolan: Durante la Segunda Guerra Mundial, el programa británico de bombas nucleares era muy complejo. Tienen muchos grandes científicos. Pero el gobierno de Churchill se dio cuenta de que simplemente no tenía suficientes recursos. Entonces dieron todo lo que tenían a los estadounidenses. Dijeron que tienes tamaño, estás lejos de la primera línea y tienes una base industrial.
En mi investigación, leí una estadística sobre el número de estadounidenses que participaron en la construcción de la primera bomba atómica: alrededor de 500.000. Varias empresas están involucradas y este es un proceso físico enorme, por lo que hoy en día es fácil ser descubierto si un país realiza pruebas nucleares en secreto. Hay algunas cosas que nos dan un poco de seguridad de que este proceso se puede gestionar.
Y no creo que ninguna de esas limitaciones se aplique a la inteligencia artificial.
**P: Sí, en realidad no para la IA, especialmente cuando algunas de las cosas de las que estamos hablando sobre la IA son una amenaza "más suave". Desinformación que se difunde rápidamente, desempleo tecnológico. **
Nolan: De hecho, pero no lo creo del todo. Creo que la IA aún puede ser una herramienta muy poderosa. Soy optimista al respecto, soy realmente optimista.
**Pero debemos verlo como una herramienta, y la persona que la empuña debe seguir siendo responsable de utilizar esa herramienta. Si le damos a la inteligencia artificial el estatus de humanos, como le hemos hecho a las corporaciones en algún momento, entonces sí, tendremos enormes problemas. **
03 La IA es buena, pero sigue la tradición
**P: ¿Ves belleza en la inteligencia artificial, especialmente en el cine? **
Nolan: Oh, por supuesto. Todo el aprendizaje automático se aplica a la tecnología deepfake, lo que supone un avance notable en efectos visuales y audio. A largo plazo, en términos de creación ambiental, como construir una puerta o una ventana. Si se compila una gran cantidad de datos, como la apariencia de las cosas, el reflejo de las cosas, etc., en una base de datos, será una herramienta muy poderosa.
**P: ¿Usarás IA para crear? **
Nolan: Soy un cineasta "analógico" de la vieja escuela. Filmé en película, tratando de darles a los actores una realidad completa.
Mi postura sobre la tecnología, en lo que se refiere a mi trabajo, es que quiero utilizar la tecnología donde mejor funciona. Por ejemplo, si hacemos una acrobacia, una acrobacia peligrosa. Puedes hacerlo con una coacción más visible y luego borrarla, algo así.
**P: Lo que significa que esto mejorará la conveniencia y eficiencia de los efectos visuales. **
Nolan: Este no es un lobo blanco con las manos vacías, parte de una idea más detallada y basada en datos. Finalmente podría romper la barrera entre animación y fotografía, porque es un híbrido.
Si le dices a un artista que, por ejemplo, haga un dibujo de un astronauta, lo está inventando a partir de material de memoria o de referencia. Con la IA, es un enfoque diferente: en realidad estás utilizando todo el historial de la imagen. **
**P: Utilice imágenes reales. **
**Nolan:**Usamos imágenes reales, pero de una manera completa y fundamentalmente reconstruida, lo que por supuesto plantea importantes problemas de derechos de autor de los artistas, que deben abordarse adecuadamente.
**P: Volvamos a la ciencia y a su película. En una cita de la edición de diciembre de 2014 de WIRED, que usted fue editor invitado, dijo: "La relación entre la narración y el método científico me fascina. En realidad, no se trata de comprensión intelectual. Es una sensación de captar algo". Cuéntame sobre tu amor por la ciencia. **
Nolan: Bueno, siempre me han interesado los problemas de astronomía y física. Exploré este hobby en Interstellar. Cuando mi hermano (Jonathan Nolan) estaba escribiendo el guión, miraba los experimentos mentales de Einstein y descubrió que había una sensación especial de melancolía en algunos de ellos, y eso tenía que ver con partes del tiempo.
Por ejemplo, después de que se llevaron a un gemelo y lo trajeron de regreso, el otro creció un poco, ¿lo sabías? **El pensamiento de Einstein sobre la física tiene la misma "calidad literaria" que la forma en que se hacen estos experimentos mentales, la forma en que se encuadran estas ideas. El proceso de visualización requerido por los físicos no es diferente al requerido para la creación literaria. **
**P: ¿Te sentiste así durante la etapa de edición de la película? **
Nolan: Me siento así en cada etapa del cine. Gran parte de mi trabajo intenta expresar la intuición y el sentimiento sobre la forma de las cosas. Esto puede resultar difícil y complejo.
**P: Creo que si estoy trabajando en una historia y no conozco la estructura, el flujo, algo anda mal. No puedo hablar de esta pieza de manera significativa. **
Nolan: Pienso en estructuras y patrones de una manera muy geográfica o geométrica. A lo largo de los años,** he intentado adoptar un enfoque estructural desde cero, pero en última instancia es un proceso muy instintivo: ¿este sentimiento tiene una forma narrativa y cómo toma forma? **Me fascinó darme cuenta de que los físicos pasan por un proceso muy similar. Muy interesante.
**P: Quizás esto sea un guiño a Interstellar, pero los físicos siempre parecen amar profundamente la física. **
Nolan: Me apasiona la búsqueda de la verdad y amo el método científico. Odio que los científicos en los medios de comunicación o los medios de comunicación hablen en nombre de los científicos lo tergiversen. El puro método científico y la idea de que la ciencia busca constantemente refutarse a sí misma la hacen más capaz de elevar la mente humana que la religión o cualquier otra cosa.
**P: Antes de esta entrevista, vi tu película con mi madre. Ella sintió que su película podría tener un mensaje muy anti-negativismo. "Dunkerque", "Interstellar", "Batman". ¿O es esto optimismo? **
Nolan: El final de "Inception" es exactamente así. Alguien tenía una visión nihilista de ese final, ¿verdad? Pero al mismo tiempo, también esperaba estar con sus hijos. Esta ambigüedad no es emocional. Para el espectador, es una confusión intelectual.
Curiosamente, creo que hay una relación interesante que explorar entre los finales de "Inception" y "Oppenheimer". Oppenheimer tiene un final complicado y sentimientos complicados.
**P: ¿Cómo ha sido la respuesta inicial de la audiencia? **
**Nolan: Algunas personas salen de las películas en un estado absolutamente devastado. **Se quedaron sin palabras. Todos esos temores que existen a nivel histórico y fáctico están representados en la película. Pero el amor por los personajes, el amor por las relaciones, es tan fuerte como en todos mis trabajos anteriores.
**P: También está la complejidad del tema. **
**Nolan:**La historia de Oppenheimer es una colección de problemas imposibles, dilemas éticos imposibles y paradojas. No hay respuestas fáciles en su historia, sólo preguntas difíciles, y eso es lo que la hace tan convincente.
Creo que podemos encontrar mucho sobre lo que ser optimistas en la película, pero hay una pregunta general que se cierne sobre la parte superior. Siento la necesidad de plantear algunas preguntas al final para que la gente piense en ello y genere discusión.
**P: ¿Qué pasaba por la cabeza de Oppenheimer antes y después de que se lanzara la bomba atómica? ¿Qué crees que pensaría? **
**Nolan:**La respuesta está en la película. Escribí este guión en primera persona. Esto es lo que le dije a Cillian (Cillian Murphy, que interpreta a Oppenheimer en la película): Tú eres los ojos del público. El lo hizo. Durante la mayor parte de la historia, nunca llegamos más allá de su experiencia. Este es mi mejor intento de transmitir la respuesta a esta pregunta.
**P: Estoy un poco nervioso por ver el trabajo completo. **
Nolan: Creo que tendrás que esperar mucho tiempo. Es una experiencia intensa porque es una historia intensa. Se la mostré a un cineasta recientemente y me dijo que era una película de terror, y no estuve en desacuerdo.
Es interesante que hayas usado la palabra nihilismo antes. No creo que mi trabajo pueda relacionarse con el nihilismo. Pero** cuando comencé a terminar esta película, comencé a sentir este color, que no tenía en mis otras películas, simplemente oscuridad pura. Está ahí y esta película lucha contra ello. **
**P: ¿Te afecta? ¿Dormiste bien? **
Nolan: Estoy durmiendo muy bien ahora y me siento aliviado de haber terminado. Pero disfruté muchísimo viendo esta película. Creo que cuando veas esta película lo entenderás. Sentirse atraído por algo que da miedo es un sentimiento complicado, ¿sabes? Así se desarrolla el espacio del terror.
**P: ¿Lo han visto sus hijos? **
Nolan: Sí.
**P: ¿Sabían algo sobre Oppenheimer antes? **
NOLAN: Cuando comencé a escribir el guión, se lo conté a uno de mis hijos, y él literalmente me dijo: "Pero ya nadie se preocupa por eso, las armas nucleares". Dos años después, ya no lo hace. . El mundo ha vuelto a cambiar.
Esta es una lección para todos nosotros, pero especialmente para los jóvenes.
**El mundo está cambiando rápidamente. **