Este pode ser o melhor momento para o famoso diretor britânico Christopher Nolan lançar um novo filme.
Depois que "Tenet" "sucumbiu" devido à nova epidemia da coroa, o novo filme do diretor "Oppenheimer" começará a ser filmado em um mês.
Este filme sobre a vida de Robert Oppenheimer, o "Pai da Bomba Atômica", enfoca como um homem carismático e inteligente liderou o "cérebro mais inteligente do planeta" para superar problemas de física enquanto inventava a história da arma mais perigosa do mundo.
O medo das “ameaças nucleares” com que Nolan e os seus contemporâneos cresceram tem agora um novo eco.
**É que desta vez a bomba atômica tem um novo nome, AI. **
A tecnologia ChatGPT tornou a inteligência artificial popular novamente, e o medo e o entusiasmo em relação às novas tecnologias estão na mesma tendência. Centenas de especialistas em IA emitiram uma carta conjunta afirmando que a inteligência artificial pode representar uma ameaça à “extinção da humanidade”.
A Wired publicou recentemente uma longa entrevista com o diretor Christopher Nolan, na qual o diretor explicou sua opinião sobre a atual "ameaça de IA" muito discutida e a comparação entre inteligência artificial e ameaças nucleares há 70 anos.
Nolan, que já usou o amor para salvar a humanidade em "Interestelar", acredita que a maior ameaça à IA é que os seres humanos têm um desejo instintivo de manter suas criações no altar e, então, se livrar de todas as responsabilidades que precisam assumir. **
O diretor destacou claramente que, em comparação com a luta e a resistência da geração de cientistas de Oppenheimer entre a ciência e os que estão no poder, a atual “busca de supervisão” dos profissionais de IA é “hipócrita”.
Ao mesmo tempo, como um cineasta da velha escola obcecado por cinema, Nolan tem expectativas para o desenvolvimento de IA generativa no campo da criação cinematográfica e televisiva, mas o que ele quer fazer é "dar aos atores uma atmosfera real e ambiente."
“O maior perigo para a humanidade é abrir mão de responsabilidades.” Nolan disse em uma entrevista.
标题：Como Christopher Nolan aprendeu a parar de se preocupar e a amar a IA
Link:
Autora: MARIA STRESHINSKY
Compilador: Jing Yu
A seguir está o texto original da entrevista, editado pelo editor sem alteração do significado original:
01 Destrua o mundo, bomba atômica primeiro
**P: Parece que seu trabalho com Emma (esposa de Nolan, sua produtora de longa data) tem sido, de certa forma, uma preparação para Oppenheimer. **
**Nolan:**É assim que me sinto em relação a este filme.
Eu me sinto assim em todos os projetos que faço. Porque estou tentando desenvolver o que aprendi antes. Sempre que você termina um filme, sempre ficam algumas perguntas sem resposta. Então, no próximo filme, você continua de onde parou.
Em Oppenheimer, literalmente, Oppenheimer é mencionado em Tenet (filme anterior de Nolan).
**P: Então ele está em sua mente há algum tempo. **
Nolan: A história de Oppenheimer está comigo há muitos anos. É uma ideia incrível - alguém está tentando calcular uma relação entre a teoria e o mundo real, e então há uma chance muito pequena de destruir o mundo inteiro. No entanto, eles apertaram o botão de qualquer maneira.
**P: Muito dramático. **
Nolan: Quero dizer, este é literalmente o momento mais dramático de toda a história da humanidade.
**P: Muitas pessoas podem não saber que quando lançamos as bombas em 1945, não foi apenas um momento terrível, foi também o momento em que as pessoas aprenderam que os humanos agora têm a capacidade de exterminar toda a raça humana. **
**Nolan:**Meu sentimento sobre Oppenheimer é que muitas pessoas conhecem o nome, sabem que ele está conectado à bomba atômica, e há algumas coisas complicadas que aconteceram no relacionamento da história americana, e não há nada mais .
Francamente, para mim, **esse é o público ideal para os meus filmes. Aqueles que não sabem nada terão a experiência mais louca. **Porque é uma história maluca.
**P: Você quer dizer a história pessoal dele? **
Nolan: O público deve saber porque ele é uma das pessoas mais importantes de todos os tempos.
O ator favorito de Nolan, Cillian Murphy, interpreta Oppenheimer no filme | Douban Movies
**P: Há uma frase no filme em que alguém diz a Oppenheimer: você pode obrigar qualquer um a fazer qualquer coisa. Algo assim. Ele é um grande gestor que sabe tudo, e naquela sala tem cientistas fazendo X e em outra sala esses cientistas estão fazendo Y, e ele é um cara que guarda tudo na cabeça. **
Nolan: Ele sabe como inspirar as pessoas através do drama de seus personagens, projetando sua própria luz. Ele deu foco a todos os cientistas, autoridades, a todos.
**P: Ele tem carisma real. **
Nolan: Encantador, essa é a palavra perfeita. Faz tudo ganhar forma, e o filme muitas vezes é sobre isso, e é o fascínio dele que permite que esses acadêmicos, esses teóricos se unam e construam algo tão grande e tão importante com as próprias mãos. É um milagre.
**P: Falando em construir algo enorme, estive recentemente na conferência TED em Vancouver e uma das sessões mais interessantes foi uma série de palestras sobre inteligência artificial generativa. Muitos oradores mencionaram bombas atómicas e armas nucleares. O último orador foi um tecnólogo - ele falou sobre a inevitável armamento da inteligência artificial. **
Concluiu o seu discurso dizendo que a única forma de manter a ordem mundial é ter melhores armas de inteligência artificial. Isso é um impedimento. Isso se parece muito com o que as pessoas pensavam sobre a bomba atômica. Parece que seu filme encontrou o momento perfeito para ser lançado.
NOLAN: Acho que o relacionamento é uma questão interessante. Isso é diferente. Mas é a melhor metáfora – e é por isso que a uso em “Tenet” – para desencadear impensadamente os perigos de uma nova tecnologia no mundo. Este é um conto preventivo. Podemos aprender com isso.
Dito isto, **acredito que a bomba atómica foi única no que diz respeito a uma tecnologia que mudou e colocou o mundo em perigo. **
**P: E as origens dessas tecnologias são diferentes? **
Nolan: Há uma diferença fundamental.
Os cientistas que estudam a divisão do átomo têm tentado explicar aos governos que (a energia nuclear) é um facto da natureza, derivado de Deus, ou de quem criou o mundo. É apenas um conhecimento da natureza que isso inevitavelmente acontecerá. Ninguém pode escondê-lo, não o criamos e não somos donos dele. É assim que eles veem.
**P: Em outras palavras, eles sentiram que estavam apenas revelando algo que já existia. **
Nolan: E acho que é difícil para você argumentar sobre inteligência artificial. Claro, alguém fará isso.
P: Você deve ter crescido à sombra de bombas.
Cresci no Reino Unido na década de 1980 e tivemos uma série de movimentos como o desarmamento nuclear e as pessoas estavam muito, muito conscientes da ameaça das armas nucleares. Quando eu tinha 13 anos, meus amigos e eu acreditávamos que eventualmente morreríamos em um apocalipse nuclear.
P: Mas você não fez isso, o mundo seguiu em frente.
Eu estava conversando sobre isso outro dia com Steven Spielberg, que cresceu sob a ameaça da crise dos mísseis cubanos na década de 1960. Mesma coisa.
Houve momentos na história da humanidade em que o perigo de uma guerra nuclear era tão palpável e alarmante para nós que o compreendíamos demasiado bem. É claro que só podemos nos preocupar por um certo tempo antes de seguirmos em frente e começarmos a nos preocupar com outras coisas. O problema é que o perigo não desaparece realmente.
**P: Sim. Quer dizer, sinto que há um mês estávamos todos preocupados com a possibilidade de alguns países poderem realmente usar armas nucleares. **
Nolan: O que me lembro nos anos 80 é que o medo da guerra nuclear havia diminuído em favor do medo da destruição ambiental. **É quase como se os seres humanos não conseguissem manter o medo a longo prazo de uma única ameaça, temos uma relação complicada com o medo. **
Sim, certos países têm usado esta ameaça apocalíptica e este medo para levantar a sua bandeira. Isto é muito perturbador.
Foto de trabalho do diretor Nolan｜Universal Pictures
02 Colocar IA no altar é a coisa mais perigosa
**P: Tão perturbador quanto a ameaça do apocalipse da IA? **
Nolan: Bem, o crescimento da IA em sistemas de armas e os problemas que ela criaria têm sido tão óbvios há anos que poucos jornalistas se preocuparam em escrever sobre isso. **Agora existe um chatbot que pode escrever um artigo para o jornal local, que de repente se vê em crise. **
**P: Nós, da mídia, fazemos isso há anos. perseguir cegamente. Alguns de nós escrevemos sobre inteligência artificial porque ela pode custar-nos o emprego. **
NOLAN: Isso é parte do problema. Para mim, **inteligência artificial é um problema muito simples, é como a palavra algoritmo. Vemos empresas usar algoritmos, e agora inteligência artificial, como forma de evitar a responsabilidade por suas ações. **
**P: Por favor, explique mais algumas frases. **
Nolan: Se aceitarmos a ideia de que a IA é onipotente, aceitamos que ela pode isentar as pessoas da responsabilidade por suas ações – militarmente, socioeconomicamente, etc.
**O maior perigo da IA é que nos livramos da situação atribuindo-lhe essas propriedades divinas. **
Não sei qual é a base mitológica para isso,** mas ao longo da história os humanos tiveram essa tendência de criar falsos ídolos, de moldar algo à nossa própria imagem e depois dizer que temos poderes divinos porque fizemos essas coisas. **
**P: Isso parece muito, muito certo. É como se estivéssemos nesse ponto de inflexão. **
Nolan: Exatamente.
**P: Com esses grandes modelos de linguagem, o próximo passo pode até ser as máquinas começarem a aprender sozinhas. **
Nolan: Houve um artigo interessante no Los Angeles Times sobre ChatGPT e OpenAI. É basicamente ChatGPT um discurso de vendas e OpenAI agora é uma empresa privada. Eles têm a maior máquina de vendas do mundo, e isso é algo muito perigoso. Talvez não devêssemos levar isso às massas porque agora todo mundo quer um assistente de IA.
Isso não significa que não haja perigo real aqui, porque acho que existe. Mas pessoalmente, e esta é apenas a minha opinião, acho que o perigo reside na abdicação da responsabilidade.
**P: As pessoas continuam dizendo que é necessário haver um órgão internacional para regular a IA. **
Nolan: Mas este é o truque político mais antigo das empresas de tecnologia. Certo? Isso é, você sabe, o que a SBF fez com o FTX (o escândalo do colapso das exchanges de criptomoedas); Zuckerberg vem pedindo para ser regulamentado há anos. Porque eles sabem que os burocratas que elegemos não conseguem resolver estas questões.
**P: Como vimos nas audiências no Congresso? **
Nolan: O que eles podem dizer? Quero dizer, é uma questão muito profissional, o establishment versus o criador e Oppenheimer – deixe-me trazer isso de volta ao Oppenheimer.
O problema de Oppenheimer era que ele valorizava o papel dos cientistas no pós-guerra como especialistas que tinham de descobrir como controlar a energia nuclear. Mas quando você vê o que aconteceu com ele, você entende que isso nunca seria permitido acontecer.
**Esta é uma relação muito complexa entre a ciência e os que estão no poder, e nunca foi exposta de forma tão brutal como na história de Oppenheimer. Acho que há várias lições a serem aprendidas com isso. **
Oppenheimer também precisa lidar com a relação entre quem está no poder e a ciência｜Total Film
**P: Por exemplo? **
Nolan: Então ele está tentando trabalhar de dentro do sistema, em vez de se virar e dizer, você sabe, o que precisamos é de amor, ou não o temos. Ele foi muito prático em sua abordagem, mas mesmo assim foi derrotado. É muito complicado, e acho muito hipócrita esses “inventores” de hoje em dia dizerem “precisamos ser regulamentados”. **
**P: Oppenheimer queria que a ciência fosse compartilhada. **
Nolan: Ele usou a palavra Condor. francamente.
**P: Seus pensamentos pareciam ter mudado com o advento da bomba de hidrogênio? **
Nolan: Não, ele também acredita na bomba de hidrogênio. Isso é interessante porque, de certa forma, é um spoiler. Mas por outro lado, isso é história, você pode pesquisar no Google.
Nesse momento importante, à medida que o programa da bomba de hidrogênio avançava, ele começou a fazer um discurso no qual disse: "Eu gostaria de poder lhe contar o que sei. Não posso. Se você soubesse o que eu sei, você entenderia que todos nós temos que compartilhar informações. Essencialmente, é a única maneira de evitar a destruição do mundo.”
Portanto, a franqueza é o meio mais prático, na sua opinião. Ele acredita que as Nações Unidas serão uma instituição poderosa no futuro, com capacidades reais de acção. Ele acreditava que o controle global da energia atômica era a única maneira de garantir a paz mundial. Obviamente, isso não aconteceu.
**P: Ele não previu o que está acontecendo agora, o lento declínio das democracias. **
Nolan: Acho que ele não percebeu isso, foi um momento muito otimista.
**P: É por isso que existe um órgão regulador mundial para IA. **
Nolan: Sim. Mas esse é o problema quando se lida com empresas de tecnologia que se recusam a ser restringidas pela geografia.
Institucionalmente, as empresas de tecnologia são incentivadas e autorizadas a contornar a regulamentação governamental. Isto se tornou uma “perspectiva moral”.
A propósito, isso me faz pensar que o Vale do Silício é mau e que todas essas pessoas são horríveis. Eu não penso assim. É só o system(), é assim que funciona.
**P: Em termos de questões de segurança, a fabricação de armas nucleares requer elementos específicos, mas a IA não tem esta limitação. **
**Nolan:**Durante a Segunda Guerra Mundial, o programa de bomba nuclear britânico foi muito complicado. Eles têm muitos grandes cientistas. Mas o governo de Churchill percebeu que simplesmente não tinha os recursos. Então eles deram tudo o que tinham aos americanos. Eles disseram, você tem tamanho, está longe da linha de frente e tem uma base industrial.
Na minha pesquisa, li uma estatística sobre o número de americanos que participaram na construção da primeira bomba atómica – foi cerca de 500.000. Várias empresas estão envolvidas, e este é um processo físico enorme, por isso é fácil ser descoberto hoje se um país realiza testes nucleares secretamente. Portanto, há algumas coisas que nos dão um pouco de garantia de que esse processo pode ser gerenciado.
E não creio que nenhuma dessas limitações se aplique à inteligência artificial.
**P: Certo, não exatamente para IA - especialmente quando falamos sobre algo sobre IA que é uma ameaça "mais branda". Rápida propagação da desinformação, desemprego tecnológico. **
Nolan: Exatamente, mas não. Acho que a inteligência artificial ainda pode ser uma ferramenta muito poderosa. Estou otimista sobre isso, realmente estou.
**Mas devemos vê-lo como uma ferramenta e a pessoa que o maneja ainda deve manter a responsabilidade pelo manejo da ferramenta. Se concedermos à inteligência artificial o estatuto de humanos, como fizemos com as corporações em algum momento, então sim, teremos enormes problemas. **
03 IA é boa, mas siga a tradição
**P: Você vê a beleza da inteligência artificial, especialmente na produção de filmes? **
Nolan: Ah, claro. Todo o aprendizado de máquina é aplicado à tecnologia deepfake, que é um avanço notável em efeitos visuais e áudio. No longo prazo, em termos de criação ambiental, como construir uma porta ou janela. Se uma grande quantidade de dados, como a aparência das coisas, o reflexo das coisas, etc., for compilada em um banco de dados, será uma ferramenta muito poderosa.
**P: Você usará IA para criar? **
Nolan: Sou um cineasta "analógico" muito tradicional. Filmei em filme para tentar dar aos atores uma realidade completa.
Minha posição em relação à tecnologia, no que se refere ao meu trabalho, é que quero usar a tecnologia onde ela funciona melhor. Por exemplo, se fizermos uma manobra, uma manobra perigosa. Você pode fazer isso com uma coerção mais proeminente e depois apagar na postagem, coisas assim.
**P: Isso significa que isso melhorará a conveniência e a eficiência dos efeitos visuais. **
Nolan: Isto não é uma folha em branco, mas começa com uma ideia mais detalhada e baseada em dados. Pode finalmente quebrar a barreira entre animação e fotografia porque é um híbrido.
Se você disser a um artista para, digamos, fazer um desenho de um astronauta, ele o estará inventando de memória ou de material de referência. Com a IA, é uma abordagem diferente, na verdade você está usando todo o histórico da imagem. **
**P: Use imagens reais. **
Nolan: Usando imagens reais, mas de uma forma completa e radicalmente reconstruída - o que, claro, levanta questões significativas de direitos autorais do artista, que devem ser tratadas de forma adequada.
O filme tenta restaurar a cena de troca entre Oppenheimer e Einstein｜Universal Pictures
**P: Vamos voltar à ciência e ao seu filme. Em uma citação da edição de dezembro de 2014 da WIRED que você editou como convidado, você disse: "Estou fascinado pela relação entre contar histórias e o método científico. Não se trata realmente de compreensão intelectual. É uma sensação de compreender algo." Conte-me sobre seu amor pela ciência. **
Nolan: Bem, sempre me interessei por problemas de astronomia e física. Eu explorei esse hobby em Interestelar. Quando meu irmão (Jonathan Nolan) estava escrevendo o roteiro, ele olhava os experimentos mentais de Einstein e descobriu que havia um sentimento especial de melancolia em alguns deles, e isso tinha a ver com partes do tempo.
Tipo, gêmeos que são separados, um é tirado e o outro cresce um pouco, sabe? **O pensamento de Einstein sobre a física tem praticamente a mesma “qualidade literária” de como você faz esses experimentos mentais, como você enquadra essas ideias. O processo de visualização de que os físicos precisam não é diferente da criação literária. **
**P: Você se sentiu assim durante a fase de edição do filme? **
Nolan: Eu me sinto assim em todas as fases do cinema. Muito do meu trabalho tenta expressar a intuição e o sentimento sobre a forma das coisas. Isso pode ser difícil e complicado.
**P: Acho que se estou trabalhando em uma história e não conheço a estrutura, o fluxo, há algo errado. Não posso falar sobre este trabalho de uma forma significativa. **
Nolan: Penso em estruturas e padrões de uma forma muito geográfica ou geométrica. Ao longo dos anos, ** tentei adotar uma abordagem de estrutura do zero, mas no final foi um processo muito instintivo: esse sentimento tem uma forma narrativa e como ele toma forma? **Fiquei fascinado ao perceber que os físicos passam por um processo muito semelhante. Muito interessante.
**P: Talvez seja uma homenagem a Interestelar, mas os físicos sempre parecem amar muito a física. **
Nolan: Sou apaixonado pela busca da verdade e adoro o método científico. Detesto ver isso deturpado pelos cientistas na mídia ou pela mídia falando em nome dos cientistas. O método científico puro e a ideia de que a ciência procura constantemente refutar-se a si mesma tornam-na mais capaz de elevar a mente humana do que a religião ou qualquer outra coisa.
**P: Antes desta entrevista, assisti ao seu filme com minha mãe. Ela sentiu que seu filme poderia ter uma mensagem muito antinegativista. "Dunquerque", "Interestelar", "Batman". Ou isso é otimismo? **
Nolan: O final de "Inception" é exatamente assim. Alguém teve uma visão niilista desse final, certo? Mas, ao mesmo tempo, ele também ansiava por estar com seus filhos. Essa ambigüidade não é emocional. Para o espectador, é um borrão intelectual.
Curiosamente, acho que há uma relação interessante a ser explorada entre os finais de Inception e Oppenheimer. Oppenheimer teve um final complicado, sentimentos contraditórios.
**P: Como o público inicial respondeu? **
**Nolan: Algumas pessoas deixam o filme em estado de colapso absoluto. **Eles ficaram sem palavras. Os medos que existem nos níveis histórico e factual são expressos nos filmes. Mas o amor pelos personagens, o amor pelos relacionamentos, é tão forte quanto qualquer coisa que já fiz antes.
A casa do diretor em Los Angeles, filmada por seu filho｜MAGNUS NOLAN
**P: Há também a complexidade do assunto. **
Nolan: A história de Oppenheimer é uma coleção de problemas impossíveis, dilemas éticos impossíveis e paradoxos. Não há respostas fáceis em sua história, apenas perguntas difíceis, e é isso que a torna tão convincente.
Acho que podemos encontrar muito otimismo no filme, mas há uma questão primordial pairando no topo. Achei que era necessário fazer algumas perguntas no final para que as pessoas pensassem e iniciassem a discussão.
**P: O que se passava na mente de Oppenheimer antes e depois do lançamento da bomba atômica? O que você acha que ele pensaria? **
NOLAN: A resposta está no filme. Escrevi esse roteiro na primeira pessoa. Isto é o que digo a Cillian (Cillian Murphy, que interpreta Oppenheimer no filme): Vocês são os olhos do público. Ele fez isso. Na maioria das histórias, não fomos além de sua experiência. Esta é minha melhor tentativa de transmitir a resposta a esta pergunta.
**P: Estou um pouco nervoso em ver o trabalho completo. **
Nolan: Acho que você pode ter que esperar muito tempo. É uma experiência intensa porque é uma história intensa. Mostrei recentemente a um cineasta e ele disse que era um filme de terror, e eu não discordei.
É engraçado que você tenha usado a palavra niilismo antes, não acho que meu trabalho possa ser relacionado ao niilismo. Mas **quando comecei a terminar este filme, comecei a sentir esta cor, não nos meus outros filmes, pura escuridão. Está lá, e o filme luta contra isso. **
**P: Isso afeta você? você dormiu bem? **
Nolan: Estou dormindo bem agora e me sinto aliviado por ter terminado a produção. Mas eu gostei muito de assistir esse filme. Acho que você vai entender quando ver esse filme. Ser atraído por coisas assustadoras é uma sensação complicada, sabia? É assim que o espaço do terror se desenrola.
**P: Seu filho assistiu? **
NOLAN: Sim.
**P: Eles sabiam alguma coisa sobre Oppenheimer antes? **
Nolan: Quando comecei a escrever o roteiro, contei a um dos meus filhos, e ele me disse: “Mas ninguém mais se preocupa com isso, armas nucleares”. disse. O mundo mudou novamente.
Esta é uma lição para todos nós, mas especialmente para os jovens.
**O mundo está mudando rapidamente. **
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
Entrevista com "Oppenheimer" Nolan: Destruindo a humanidade, as bombas atômicas são mais aterrorizantes que a IA
Este pode ser o melhor momento para o famoso diretor britânico Christopher Nolan lançar um novo filme.
Depois que "Tenet" "sucumbiu" devido à nova epidemia da coroa, o novo filme do diretor "Oppenheimer" começará a ser filmado em um mês.
Este filme sobre a vida de Robert Oppenheimer, o "Pai da Bomba Atômica", enfoca como um homem carismático e inteligente liderou o "cérebro mais inteligente do planeta" para superar problemas de física enquanto inventava a história da arma mais perigosa do mundo.
O medo das “ameaças nucleares” com que Nolan e os seus contemporâneos cresceram tem agora um novo eco.
**É que desta vez a bomba atômica tem um novo nome, AI. **
A tecnologia ChatGPT tornou a inteligência artificial popular novamente, e o medo e o entusiasmo em relação às novas tecnologias estão na mesma tendência. Centenas de especialistas em IA emitiram uma carta conjunta afirmando que a inteligência artificial pode representar uma ameaça à “extinção da humanidade”.
A Wired publicou recentemente uma longa entrevista com o diretor Christopher Nolan, na qual o diretor explicou sua opinião sobre a atual "ameaça de IA" muito discutida e a comparação entre inteligência artificial e ameaças nucleares há 70 anos.
Nolan, que já usou o amor para salvar a humanidade em "Interestelar", acredita que a maior ameaça à IA é que os seres humanos têm um desejo instintivo de manter suas criações no altar e, então, se livrar de todas as responsabilidades que precisam assumir. **
O diretor destacou claramente que, em comparação com a luta e a resistência da geração de cientistas de Oppenheimer entre a ciência e os que estão no poder, a atual “busca de supervisão” dos profissionais de IA é “hipócrita”.
Ao mesmo tempo, como um cineasta da velha escola obcecado por cinema, Nolan tem expectativas para o desenvolvimento de IA generativa no campo da criação cinematográfica e televisiva, mas o que ele quer fazer é "dar aos atores uma atmosfera real e ambiente."
“O maior perigo para a humanidade é abrir mão de responsabilidades.” Nolan disse em uma entrevista.
标题：Como Christopher Nolan aprendeu a parar de se preocupar e a amar a IA
Link:
Autora: MARIA STRESHINSKY
Compilador: Jing Yu
A seguir está o texto original da entrevista, editado pelo editor sem alteração do significado original:
01 Destrua o mundo, bomba atômica primeiro
**P: Parece que seu trabalho com Emma (esposa de Nolan, sua produtora de longa data) tem sido, de certa forma, uma preparação para Oppenheimer. **
**Nolan:**É assim que me sinto em relação a este filme.
Eu me sinto assim em todos os projetos que faço. Porque estou tentando desenvolver o que aprendi antes. Sempre que você termina um filme, sempre ficam algumas perguntas sem resposta. Então, no próximo filme, você continua de onde parou.
Em Oppenheimer, literalmente, Oppenheimer é mencionado em Tenet (filme anterior de Nolan).
**P: Então ele está em sua mente há algum tempo. **
Nolan: A história de Oppenheimer está comigo há muitos anos. É uma ideia incrível - alguém está tentando calcular uma relação entre a teoria e o mundo real, e então há uma chance muito pequena de destruir o mundo inteiro. No entanto, eles apertaram o botão de qualquer maneira.
**P: Muito dramático. **
Nolan: Quero dizer, este é literalmente o momento mais dramático de toda a história da humanidade.
**P: Muitas pessoas podem não saber que quando lançamos as bombas em 1945, não foi apenas um momento terrível, foi também o momento em que as pessoas aprenderam que os humanos agora têm a capacidade de exterminar toda a raça humana. **
**Nolan:**Meu sentimento sobre Oppenheimer é que muitas pessoas conhecem o nome, sabem que ele está conectado à bomba atômica, e há algumas coisas complicadas que aconteceram no relacionamento da história americana, e não há nada mais .
Francamente, para mim, **esse é o público ideal para os meus filmes. Aqueles que não sabem nada terão a experiência mais louca. **Porque é uma história maluca.
**P: Você quer dizer a história pessoal dele? **
Nolan: O público deve saber porque ele é uma das pessoas mais importantes de todos os tempos.
**P: Há uma frase no filme em que alguém diz a Oppenheimer: você pode obrigar qualquer um a fazer qualquer coisa. Algo assim. Ele é um grande gestor que sabe tudo, e naquela sala tem cientistas fazendo X e em outra sala esses cientistas estão fazendo Y, e ele é um cara que guarda tudo na cabeça. **
Nolan: Ele sabe como inspirar as pessoas através do drama de seus personagens, projetando sua própria luz. Ele deu foco a todos os cientistas, autoridades, a todos.
**P: Ele tem carisma real. **
Nolan: Encantador, essa é a palavra perfeita. Faz tudo ganhar forma, e o filme muitas vezes é sobre isso, e é o fascínio dele que permite que esses acadêmicos, esses teóricos se unam e construam algo tão grande e tão importante com as próprias mãos. É um milagre.
**P: Falando em construir algo enorme, estive recentemente na conferência TED em Vancouver e uma das sessões mais interessantes foi uma série de palestras sobre inteligência artificial generativa. Muitos oradores mencionaram bombas atómicas e armas nucleares. O último orador foi um tecnólogo - ele falou sobre a inevitável armamento da inteligência artificial. **
Concluiu o seu discurso dizendo que a única forma de manter a ordem mundial é ter melhores armas de inteligência artificial. Isso é um impedimento. Isso se parece muito com o que as pessoas pensavam sobre a bomba atômica. Parece que seu filme encontrou o momento perfeito para ser lançado.
NOLAN: Acho que o relacionamento é uma questão interessante. Isso é diferente. Mas é a melhor metáfora – e é por isso que a uso em “Tenet” – para desencadear impensadamente os perigos de uma nova tecnologia no mundo. Este é um conto preventivo. Podemos aprender com isso.
Dito isto, **acredito que a bomba atómica foi única no que diz respeito a uma tecnologia que mudou e colocou o mundo em perigo. **
**P: E as origens dessas tecnologias são diferentes? **
Nolan: Há uma diferença fundamental.
Os cientistas que estudam a divisão do átomo têm tentado explicar aos governos que (a energia nuclear) é um facto da natureza, derivado de Deus, ou de quem criou o mundo. É apenas um conhecimento da natureza que isso inevitavelmente acontecerá. Ninguém pode escondê-lo, não o criamos e não somos donos dele. É assim que eles veem.
**P: Em outras palavras, eles sentiram que estavam apenas revelando algo que já existia. **
Nolan: E acho que é difícil para você argumentar sobre inteligência artificial. Claro, alguém fará isso.
P: Você deve ter crescido à sombra de bombas.
Cresci no Reino Unido na década de 1980 e tivemos uma série de movimentos como o desarmamento nuclear e as pessoas estavam muito, muito conscientes da ameaça das armas nucleares. Quando eu tinha 13 anos, meus amigos e eu acreditávamos que eventualmente morreríamos em um apocalipse nuclear.
P: Mas você não fez isso, o mundo seguiu em frente.
Eu estava conversando sobre isso outro dia com Steven Spielberg, que cresceu sob a ameaça da crise dos mísseis cubanos na década de 1960. Mesma coisa.
Houve momentos na história da humanidade em que o perigo de uma guerra nuclear era tão palpável e alarmante para nós que o compreendíamos demasiado bem. É claro que só podemos nos preocupar por um certo tempo antes de seguirmos em frente e começarmos a nos preocupar com outras coisas. O problema é que o perigo não desaparece realmente.
**P: Sim. Quer dizer, sinto que há um mês estávamos todos preocupados com a possibilidade de alguns países poderem realmente usar armas nucleares. **
Nolan: O que me lembro nos anos 80 é que o medo da guerra nuclear havia diminuído em favor do medo da destruição ambiental. **É quase como se os seres humanos não conseguissem manter o medo a longo prazo de uma única ameaça, temos uma relação complicada com o medo. **
Sim, certos países têm usado esta ameaça apocalíptica e este medo para levantar a sua bandeira. Isto é muito perturbador.
02 Colocar IA no altar é a coisa mais perigosa
**P: Tão perturbador quanto a ameaça do apocalipse da IA? **
Nolan: Bem, o crescimento da IA em sistemas de armas e os problemas que ela criaria têm sido tão óbvios há anos que poucos jornalistas se preocuparam em escrever sobre isso. **Agora existe um chatbot que pode escrever um artigo para o jornal local, que de repente se vê em crise. **
**P: Nós, da mídia, fazemos isso há anos. perseguir cegamente. Alguns de nós escrevemos sobre inteligência artificial porque ela pode custar-nos o emprego. **
NOLAN: Isso é parte do problema. Para mim, **inteligência artificial é um problema muito simples, é como a palavra algoritmo. Vemos empresas usar algoritmos, e agora inteligência artificial, como forma de evitar a responsabilidade por suas ações. **
**P: Por favor, explique mais algumas frases. **
Nolan: Se aceitarmos a ideia de que a IA é onipotente, aceitamos que ela pode isentar as pessoas da responsabilidade por suas ações – militarmente, socioeconomicamente, etc.
**O maior perigo da IA é que nos livramos da situação atribuindo-lhe essas propriedades divinas. **
Não sei qual é a base mitológica para isso,** mas ao longo da história os humanos tiveram essa tendência de criar falsos ídolos, de moldar algo à nossa própria imagem e depois dizer que temos poderes divinos porque fizemos essas coisas. **
**P: Isso parece muito, muito certo. É como se estivéssemos nesse ponto de inflexão. **
Nolan: Exatamente.
**P: Com esses grandes modelos de linguagem, o próximo passo pode até ser as máquinas começarem a aprender sozinhas. **
Nolan: Houve um artigo interessante no Los Angeles Times sobre ChatGPT e OpenAI. É basicamente ChatGPT um discurso de vendas e OpenAI agora é uma empresa privada. Eles têm a maior máquina de vendas do mundo, e isso é algo muito perigoso. Talvez não devêssemos levar isso às massas porque agora todo mundo quer um assistente de IA.
Isso não significa que não haja perigo real aqui, porque acho que existe. Mas pessoalmente, e esta é apenas a minha opinião, acho que o perigo reside na abdicação da responsabilidade.
**P: As pessoas continuam dizendo que é necessário haver um órgão internacional para regular a IA. **
Nolan: Mas este é o truque político mais antigo das empresas de tecnologia. Certo? Isso é, você sabe, o que a SBF fez com o FTX (o escândalo do colapso das exchanges de criptomoedas); Zuckerberg vem pedindo para ser regulamentado há anos. Porque eles sabem que os burocratas que elegemos não conseguem resolver estas questões.
**P: Como vimos nas audiências no Congresso? **
Nolan: O que eles podem dizer? Quero dizer, é uma questão muito profissional, o establishment versus o criador e Oppenheimer – deixe-me trazer isso de volta ao Oppenheimer.
O problema de Oppenheimer era que ele valorizava o papel dos cientistas no pós-guerra como especialistas que tinham de descobrir como controlar a energia nuclear. Mas quando você vê o que aconteceu com ele, você entende que isso nunca seria permitido acontecer.
**Esta é uma relação muito complexa entre a ciência e os que estão no poder, e nunca foi exposta de forma tão brutal como na história de Oppenheimer. Acho que há várias lições a serem aprendidas com isso. **
**P: Por exemplo? **
Nolan: Então ele está tentando trabalhar de dentro do sistema, em vez de se virar e dizer, você sabe, o que precisamos é de amor, ou não o temos. Ele foi muito prático em sua abordagem, mas mesmo assim foi derrotado. É muito complicado, e acho muito hipócrita esses “inventores” de hoje em dia dizerem “precisamos ser regulamentados”. **
**P: Oppenheimer queria que a ciência fosse compartilhada. **
Nolan: Ele usou a palavra Condor. francamente.
**P: Seus pensamentos pareciam ter mudado com o advento da bomba de hidrogênio? **
Nolan: Não, ele também acredita na bomba de hidrogênio. Isso é interessante porque, de certa forma, é um spoiler. Mas por outro lado, isso é história, você pode pesquisar no Google.
Nesse momento importante, à medida que o programa da bomba de hidrogênio avançava, ele começou a fazer um discurso no qual disse: "Eu gostaria de poder lhe contar o que sei. Não posso. Se você soubesse o que eu sei, você entenderia que todos nós temos que compartilhar informações. Essencialmente, é a única maneira de evitar a destruição do mundo.”
Portanto, a franqueza é o meio mais prático, na sua opinião. Ele acredita que as Nações Unidas serão uma instituição poderosa no futuro, com capacidades reais de acção. Ele acreditava que o controle global da energia atômica era a única maneira de garantir a paz mundial. Obviamente, isso não aconteceu.
**P: Ele não previu o que está acontecendo agora, o lento declínio das democracias. **
Nolan: Acho que ele não percebeu isso, foi um momento muito otimista.
**P: É por isso que existe um órgão regulador mundial para IA. **
Nolan: Sim. Mas esse é o problema quando se lida com empresas de tecnologia que se recusam a ser restringidas pela geografia.
Institucionalmente, as empresas de tecnologia são incentivadas e autorizadas a contornar a regulamentação governamental. Isto se tornou uma “perspectiva moral”.
A propósito, isso me faz pensar que o Vale do Silício é mau e que todas essas pessoas são horríveis. Eu não penso assim. É só o system(), é assim que funciona.
**P: Em termos de questões de segurança, a fabricação de armas nucleares requer elementos específicos, mas a IA não tem esta limitação. **
**Nolan:**Durante a Segunda Guerra Mundial, o programa de bomba nuclear britânico foi muito complicado. Eles têm muitos grandes cientistas. Mas o governo de Churchill percebeu que simplesmente não tinha os recursos. Então eles deram tudo o que tinham aos americanos. Eles disseram, você tem tamanho, está longe da linha de frente e tem uma base industrial.
Na minha pesquisa, li uma estatística sobre o número de americanos que participaram na construção da primeira bomba atómica – foi cerca de 500.000. Várias empresas estão envolvidas, e este é um processo físico enorme, por isso é fácil ser descoberto hoje se um país realiza testes nucleares secretamente. Portanto, há algumas coisas que nos dão um pouco de garantia de que esse processo pode ser gerenciado.
E não creio que nenhuma dessas limitações se aplique à inteligência artificial.
**P: Certo, não exatamente para IA - especialmente quando falamos sobre algo sobre IA que é uma ameaça "mais branda". Rápida propagação da desinformação, desemprego tecnológico. **
Nolan: Exatamente, mas não. Acho que a inteligência artificial ainda pode ser uma ferramenta muito poderosa. Estou otimista sobre isso, realmente estou.
**Mas devemos vê-lo como uma ferramenta e a pessoa que o maneja ainda deve manter a responsabilidade pelo manejo da ferramenta. Se concedermos à inteligência artificial o estatuto de humanos, como fizemos com as corporações em algum momento, então sim, teremos enormes problemas. **
03 IA é boa, mas siga a tradição
**P: Você vê a beleza da inteligência artificial, especialmente na produção de filmes? **
Nolan: Ah, claro. Todo o aprendizado de máquina é aplicado à tecnologia deepfake, que é um avanço notável em efeitos visuais e áudio. No longo prazo, em termos de criação ambiental, como construir uma porta ou janela. Se uma grande quantidade de dados, como a aparência das coisas, o reflexo das coisas, etc., for compilada em um banco de dados, será uma ferramenta muito poderosa.
**P: Você usará IA para criar? **
Nolan: Sou um cineasta "analógico" muito tradicional. Filmei em filme para tentar dar aos atores uma realidade completa.
Minha posição em relação à tecnologia, no que se refere ao meu trabalho, é que quero usar a tecnologia onde ela funciona melhor. Por exemplo, se fizermos uma manobra, uma manobra perigosa. Você pode fazer isso com uma coerção mais proeminente e depois apagar na postagem, coisas assim.
**P: Isso significa que isso melhorará a conveniência e a eficiência dos efeitos visuais. **
Nolan: Isto não é uma folha em branco, mas começa com uma ideia mais detalhada e baseada em dados. Pode finalmente quebrar a barreira entre animação e fotografia porque é um híbrido.
Se você disser a um artista para, digamos, fazer um desenho de um astronauta, ele o estará inventando de memória ou de material de referência. Com a IA, é uma abordagem diferente, na verdade você está usando todo o histórico da imagem. **
**P: Use imagens reais. **
Nolan: Usando imagens reais, mas de uma forma completa e radicalmente reconstruída - o que, claro, levanta questões significativas de direitos autorais do artista, que devem ser tratadas de forma adequada.
**P: Vamos voltar à ciência e ao seu filme. Em uma citação da edição de dezembro de 2014 da WIRED que você editou como convidado, você disse: "Estou fascinado pela relação entre contar histórias e o método científico. Não se trata realmente de compreensão intelectual. É uma sensação de compreender algo." Conte-me sobre seu amor pela ciência. **
Nolan: Bem, sempre me interessei por problemas de astronomia e física. Eu explorei esse hobby em Interestelar. Quando meu irmão (Jonathan Nolan) estava escrevendo o roteiro, ele olhava os experimentos mentais de Einstein e descobriu que havia um sentimento especial de melancolia em alguns deles, e isso tinha a ver com partes do tempo.
Tipo, gêmeos que são separados, um é tirado e o outro cresce um pouco, sabe? **O pensamento de Einstein sobre a física tem praticamente a mesma “qualidade literária” de como você faz esses experimentos mentais, como você enquadra essas ideias. O processo de visualização de que os físicos precisam não é diferente da criação literária. **
**P: Você se sentiu assim durante a fase de edição do filme? **
Nolan: Eu me sinto assim em todas as fases do cinema. Muito do meu trabalho tenta expressar a intuição e o sentimento sobre a forma das coisas. Isso pode ser difícil e complicado.
**P: Acho que se estou trabalhando em uma história e não conheço a estrutura, o fluxo, há algo errado. Não posso falar sobre este trabalho de uma forma significativa. **
Nolan: Penso em estruturas e padrões de uma forma muito geográfica ou geométrica. Ao longo dos anos, ** tentei adotar uma abordagem de estrutura do zero, mas no final foi um processo muito instintivo: esse sentimento tem uma forma narrativa e como ele toma forma? **Fiquei fascinado ao perceber que os físicos passam por um processo muito semelhante. Muito interessante.
**P: Talvez seja uma homenagem a Interestelar, mas os físicos sempre parecem amar muito a física. **
Nolan: Sou apaixonado pela busca da verdade e adoro o método científico. Detesto ver isso deturpado pelos cientistas na mídia ou pela mídia falando em nome dos cientistas. O método científico puro e a ideia de que a ciência procura constantemente refutar-se a si mesma tornam-na mais capaz de elevar a mente humana do que a religião ou qualquer outra coisa.
**P: Antes desta entrevista, assisti ao seu filme com minha mãe. Ela sentiu que seu filme poderia ter uma mensagem muito antinegativista. "Dunquerque", "Interestelar", "Batman". Ou isso é otimismo? **
Nolan: O final de "Inception" é exatamente assim. Alguém teve uma visão niilista desse final, certo? Mas, ao mesmo tempo, ele também ansiava por estar com seus filhos. Essa ambigüidade não é emocional. Para o espectador, é um borrão intelectual.
Curiosamente, acho que há uma relação interessante a ser explorada entre os finais de Inception e Oppenheimer. Oppenheimer teve um final complicado, sentimentos contraditórios.
**P: Como o público inicial respondeu? **
**Nolan: Algumas pessoas deixam o filme em estado de colapso absoluto. **Eles ficaram sem palavras. Os medos que existem nos níveis histórico e factual são expressos nos filmes. Mas o amor pelos personagens, o amor pelos relacionamentos, é tão forte quanto qualquer coisa que já fiz antes.
**P: Há também a complexidade do assunto. **
Nolan: A história de Oppenheimer é uma coleção de problemas impossíveis, dilemas éticos impossíveis e paradoxos. Não há respostas fáceis em sua história, apenas perguntas difíceis, e é isso que a torna tão convincente.
Acho que podemos encontrar muito otimismo no filme, mas há uma questão primordial pairando no topo. Achei que era necessário fazer algumas perguntas no final para que as pessoas pensassem e iniciassem a discussão.
**P: O que se passava na mente de Oppenheimer antes e depois do lançamento da bomba atômica? O que você acha que ele pensaria? **
NOLAN: A resposta está no filme. Escrevi esse roteiro na primeira pessoa. Isto é o que digo a Cillian (Cillian Murphy, que interpreta Oppenheimer no filme): Vocês são os olhos do público. Ele fez isso. Na maioria das histórias, não fomos além de sua experiência. Esta é minha melhor tentativa de transmitir a resposta a esta pergunta.
**P: Estou um pouco nervoso em ver o trabalho completo. **
Nolan: Acho que você pode ter que esperar muito tempo. É uma experiência intensa porque é uma história intensa. Mostrei recentemente a um cineasta e ele disse que era um filme de terror, e eu não discordei.
É engraçado que você tenha usado a palavra niilismo antes, não acho que meu trabalho possa ser relacionado ao niilismo. Mas **quando comecei a terminar este filme, comecei a sentir esta cor, não nos meus outros filmes, pura escuridão. Está lá, e o filme luta contra isso. **
**P: Isso afeta você? você dormiu bem? **
Nolan: Estou dormindo bem agora e me sinto aliviado por ter terminado a produção. Mas eu gostei muito de assistir esse filme. Acho que você vai entender quando ver esse filme. Ser atraído por coisas assustadoras é uma sensação complicada, sabia? É assim que o espaço do terror se desenrola.
**P: Seu filho assistiu? **
NOLAN: Sim.
**P: Eles sabiam alguma coisa sobre Oppenheimer antes? **
Nolan: Quando comecei a escrever o roteiro, contei a um dos meus filhos, e ele me disse: “Mas ninguém mais se preocupa com isso, armas nucleares”. disse. O mundo mudou novamente.
Esta é uma lição para todos nós, mas especialmente para os jovens.
**O mundo está mudando rapidamente. **