Возможно, это лучшее время для выпуска нового фильма известного британского режиссера Кристофера Нолана.
После того, как «Тенет» (Tenet) «провалился» из-за новой коронной эпидемии, новый фильм режиссера «Оппенгеймер» (Oppenheimer) собирается начать писать через месяц.
Этот фильм о жизни Роберта Оппенгеймера, «отца атомной бомбы», рассказывает о том, как харизматичный и умный человек привел «самый умный мозг на земле» к решению сложных физических проблем, одновременно изобретая историю о самой опасной в мире истории. оружие.
Страх перед «ядерными угрозами», с которым выросли Нолан и его современники, теперь получил новое эхо.
**Просто на этот раз у атомной бомбы новое имя — ИИ. **
Технология ChatGPT снова сделала искусственный интеллект популярным, и страх и волнение по поводу новых технологий находятся в той же тенденции. Сотни экспертов по искусственному интеллекту опубликовали совместное письмо, в котором говорится, что искусственный интеллект может представлять угрозу «вымирания человечества».
Wired недавно опубликовал длинное интервью с режиссером Кристофером Ноланом, в котором режиссер подробно изложил свои взгляды на горячо обсуждаемую в настоящее время «угрозу ИИ» и сравнение искусственного интеллекта с ядерной угрозой 70 лет назад.
Нолан, который когда-то использовал любовь для спасения человечества в «Интерстелларе», считает, что самая большая угроза со стороны ИИ заключается в том, что у людей возникает инстинктивное желание положить свои творения на алтарь, а затем избавиться от всей ответственности, которую им приходится нести. **
Директор многозначительно отметил, что по сравнению с борьбой и сопротивлением поколения учёных Оппенгеймера между наукой и власть имущими, нынешний «ищу надзора» за практиками ИИ является «лицемерным».
В то же время, как режиссер старой школы, одержимый кино, Нолан возлагает надежды на развитие генеративного искусственного интеллекта в области создания фильмов и телевидения, но то, что он хочет сделать, — это «дать актерам настоящую атмосферу и среда."
«Самая большая опасность для человечества — отказаться от ответственности.» — сказал Нолан в интервью.
Название: Как Кристофер Нолан научился не беспокоиться и полюбил искусственный интеллект
Связь:
Автор: МАРИЯ СТРЕШИНСКАЯ
Составитель: Цзинъюй
Приводим оригинальный текст интервью, редактор отредактировал его, чтобы не менять первоначальный смысл:
01 Уничтожьте мир, сначала атомная бомба
**В: Такое ощущение, что ваша работа с Эммой (женой Нолана и его давним продюсером) в некотором смысле была подготовкой к «Оппенгеймеру». **
Нолан: Вот что я думаю об этом фильме.
Я чувствую это в отношении каждого проекта, который делаю. Потому что я пытаюсь опираться на то, чему научился раньше. Всякий раз, когда вы заканчиваете фильм, остаются вопросы, которые остаются без ответа. Итак, в следующем фильме вы собираете остатки.
В «Оппенгеймере» Оппенгеймер буквально упоминается в «Тене» (предыдущем фильме Нолана).
**В: Значит, он уже давно у вас на уме? **
Нолан: История Оппенгеймера осталась со мной на долгие годы. Это невероятная идея: кто-то пытается провести расчеты, чтобы найти связь между теорией и реальным миром, и тогда очень мал шанс, что они собираются уничтожить весь мир. Тем не менее, они нажали кнопку.
**В: Очень драматично. **
**Нолан:**Я имею в виду, что это буквально самый драматичный момент за всю историю человечества.
**В: Многие люди, возможно, не знают, что когда мы сбросили бомбы в 1945 году, это был не только ужасающий момент, но и момент, когда люди поняли, что теперь у людей есть возможность уничтожить всю человеческую расу. . **
**Нолан:**Мое мнение об Оппенгеймере таково, что многие люди знают это имя, знают, что он связан с атомной бомбой, и что в американской истории произошли некоторые сложные вещи, и больше ничего нет. .
Честно говоря, для меня это идеальная аудитория для моего фильма. Тот, кто ничего не знает, получит самый безумный опыт. **Потому что это сумасшедшая история.
**В: Вы имеете в виду его личную историю? **
Нолан: Зрители должны знать, потому что он один из самых важных людей всех времен.
Любимый актер Нолана Киллиан Мерфи играет Оппенгеймера в фильме | Douban Movies
**В: В фильме есть строчка, где кто-то сказал Оппенгеймеру, что можно заставить кого угодно сделать что угодно. Что-то вроде этого. Он был отличным менеджером, который знал все: в одной комнате ученые делали X, а в другой комнате ученые делали Y. Он был парнем, который мог держать все это в голове. **
Нолан: Он знает, как вдохновлять людей драматизмом своих персонажей, проецируя свой собственный свет. Он дал всем ученым, чиновникам и каждому цель, на которой следует сосредоточиться.
**В: У него настоящая харизма. **
Нолан: Очаровательный, это идеальное слово. Это позволило всему обрести форму, и в фильме это во многом затрагивается, и именно его харизма позволила этим ученым, этим теоретикам собраться вместе и своими руками построить что-то такое огромное и такое важное. Это чудо.
**Вопрос: Говоря о создании чего-то огромного: недавно я был на конференции TED в Ванкувере, и одной из самых интересных сессий была серия докладов о генеративном искусственном интеллекте. Многие выступавшие упомянули атомные бомбы и ядерное оружие. Последним выступающим был технолог – он говорил о неизбежном превращении искусственного интеллекта в оружие. **
Он закончил свою речь словами, что единственный способ сохранить мировой порядок — это иметь лучшее ИИ-оружие. Это сдерживающий фактор. Это очень похоже на то, как люди думали об атомной бомбе. Такое ощущение, что ваш фильм нашел идеальное время для его выпуска.
Нолан: Я думаю, что отношения — интересный вопрос. Это другое. Но это лучшая метафора (и именно поэтому я использовал ее в «Доводе») об опасностях бездумного распространения новой технологии в мире. Это предостерегающая история. Мы можем извлечь из этого урок.
При этом** я верю, что атомная бомба уникальна с точки зрения меняющих мир и угрожающих технологий. **
**В: А происхождение этих технологий разное? **
Нолан: Есть фундаментальная разница.
Ученые, изучающие расщепление атома, пытаются объяснить правительствам, что (ядерная энергия) — это природный факт, полученный от Бога или от того, кто создал мир. Это просто знание природы о том, что это неизбежно произойдет. Никто не может это скрыть, не мы это создали и не владеем этим. Вот как они это видят.
**В: Другими словами, им казалось, что они просто раскрывают то, что уже было. **
Нолан: И я думаю, вам сложно привести аргументы об искусственном интеллекте. Конечно, кто-то это сделает.
В: Вы, должно быть, выросли в тени бомбы.
Я вырос в Великобритании в 1980-х годах, и у нас была серия кампаний за ядерное разоружение и тому подобное, и люди были очень, очень осведомлены об угрозе ядерного оружия. Когда мне было 13, мы с друзьями верили, что в конечном итоге умрем в ядерной катастрофе.
В: Но вы этого не сделали, мир изменился.
Я говорил об этом на днях со Стивеном Спилбергом, который вырос под угрозой кубинского ракетного кризиса 1960-х годов. То же самое.
В истории человечества были времена, когда опасность ядерной войны была для нас настолько ощутима и ощутима, что мы слишком хорошо это знаем. Конечно, мы можем волноваться очень долго, прежде чем двинемся дальше и начнем беспокоиться о других вещах. Проблема в том, что опасность на самом деле не исчезла.
**В: Да. Я имею в виду, что месяц назад мы все были обеспокоены тем, что некоторые страны действительно могут применить ядерное оружие. **
Нолан: Что я помню, так это то, что в 80-е годы страх перед ядерной войной уступил место страху разрушения окружающей среды. **Это похоже на то, как будто люди не могут поддерживать долгосрочный страх перед одной угрозой: у нас сложные отношения со страхом. **
Да, некоторые страны использовали эту апокалиптическую угрозу и этот страх, чтобы размахивать флагом. Это очень тревожно.
Рабочие фотографии режиссера Нолана｜Universal Pictures
02 Положить ИИ на алтарь — самое опасное
**Вопрос: Настолько же тревожит, как и угроза конца света ИИ? **
Нолан: Что ж, рост использования ИИ в системах вооружения и проблемы, которые он создаст, были настолько очевидны много лет назад, что лишь немногие журналисты удосужились написать об этом. **Теперь есть чат-бот, который может написать статью для местной газеты, и это внезапно привело к кризису. **
**Вопрос: Те из нас, кто работает в средствах массовой информации, занимаются этим уже много лет. слепо преследовать. Некоторые из нас пишут об искусственном интеллекте, потому что это может стоить нам работы. **
Нолан: Это часть проблемы. Для меня искусственный интеллект — очень простая проблема, это как слово «алгоритм». Мы видим, что компании используют алгоритмы, а теперь и искусственный интеллект, как средство ухода от ответственности за свои действия. **
**В: Пожалуйста, объясните еще несколько предложений. **
Нолан: Если мы принимаем идею о том, что ИИ всемогущ, мы признаем, что он может освобождать людей от ответственности за их действия — в военном, социально-экономическом и т. д.
**Самая большая опасность, связанная с ИИ, заключается в том, что мы позволяем себе сойти с крючка, приписывая ему эти богоподобные свойства. **
Я не знаю, какова мифологическая основа этого**, но на протяжении всей истории у людей была склонность создавать ложных идолов, создавать что-то по своему собственному образу, а затем говорить, что у нас есть богоподобные силы, потому что мы создали эти вещи. . **
**В: Это очень, очень верно. Как будто мы находимся в переломном моменте. **
Нолан: Точно.
**Вопрос: Благодаря этим большим языковым моделям машины на следующем этапе могут даже начать обучение самостоятельно. **
Нолан: В Los Angeles Times была интересная статья о ChatGPT и OpenAI. По сути, ChatGPT — это инструмент продаж, а OpenAI теперь является частной компанией. У них самая лучшая в мире машина продаж, и это очень опасная вещь. Возможно, нам не следует продвигать это в массы, потому что в наши дни всем нужен помощник с искусственным интеллектом.
Это не значит, что здесь нет реальной опасности, потому что я думаю, что они есть. Но лично, и это только мое мнение, я считаю, что опасность заключается в отказе от ответственности.
**Вопрос: Люди продолжают говорить, что необходим международный орган по регулированию ИИ. **
Нолан: Но это старейшая политическая уловка технологических компаний. Верно? Вы знаете, это то, что SBF сделал с FTX [скандал с крахом криптовалютной биржи]; Цукерберг уже много лет просит, чтобы его регулировали. Потому что они знают, что наши избранные бюрократы вообще не могут разобраться в этих вопросах.
**Вопрос: Что мы увидели на слушаниях в Конгрессе? **
Нолан: Что они могут сказать? Я имею в виду, это очень профессиональный материал: истеблишмент против создателя и Оппенгеймера — позвольте мне вернуться к Оппенгеймеру.
Проблема Оппенгеймера заключалась в том, что он ценил послевоенную роль ученых как экспертов, которым нужно было выяснить, как контролировать ядерную энергетику. Но когда видишь, что с ним случилось, понимаешь, что этому никогда не будет позволено случиться.
**Это очень сложные отношения между наукой и власть имущими, и они никогда не были раскрыты так жестоко, как в истории Оппенгеймера. Я думаю, что из этого можно извлечь различные уроки. **
Оппенгеймеру также необходимо разобраться с отношениями между власть предержащими и наукой｜Total Film
**В: Например? **
Нолан: Итак, он пытается действовать изнутри системы, а не разворачиваться и говорить: «Знаете, нам нужна любовь, иначе у нас ее нет». Он был очень практичен в своем подходе, но, тем не менее, потерпел поражение. Это очень сложно, и я думаю, что со стороны этих «изобретателей» в наши дни очень лицемерно говорить: «Нас нужно регулировать». **
**Вопрос: Оппенгеймер хочет, чтобы наукой делились. **
Нолан: Он использовал слово Кондор. Будь честным.
**В: Кажется, его мысли изменились с появлением водородной бомбы? **
Нолан: Нет, он тоже верит в водородную бомбу. Это довольно интересно, потому что в каком-то смысле это немного спойлер. Но с другой стороны, это история, можно погуглить.
В этот знаменательный момент, когда программа водородной бомбы продвигалась вперед, он начал свою речь со слов: «Мне хотелось бы рассказать вам то, что я знаю. Я не могу. Если бы вы знали то, что знал я, вы бы поняли: мы должны делиться информацией. По сути, это единственный способ избежать разрушения мира.»
Поэтому откровенность, по его мнению, является самым практичным средством. Он верит, что Организация Объединенных Наций в будущем станет мощной организацией, обладающей реальными возможностями для действий. Он считал, что глобальный контроль над атомной энергией — единственный способ обеспечить мир во всем мире. Очевидно, этого не произошло.
**В: Он не предвидел того, что происходит сейчас – медленного упадка демократий. **
Нолан: Я не думаю, что он вообще этого заметил, это был очень оптимистичный момент.
**В: Именно поэтому существует всемирное агентство по управлению искусственным интеллектом. **
Нолан: Да. Но в этом проблема, когда имеешь дело с технологическими компаниями, которые отказываются ограничиваться географией.
На институциональном уровне технологические компании поощряются и имеют возможность обходить государственное регулирование. Это стало «моралью».
Кстати, это наводит меня на мысль, что Кремниевая долина — это зло и все эти люди ужасны. Я так не думаю. Это просто система(), вот как она работает.
**В: С точки зрения безопасности, производство ядерного оружия требует определенных элементов, но ИИ не имеет этого ограничения. **
Нолан: Во время Второй мировой войны британская программа создания ядерной бомбы была очень сложной. У них много великих ученых. Но правительство Черчилля осознало, что у него просто недостаточно ресурсов. Поэтому они отдали американцам все, что имели. Они сказали, что у вас есть размеры, вы далеко от линии фронта и у вас есть промышленная база.
В своем исследовании я прочитал статистику о количестве американцев, участвовавших в создании первой атомной бомбы — вероятно, около 500 000 человек. В этом задействовано несколько компаний, и это огромный физический процесс, поэтому сегодня легко обнаружить, когда страна тайно проводит ядерные испытания. Итак, есть несколько вещей, которые дают нам некоторую уверенность в том, что этим процессом можно управлять.
И я не думаю, что какие-либо из этих ограничений применимы к искусственному интеллекту.
**В: Верно, не совсем для ИИ, особенно когда мы говорим об ИИ, который представляет собой «более мягкую» угрозу. Быстрое распространение дезинформации, технологическая безработица. **
Нолан: Точно, но я не думаю, что искусственный интеллект все еще может быть очень мощным инструментом. Я настроен оптимистично, я действительно оптимистично настроен.
**Но мы должны рассматривать его как инструмент, и человек, владеющий им, должен по-прежнему нести ответственность за использование этого инструмента. Если мы предоставим искусственному интеллекту статус человека, как мы когда-то сделали с корпорациями, то да, у нас возникнут огромные проблемы. **
03 ИИ — это хорошо, но придерживайтесь традиций
**В: Видите ли вы красоту искусственного интеллекта, особенно в кинопроизводстве? **
Нолан: О, конечно. Все машинное обучение применяется к технологии Deepfake (Deepfake), которая является выдающимся достижением в области визуальных эффектов и звука. В конечном счете, с точки зрения создания среды, например, создания двери или окна. Если вы поместите в базу данных много данных о том, как вещи выглядят, насколько они отражают свет и т. д., это будет очень мощный инструмент.
**В: Будете ли вы использовать ИИ для творчества? **
Нолан: Я режиссер «аналоговых» фильмов очень старой школы. Я снимал на пленку, стараясь придать актерам полную реальность.
Моя позиция в отношении технологий, применительно к моей работе, заключается в том, что я хочу использовать технологии с максимальной пользой. Например, если мы делаем трюк, опасный трюк. Вы можете сделать это с более заметным принуждением, а затем стереть это в публикации и тому подобное.
**В: Это означает, что это повысит удобство и эффективность визуальных эффектов. **
Нолан: Это не чистый лист, все начинается с более детальной и основанной на данных идеи. Возможно, это наконец разрушит барьер между анимацией и фотографией, потому что это гибрид.
Если вы попросите художника, скажем, нарисовать изображение космонавта, он придумает его по памяти или по ссылке. С ИИ другой подход: вы фактически используете всю историю изображения. **
**В: Используйте реальные изображения. **
**Нолан:**Использование реальных изображений, но полностью, фундаментально реконструированных, что, конечно же, поднимает серьезные проблемы с авторскими правами художников, с которыми необходимо должным образом разобраться.
В фильме делается попытка восстановить сцену обмена между Оппенгеймером и Эйнштейном｜Universal Pictures.
**В: Давайте вернемся к науке и вашему фильму. В цитате из декабрьского номера журнала WIRED за 2014 год, который вы редактировали в качестве приглашенного гостя, вы сказали: «Я очарована взаимосвязью между рассказыванием историй и научным методом. На самом деле речь идет не об интеллектуальном понимании. Это чувство понимания чего-то». Расскажи мне о своей любви к науке. **
Нолан: Ну, меня всегда интересовали вопросы астрономии и физики. Я исследовал это хобби в «Интерстелларе». Когда мой брат (Джонатан Нолан) писал сценарий, он смотрел на мысленные эксперименты Эйнштейна и обнаружил, что некоторые из них имели особую меланхолическую окраску, и это было связано с временными частями.
Например, после того, как одного близнеца забрали и вернули, другой немного подрос, вы знали? ** Размышления Эйнштейна о физике обладают таким же «литературным качеством», как и то, как вы проводите эти мысленные эксперименты, как вы формулируете эти идеи. Процесс визуализации, необходимый физикам, мало чем отличается от процесса, необходимого для литературного творчества. **
**В: Вы чувствовали это во время монтажа фильма? **
Нолан: Я чувствую то же самое на каждом этапе кинопроизводства. Большая часть моих работ пытается выразить интуицию и ощущение формы вещей. Это может быть сложно и сложно.
**В: Я считаю, что если я создаю историю и не знаю ее структуры и хода, то возникает проблема. Я не могу говорить об этом произведении осмысленно. **
Нолан: Я думаю о структурах и закономерностях в географическом или геометрическом смысле. На протяжении многих лет** я пытался применить структурный подход с нуля, но в конечном итоге это очень инстинктивный процесс: имеет ли это чувство повествовательную форму и как оно принимает форму? **Я был поражен, осознав, что физики проходят через очень похожий процесс. Очень интересно.
**В: Возможно, это отсылка к «Интерстеллару», но физики всегда очень сильно любили физику. **
Нолан: Я увлечен поиском истины и люблю научный метод. Мне ненавистно видеть, как это искажается учеными в средствах массовой информации или средствами массовой информации, выступающими от имени ученых. Чисто научный метод и идея о том, что наука постоянно стремится опровергнуть саму себя, делают ее более способной развивать человеческий разум, чем религия или что-либо еще.
**В: Перед этим интервью я смотрела ваш фильм вместе с мамой. Она чувствовала, что ваш фильм может нести антинегативистский посыл. Дюнкерк, Интерстеллар, Бэтмен. Или это оптимизм? **
Нолан: Концовка «Начала» именно такая. У кого-то был нигилистический взгляд на этот финал, верно? Но в то же время он с нетерпением ждал возможности побыть со своими детьми. Эта двусмысленность не является эмоциональной. Для зрителя это интеллектуальное размытие.
Интересно, что я думаю, что между финалами «Начала» и «Оппенгеймера» есть интересная взаимосвязь, которую стоит изучить. У Оппенгеймера сложный финал и сложные чувства.
**В: Какова была ранняя реакция аудитории? **
**Нолан: Некоторые люди оставляют фильмы в абсолютно опустошенном состоянии. **Они потеряли дар речи. В фильме представлены все те страхи, которые существуют на историческом и фактическом уровне. Но любовь к персонажам, любовь к отношениям такая же сильная, как и во всех моих предыдущих работах.
Режиссер находился у себя дома в Лос-Анджелесе, а фильм снимал его сын｜МАГНУС НОЛАН.
**В: Существует также сложность этой темы. **
Нолан: История Оппенгеймера представляет собой набор неразрешимых проблем, невозможных этических дилемм и парадоксов. В его истории нет простых ответов, только сложные вопросы, и именно это делает ее такой захватывающей.
Я думаю, что мы можем найти в фильме много оптимизма, но над ним висит один главный вопрос. Я чувствовал, что необходимо задать несколько вопросов в конце, чтобы привлечь внимание людей и вызвать дискуссию.
**Вопрос: Что происходило в голове Оппенгеймера до и после падения атомной бомбы? Как вы думаете, что он подумает? **
НОЛАН: Ответ в фильме. Я написал этот сценарий от первого лица. Вот что я сказал Киллиану (Киллиан Мерфи, который играет Оппенгеймера в фильме): Вы — глаза зрителей. Он сделал это. На протяжении большей части истории мы никогда не выходим за рамки его опыта. Это моя лучшая попытка передать ответ на этот вопрос.
**В: Я немного нервничаю перед просмотром всей работы. **
Нолан: Думаю, тебе придется долго ждать. Это интенсивный опыт, потому что это интенсивная история. Недавно я показал его одному режиссеру, и он сказал, что это фильм ужасов, против чего я не возражал.
Интересно, что Вы раньше использовали слово нигилизм, я не думаю, что мое творчество может быть связано с нигилизмом. Но** когда я начал заканчивать этот фильм, я начал чувствовать этот цвет, которого не было в других моих фильмах, просто чистую тьму. Это есть, и этот фильм борется с этим. **
**В: Это влияет на вас? хорошо ли спалось? **
Нолан: Сейчас я сплю очень хорошо и рад, что закончил. Но я получил огромное удовольствие от просмотра этого фильма. Думаю, когда вы посмотрите этот фильм, вы поймете. Знаешь, влечение к чему-то пугающему — сложное чувство? Так разворачивается пространство ужасов.
**В: Ваш ребенок смотрел это? **
Нолан: Да.
**Вопрос: Знали ли они что-нибудь об Оппенгеймере раньше? **
Нолан: Когда я начал писать сценарий, я рассказал об этом одному из своих сыновей, и он буквально сказал мне: «Но никто больше не беспокоится об этом, ядерное оружие». Мир снова изменился.
Это урок для всех нас, но особенно для молодежи.
**Мир быстро меняется. **
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Интервью «Оппенгеймера» Нолана: Атомные бомбы, уничтожающие человечество, страшнее искусственного интеллекта
Возможно, это лучшее время для выпуска нового фильма известного британского режиссера Кристофера Нолана.
После того, как «Тенет» (Tenet) «провалился» из-за новой коронной эпидемии, новый фильм режиссера «Оппенгеймер» (Oppenheimer) собирается начать писать через месяц.
Этот фильм о жизни Роберта Оппенгеймера, «отца атомной бомбы», рассказывает о том, как харизматичный и умный человек привел «самый умный мозг на земле» к решению сложных физических проблем, одновременно изобретая историю о самой опасной в мире истории. оружие.
Страх перед «ядерными угрозами», с которым выросли Нолан и его современники, теперь получил новое эхо.
**Просто на этот раз у атомной бомбы новое имя — ИИ. **
Технология ChatGPT снова сделала искусственный интеллект популярным, и страх и волнение по поводу новых технологий находятся в той же тенденции. Сотни экспертов по искусственному интеллекту опубликовали совместное письмо, в котором говорится, что искусственный интеллект может представлять угрозу «вымирания человечества».
Wired недавно опубликовал длинное интервью с режиссером Кристофером Ноланом, в котором режиссер подробно изложил свои взгляды на горячо обсуждаемую в настоящее время «угрозу ИИ» и сравнение искусственного интеллекта с ядерной угрозой 70 лет назад.
Нолан, который когда-то использовал любовь для спасения человечества в «Интерстелларе», считает, что самая большая угроза со стороны ИИ заключается в том, что у людей возникает инстинктивное желание положить свои творения на алтарь, а затем избавиться от всей ответственности, которую им приходится нести. **
Директор многозначительно отметил, что по сравнению с борьбой и сопротивлением поколения учёных Оппенгеймера между наукой и власть имущими, нынешний «ищу надзора» за практиками ИИ является «лицемерным».
В то же время, как режиссер старой школы, одержимый кино, Нолан возлагает надежды на развитие генеративного искусственного интеллекта в области создания фильмов и телевидения, но то, что он хочет сделать, — это «дать актерам настоящую атмосферу и среда."
«Самая большая опасность для человечества — отказаться от ответственности.» — сказал Нолан в интервью.
Название: Как Кристофер Нолан научился не беспокоиться и полюбил искусственный интеллект
Связь:
Автор: МАРИЯ СТРЕШИНСКАЯ
Составитель: Цзинъюй
Приводим оригинальный текст интервью, редактор отредактировал его, чтобы не менять первоначальный смысл:
01 Уничтожьте мир, сначала атомная бомба
**В: Такое ощущение, что ваша работа с Эммой (женой Нолана и его давним продюсером) в некотором смысле была подготовкой к «Оппенгеймеру». **
Нолан: Вот что я думаю об этом фильме.
Я чувствую это в отношении каждого проекта, который делаю. Потому что я пытаюсь опираться на то, чему научился раньше. Всякий раз, когда вы заканчиваете фильм, остаются вопросы, которые остаются без ответа. Итак, в следующем фильме вы собираете остатки.
В «Оппенгеймере» Оппенгеймер буквально упоминается в «Тене» (предыдущем фильме Нолана).
**В: Значит, он уже давно у вас на уме? **
Нолан: История Оппенгеймера осталась со мной на долгие годы. Это невероятная идея: кто-то пытается провести расчеты, чтобы найти связь между теорией и реальным миром, и тогда очень мал шанс, что они собираются уничтожить весь мир. Тем не менее, они нажали кнопку.
**В: Очень драматично. **
**Нолан:**Я имею в виду, что это буквально самый драматичный момент за всю историю человечества.
**В: Многие люди, возможно, не знают, что когда мы сбросили бомбы в 1945 году, это был не только ужасающий момент, но и момент, когда люди поняли, что теперь у людей есть возможность уничтожить всю человеческую расу. . **
**Нолан:**Мое мнение об Оппенгеймере таково, что многие люди знают это имя, знают, что он связан с атомной бомбой, и что в американской истории произошли некоторые сложные вещи, и больше ничего нет. .
Честно говоря, для меня это идеальная аудитория для моего фильма. Тот, кто ничего не знает, получит самый безумный опыт. **Потому что это сумасшедшая история.
**В: Вы имеете в виду его личную историю? **
Нолан: Зрители должны знать, потому что он один из самых важных людей всех времен.
**В: В фильме есть строчка, где кто-то сказал Оппенгеймеру, что можно заставить кого угодно сделать что угодно. Что-то вроде этого. Он был отличным менеджером, который знал все: в одной комнате ученые делали X, а в другой комнате ученые делали Y. Он был парнем, который мог держать все это в голове. **
Нолан: Он знает, как вдохновлять людей драматизмом своих персонажей, проецируя свой собственный свет. Он дал всем ученым, чиновникам и каждому цель, на которой следует сосредоточиться.
**В: У него настоящая харизма. **
Нолан: Очаровательный, это идеальное слово. Это позволило всему обрести форму, и в фильме это во многом затрагивается, и именно его харизма позволила этим ученым, этим теоретикам собраться вместе и своими руками построить что-то такое огромное и такое важное. Это чудо.
**Вопрос: Говоря о создании чего-то огромного: недавно я был на конференции TED в Ванкувере, и одной из самых интересных сессий была серия докладов о генеративном искусственном интеллекте. Многие выступавшие упомянули атомные бомбы и ядерное оружие. Последним выступающим был технолог – он говорил о неизбежном превращении искусственного интеллекта в оружие. **
Он закончил свою речь словами, что единственный способ сохранить мировой порядок — это иметь лучшее ИИ-оружие. Это сдерживающий фактор. Это очень похоже на то, как люди думали об атомной бомбе. Такое ощущение, что ваш фильм нашел идеальное время для его выпуска.
Нолан: Я думаю, что отношения — интересный вопрос. Это другое. Но это лучшая метафора (и именно поэтому я использовал ее в «Доводе») об опасностях бездумного распространения новой технологии в мире. Это предостерегающая история. Мы можем извлечь из этого урок.
При этом** я верю, что атомная бомба уникальна с точки зрения меняющих мир и угрожающих технологий. **
**В: А происхождение этих технологий разное? **
Нолан: Есть фундаментальная разница.
Ученые, изучающие расщепление атома, пытаются объяснить правительствам, что (ядерная энергия) — это природный факт, полученный от Бога или от того, кто создал мир. Это просто знание природы о том, что это неизбежно произойдет. Никто не может это скрыть, не мы это создали и не владеем этим. Вот как они это видят.
**В: Другими словами, им казалось, что они просто раскрывают то, что уже было. **
Нолан: И я думаю, вам сложно привести аргументы об искусственном интеллекте. Конечно, кто-то это сделает.
В: Вы, должно быть, выросли в тени бомбы.
Я вырос в Великобритании в 1980-х годах, и у нас была серия кампаний за ядерное разоружение и тому подобное, и люди были очень, очень осведомлены об угрозе ядерного оружия. Когда мне было 13, мы с друзьями верили, что в конечном итоге умрем в ядерной катастрофе.
В: Но вы этого не сделали, мир изменился.
Я говорил об этом на днях со Стивеном Спилбергом, который вырос под угрозой кубинского ракетного кризиса 1960-х годов. То же самое.
В истории человечества были времена, когда опасность ядерной войны была для нас настолько ощутима и ощутима, что мы слишком хорошо это знаем. Конечно, мы можем волноваться очень долго, прежде чем двинемся дальше и начнем беспокоиться о других вещах. Проблема в том, что опасность на самом деле не исчезла.
**В: Да. Я имею в виду, что месяц назад мы все были обеспокоены тем, что некоторые страны действительно могут применить ядерное оружие. **
Нолан: Что я помню, так это то, что в 80-е годы страх перед ядерной войной уступил место страху разрушения окружающей среды. **Это похоже на то, как будто люди не могут поддерживать долгосрочный страх перед одной угрозой: у нас сложные отношения со страхом. **
Да, некоторые страны использовали эту апокалиптическую угрозу и этот страх, чтобы размахивать флагом. Это очень тревожно.
02 Положить ИИ на алтарь — самое опасное
**Вопрос: Настолько же тревожит, как и угроза конца света ИИ? **
Нолан: Что ж, рост использования ИИ в системах вооружения и проблемы, которые он создаст, были настолько очевидны много лет назад, что лишь немногие журналисты удосужились написать об этом. **Теперь есть чат-бот, который может написать статью для местной газеты, и это внезапно привело к кризису. **
**Вопрос: Те из нас, кто работает в средствах массовой информации, занимаются этим уже много лет. слепо преследовать. Некоторые из нас пишут об искусственном интеллекте, потому что это может стоить нам работы. **
Нолан: Это часть проблемы. Для меня искусственный интеллект — очень простая проблема, это как слово «алгоритм». Мы видим, что компании используют алгоритмы, а теперь и искусственный интеллект, как средство ухода от ответственности за свои действия. **
**В: Пожалуйста, объясните еще несколько предложений. **
Нолан: Если мы принимаем идею о том, что ИИ всемогущ, мы признаем, что он может освобождать людей от ответственности за их действия — в военном, социально-экономическом и т. д.
**Самая большая опасность, связанная с ИИ, заключается в том, что мы позволяем себе сойти с крючка, приписывая ему эти богоподобные свойства. **
Я не знаю, какова мифологическая основа этого**, но на протяжении всей истории у людей была склонность создавать ложных идолов, создавать что-то по своему собственному образу, а затем говорить, что у нас есть богоподобные силы, потому что мы создали эти вещи. . **
**В: Это очень, очень верно. Как будто мы находимся в переломном моменте. **
Нолан: Точно.
**Вопрос: Благодаря этим большим языковым моделям машины на следующем этапе могут даже начать обучение самостоятельно. **
Нолан: В Los Angeles Times была интересная статья о ChatGPT и OpenAI. По сути, ChatGPT — это инструмент продаж, а OpenAI теперь является частной компанией. У них самая лучшая в мире машина продаж, и это очень опасная вещь. Возможно, нам не следует продвигать это в массы, потому что в наши дни всем нужен помощник с искусственным интеллектом.
Это не значит, что здесь нет реальной опасности, потому что я думаю, что они есть. Но лично, и это только мое мнение, я считаю, что опасность заключается в отказе от ответственности.
**Вопрос: Люди продолжают говорить, что необходим международный орган по регулированию ИИ. **
Нолан: Но это старейшая политическая уловка технологических компаний. Верно? Вы знаете, это то, что SBF сделал с FTX [скандал с крахом криптовалютной биржи]; Цукерберг уже много лет просит, чтобы его регулировали. Потому что они знают, что наши избранные бюрократы вообще не могут разобраться в этих вопросах.
**Вопрос: Что мы увидели на слушаниях в Конгрессе? **
Нолан: Что они могут сказать? Я имею в виду, это очень профессиональный материал: истеблишмент против создателя и Оппенгеймера — позвольте мне вернуться к Оппенгеймеру.
Проблема Оппенгеймера заключалась в том, что он ценил послевоенную роль ученых как экспертов, которым нужно было выяснить, как контролировать ядерную энергетику. Но когда видишь, что с ним случилось, понимаешь, что этому никогда не будет позволено случиться.
**Это очень сложные отношения между наукой и власть имущими, и они никогда не были раскрыты так жестоко, как в истории Оппенгеймера. Я думаю, что из этого можно извлечь различные уроки. **
**В: Например? **
Нолан: Итак, он пытается действовать изнутри системы, а не разворачиваться и говорить: «Знаете, нам нужна любовь, иначе у нас ее нет». Он был очень практичен в своем подходе, но, тем не менее, потерпел поражение. Это очень сложно, и я думаю, что со стороны этих «изобретателей» в наши дни очень лицемерно говорить: «Нас нужно регулировать». **
**Вопрос: Оппенгеймер хочет, чтобы наукой делились. **
Нолан: Он использовал слово Кондор. Будь честным.
**В: Кажется, его мысли изменились с появлением водородной бомбы? **
Нолан: Нет, он тоже верит в водородную бомбу. Это довольно интересно, потому что в каком-то смысле это немного спойлер. Но с другой стороны, это история, можно погуглить.
В этот знаменательный момент, когда программа водородной бомбы продвигалась вперед, он начал свою речь со слов: «Мне хотелось бы рассказать вам то, что я знаю. Я не могу. Если бы вы знали то, что знал я, вы бы поняли: мы должны делиться информацией. По сути, это единственный способ избежать разрушения мира.»
Поэтому откровенность, по его мнению, является самым практичным средством. Он верит, что Организация Объединенных Наций в будущем станет мощной организацией, обладающей реальными возможностями для действий. Он считал, что глобальный контроль над атомной энергией — единственный способ обеспечить мир во всем мире. Очевидно, этого не произошло.
**В: Он не предвидел того, что происходит сейчас – медленного упадка демократий. **
Нолан: Я не думаю, что он вообще этого заметил, это был очень оптимистичный момент.
**В: Именно поэтому существует всемирное агентство по управлению искусственным интеллектом. **
Нолан: Да. Но в этом проблема, когда имеешь дело с технологическими компаниями, которые отказываются ограничиваться географией.
На институциональном уровне технологические компании поощряются и имеют возможность обходить государственное регулирование. Это стало «моралью».
Кстати, это наводит меня на мысль, что Кремниевая долина — это зло и все эти люди ужасны. Я так не думаю. Это просто система(), вот как она работает.
**В: С точки зрения безопасности, производство ядерного оружия требует определенных элементов, но ИИ не имеет этого ограничения. **
Нолан: Во время Второй мировой войны британская программа создания ядерной бомбы была очень сложной. У них много великих ученых. Но правительство Черчилля осознало, что у него просто недостаточно ресурсов. Поэтому они отдали американцам все, что имели. Они сказали, что у вас есть размеры, вы далеко от линии фронта и у вас есть промышленная база.
В своем исследовании я прочитал статистику о количестве американцев, участвовавших в создании первой атомной бомбы — вероятно, около 500 000 человек. В этом задействовано несколько компаний, и это огромный физический процесс, поэтому сегодня легко обнаружить, когда страна тайно проводит ядерные испытания. Итак, есть несколько вещей, которые дают нам некоторую уверенность в том, что этим процессом можно управлять.
И я не думаю, что какие-либо из этих ограничений применимы к искусственному интеллекту.
**В: Верно, не совсем для ИИ, особенно когда мы говорим об ИИ, который представляет собой «более мягкую» угрозу. Быстрое распространение дезинформации, технологическая безработица. **
Нолан: Точно, но я не думаю, что искусственный интеллект все еще может быть очень мощным инструментом. Я настроен оптимистично, я действительно оптимистично настроен.
**Но мы должны рассматривать его как инструмент, и человек, владеющий им, должен по-прежнему нести ответственность за использование этого инструмента. Если мы предоставим искусственному интеллекту статус человека, как мы когда-то сделали с корпорациями, то да, у нас возникнут огромные проблемы. **
03 ИИ — это хорошо, но придерживайтесь традиций
**В: Видите ли вы красоту искусственного интеллекта, особенно в кинопроизводстве? **
Нолан: О, конечно. Все машинное обучение применяется к технологии Deepfake (Deepfake), которая является выдающимся достижением в области визуальных эффектов и звука. В конечном счете, с точки зрения создания среды, например, создания двери или окна. Если вы поместите в базу данных много данных о том, как вещи выглядят, насколько они отражают свет и т. д., это будет очень мощный инструмент.
**В: Будете ли вы использовать ИИ для творчества? **
Нолан: Я режиссер «аналоговых» фильмов очень старой школы. Я снимал на пленку, стараясь придать актерам полную реальность.
Моя позиция в отношении технологий, применительно к моей работе, заключается в том, что я хочу использовать технологии с максимальной пользой. Например, если мы делаем трюк, опасный трюк. Вы можете сделать это с более заметным принуждением, а затем стереть это в публикации и тому подобное.
**В: Это означает, что это повысит удобство и эффективность визуальных эффектов. **
Нолан: Это не чистый лист, все начинается с более детальной и основанной на данных идеи. Возможно, это наконец разрушит барьер между анимацией и фотографией, потому что это гибрид.
Если вы попросите художника, скажем, нарисовать изображение космонавта, он придумает его по памяти или по ссылке. С ИИ другой подход: вы фактически используете всю историю изображения. **
**В: Используйте реальные изображения. **
**Нолан:**Использование реальных изображений, но полностью, фундаментально реконструированных, что, конечно же, поднимает серьезные проблемы с авторскими правами художников, с которыми необходимо должным образом разобраться.
**В: Давайте вернемся к науке и вашему фильму. В цитате из декабрьского номера журнала WIRED за 2014 год, который вы редактировали в качестве приглашенного гостя, вы сказали: «Я очарована взаимосвязью между рассказыванием историй и научным методом. На самом деле речь идет не об интеллектуальном понимании. Это чувство понимания чего-то». Расскажи мне о своей любви к науке. **
Нолан: Ну, меня всегда интересовали вопросы астрономии и физики. Я исследовал это хобби в «Интерстелларе». Когда мой брат (Джонатан Нолан) писал сценарий, он смотрел на мысленные эксперименты Эйнштейна и обнаружил, что некоторые из них имели особую меланхолическую окраску, и это было связано с временными частями.
Например, после того, как одного близнеца забрали и вернули, другой немного подрос, вы знали? ** Размышления Эйнштейна о физике обладают таким же «литературным качеством», как и то, как вы проводите эти мысленные эксперименты, как вы формулируете эти идеи. Процесс визуализации, необходимый физикам, мало чем отличается от процесса, необходимого для литературного творчества. **
**В: Вы чувствовали это во время монтажа фильма? **
Нолан: Я чувствую то же самое на каждом этапе кинопроизводства. Большая часть моих работ пытается выразить интуицию и ощущение формы вещей. Это может быть сложно и сложно.
**В: Я считаю, что если я создаю историю и не знаю ее структуры и хода, то возникает проблема. Я не могу говорить об этом произведении осмысленно. **
Нолан: Я думаю о структурах и закономерностях в географическом или геометрическом смысле. На протяжении многих лет** я пытался применить структурный подход с нуля, но в конечном итоге это очень инстинктивный процесс: имеет ли это чувство повествовательную форму и как оно принимает форму? **Я был поражен, осознав, что физики проходят через очень похожий процесс. Очень интересно.
**В: Возможно, это отсылка к «Интерстеллару», но физики всегда очень сильно любили физику. **
Нолан: Я увлечен поиском истины и люблю научный метод. Мне ненавистно видеть, как это искажается учеными в средствах массовой информации или средствами массовой информации, выступающими от имени ученых. Чисто научный метод и идея о том, что наука постоянно стремится опровергнуть саму себя, делают ее более способной развивать человеческий разум, чем религия или что-либо еще.
**В: Перед этим интервью я смотрела ваш фильм вместе с мамой. Она чувствовала, что ваш фильм может нести антинегативистский посыл. Дюнкерк, Интерстеллар, Бэтмен. Или это оптимизм? **
Нолан: Концовка «Начала» именно такая. У кого-то был нигилистический взгляд на этот финал, верно? Но в то же время он с нетерпением ждал возможности побыть со своими детьми. Эта двусмысленность не является эмоциональной. Для зрителя это интеллектуальное размытие.
Интересно, что я думаю, что между финалами «Начала» и «Оппенгеймера» есть интересная взаимосвязь, которую стоит изучить. У Оппенгеймера сложный финал и сложные чувства.
**В: Какова была ранняя реакция аудитории? **
**Нолан: Некоторые люди оставляют фильмы в абсолютно опустошенном состоянии. **Они потеряли дар речи. В фильме представлены все те страхи, которые существуют на историческом и фактическом уровне. Но любовь к персонажам, любовь к отношениям такая же сильная, как и во всех моих предыдущих работах.
**В: Существует также сложность этой темы. **
Нолан: История Оппенгеймера представляет собой набор неразрешимых проблем, невозможных этических дилемм и парадоксов. В его истории нет простых ответов, только сложные вопросы, и именно это делает ее такой захватывающей.
Я думаю, что мы можем найти в фильме много оптимизма, но над ним висит один главный вопрос. Я чувствовал, что необходимо задать несколько вопросов в конце, чтобы привлечь внимание людей и вызвать дискуссию.
**Вопрос: Что происходило в голове Оппенгеймера до и после падения атомной бомбы? Как вы думаете, что он подумает? **
НОЛАН: Ответ в фильме. Я написал этот сценарий от первого лица. Вот что я сказал Киллиану (Киллиан Мерфи, который играет Оппенгеймера в фильме): Вы — глаза зрителей. Он сделал это. На протяжении большей части истории мы никогда не выходим за рамки его опыта. Это моя лучшая попытка передать ответ на этот вопрос.
**В: Я немного нервничаю перед просмотром всей работы. **
Нолан: Думаю, тебе придется долго ждать. Это интенсивный опыт, потому что это интенсивная история. Недавно я показал его одному режиссеру, и он сказал, что это фильм ужасов, против чего я не возражал.
Интересно, что Вы раньше использовали слово нигилизм, я не думаю, что мое творчество может быть связано с нигилизмом. Но** когда я начал заканчивать этот фильм, я начал чувствовать этот цвет, которого не было в других моих фильмах, просто чистую тьму. Это есть, и этот фильм борется с этим. **
**В: Это влияет на вас? хорошо ли спалось? **
Нолан: Сейчас я сплю очень хорошо и рад, что закончил. Но я получил огромное удовольствие от просмотра этого фильма. Думаю, когда вы посмотрите этот фильм, вы поймете. Знаешь, влечение к чему-то пугающему — сложное чувство? Так разворачивается пространство ужасов.
**В: Ваш ребенок смотрел это? **
Нолан: Да.
**Вопрос: Знали ли они что-нибудь об Оппенгеймере раньше? **
Нолан: Когда я начал писать сценарий, я рассказал об этом одному из своих сыновей, и он буквально сказал мне: «Но никто больше не беспокоится об этом, ядерное оружие». Мир снова изменился.
Это урок для всех нас, но особенно для молодежи.
**Мир быстро меняется. **