Можливо, це найкращий час для випуску нового фільму відомого британського режисера Крістофера Нолана.
Після того, як "Тенет" "піддався" через нову епідемію корони, за місяць стартують зйомки нового фільму режисера "Оппенгеймер".
Цей фільм про життя Роберта Оппенгеймера, «батька атомної бомби», розповідає про те, як харизматичний і розумний чоловік спонукав «найрозумніший мозок на землі» подолати складні проблеми фізики, одночасно винаходячи історію найнебезпечнішого в світі. зброя.
Страх перед «ядерними загрозами», на якому виросли Нолан і його сучасники, тепер має новий відгук.
**Просто цього разу атомна бомба має нову назву, ШІ. **
Технологія ChatGPT знову зробила штучний інтелект популярним, і страх і хвилювання щодо нових технологій залишаються в тій же тенденції. Сотні експертів зі штучного інтелекту виступили зі спільним листом, в якому заявили, що штучний інтелект може становити загрозу «вимирання людства».
Wired нещодавно опублікував велике інтерв’ю з режисером Крістофером Ноланом, у якому режисер пояснив свої погляди на нинішню гаряче обговорювану «загрозу ШІ» та порівняння штучного інтелекту з ядерними загрозами 70 років тому.
Нолан, який колись використовував любов, щоб врятувати людство в «Інтерстелларі», вважає, що найбільша загроза від ШІ полягає в тому, що люди мають інстинктивне бажання покласти свої творіння на вівтар, а потім позбутися всіх обов’язків, які вони повинні нести. **
Режисер чітко зазначив, що порівняно з боротьбою та опором покоління вчених Оппенгеймера між наукою та владою, нинішнє «пошук нагляду» практиків ШІ є «лицемірним».
У той же час, як режисер старої школи, який одержимий кіно, Нолан сподівається на розвиток генеративного штучного інтелекту у сфері створення кіно та телебачення, але те, що він хоче зробити, це «дати акторам справжню атмосферу та навколишнє середовище."
«Найбільша небезпека для людства — відмовитися від відповідальності», — сказав Нолан в інтерв’ю.
标题: Як Крістофер Нолан навчився перестати хвилюватися і полюбити ШІ
Посилання:
МАРІЯ СТРЕШИНСЬКА
Упорядник: Jing Yu
Нижче наведено оригінальний текст інтерв’ю.Редактор відредагував його, щоб не змінювати оригінальний зміст:
01 Знищити світ, перша атомна бомба
**З: Таке відчуття, що ваша робота з Еммою (дружиною Нолана та його давнім продюсером) у певному сенсі була підготовкою до «Оппенгеймера». **
НОЛАН: Я так ставлюся до цього фільму.
Я так ставлюсь до кожного свого проекту. Тому що я намагаюся спиратися на те, чого навчився раніше. Щоразу, коли ви закінчуєте фільм, завжди залишаються запитання без відповіді. Отже, у наступному фільмі ви продовжуєте з того місця, де все зупинилося.
В Оппенгеймері, дуже буквально, Оппенгеймер згадується в Тенеті (попередній фільм Нолана).
**П: Отже, він у вас на думці деякий час. **
Нолан: Історія Оппенгеймера залишилася зі мною роками. Це неймовірна ідея — хтось намагається зробити розрахунки, щоб знайти зв’язок між теорією та реальним світом, і тоді є дуже мала ймовірність того, що вони збираються знищити весь світ. Проте кнопку все одно натиснули.
**З: Дуже драматично. **
**Нолан:**Я маю на увазі, що це буквально найдраматичніший момент у всій історії людства.
**З: Багато людей, можливо, не знають, що коли ми скинули бомби в 1945 році, це був не тільки жахливий момент, це також був момент, коли люди дізналися, що тепер люди мають можливість знищити всю людську расу. **
Нолан: Я думаю про Оппенгеймера, що багато людей знають ім’я і знають, що він має відношення до атомної бомби, і що є деякі складні речі, які відбулися у зв’язку з американською історією, і не дуже інше.
Відверто кажучи, для мене це ідеальна аудиторія для мого фільму. Ті, хто нічого не знає, отримають найбожевільніші враження. **Тому що це божевільна історія.
**З: Ви маєте на увазі його особисту історію? **
Нолан: Глядачі повинні знати, тому що він одна з найважливіших людей усіх часів.
Улюблений актор Нолана Кілліан Мерфі грає Оппенгеймера у фільмі | Douban Movies
**З: У фільмі є репліка, де хтось каже Оппенгеймеру: ти можеш змусити будь-кого робити що завгодно. Щось на зразок цього. Він чудовий менеджер, який знає все, і в цій кімнаті є вчені, які роблять X, а в іншій кімнаті ці вчені роблять Y, і він хлопець, який тримає все це в своїй голові. **
**Нолан:**Він знає, як надихнути людей драматургією своїх героїв, проеціювати власне світло. Він дав усім науковцям, чиновникам і кожному мету, на яку слід зосередитися.
**З: У нього справжня харизма. **
Нолан: Чарівний, це ідеальне слово. Це дозволило всьому набути форми, і фільм багато чого стосується цього, і саме його харизма дозволила цим ученим, цим теоретикам зібратися разом і побудувати щось таке величезне і таке важливе своїми руками. Це диво.
**З: Говорячи про створення чогось величезного, однією з найцікавіших сесій, які нещодавно я мав на конференції TED у Ванкувері, була серія доповідей про генеративний штучний інтелект. Багато виступаючих згадували про атомні бомби та ядерну зброю. Останнім спікером був технолог – він говорив про неминучу озброєння штучного інтелекту. **
Він завершив свою промову словами, що єдиний спосіб підтримувати світовий порядок – це мати кращу зброю зі штучним інтелектом. Це був стримуючий фактор. Це дуже схоже на те, як люди думали про атомну бомбу. Таке відчуття, що ваш фільм знайшов ідеальний час для прокату.
НОЛАН: Я думаю, що стосунки - це цікаве питання. Це інше. Але це найкраща метафора — і саме тому я використовую її в «Тенеті» — щоб бездумно розкрити небезпеку нової технології для світу. Це повчальна історія. Ми можемо цьому навчитися.
Сказавши це, **я вірю, що атомна бомба була унікальною технологією, яка змінила світ і поставила під загрозу. **
**З: І походження цих технологій різне? **
Нолан: Є принципова різниця.
Вчені, які вивчають розщеплення атома, намагалися пояснити урядам, що (ядерна енергія) є природним фактом, який походить від Бога або того, хто створив світ. Йдеться лише про знання природи, що це неминуче станеться. Ніхто не може приховати це, ми не створювали це і нам не належить. Ось як вони це бачать.
**З: Іншими словами, вони відчували, що просто розкривають те, що вже було. **
Нолан: І я думаю, що тобі важко навести такий аргумент щодо штучного інтелекту. Звичайно, хтось це зробить.
П: Ви, мабуть, виросли в тіні бомб.
Я виріс у Британії у 1980-х роках, і у нас була низка кампаній за ядерне роззброєння тощо, і люди дуже, дуже усвідомлювали загрозу ядерної зброї. Коли мені було 13 років, ми з друзями вірили, що зрештою помремо в ядерному голокості.
П: Але ти цього не зробив, світ пішов далі.
Днями я розмовляв про це зі Стівеном Спілбергом, який виріс із загрозою кубинської ракетної кризи в 60-х. Однакові речі.
Були часи в історії людства, коли небезпека ядерної війни була для нас настільки відчутною та відчутною, що ми знаємо про це надто добре. Звичайно, ми можемо хвилюватися лише так довго, перш ніж рухатися далі й почати хвилюватися про інші речі. Проблема в тому, що небезпека насправді не зникла.
**З: Так. Я маю на увазі, що місяць тому ми всі були стурбовані тим, що деякі країни дійсно можуть застосувати ядерну зброю. **
Нолан: Що я пам’ятаю у 1980-х роках, так це те, що страх перед ядерною війною відступив і був замінений страхом руйнування навколишнього середовища. **Схоже, що люди не можуть довго боятися жодної загрози, у нас складні стосунки зі страхом. **
Так, певні країни використовували цю апокаліптичну загрозу та цей страх, щоб згуртувати свій прапор. Це дуже тривожно.
Робоча фотографія режисера Нолана｜Universal Pictures
02 Покласти штучний інтелект на вівтар – це найнебезпечніше
**З: Так само тривожно, як загроза кінця світу з штучним інтелектом? **
Нолан: Що ж, розвиток штучного інтелекту в системах озброєння та проблеми, які це створить, були настільки очевидними протягом багатьох років, що мало хто з журналістів потрудився написати про це. **Тепер є чат-бот, який може написати статтю для місцевої газети, яка раптом стала кризою. **
**П: Ті з нас, хто працює в ЗМІ, робили це роками. сліпо переслідувати. Деякі з нас пишуть про штучний інтелект, тому що це може коштувати нам роботи. **
Нолан: Це частина проблеми. Для мене **штучний інтелект – це дуже проста проблема, це як слово алгоритм. Ми бачимо, як компанії використовують алгоритми, а тепер і штучний інтелект, як засіб уникнення відповідальності за свої дії. **
**З: Поясніть, будь ласка, ще кілька речень. **
Нолан: Якщо ми приймаємо ідею, що штучний інтелект є всемогутнім, ми приймаємо, що він може звільнити людей від відповідальності за їхні дії — військові, соціально-економічні тощо.
**Найбільша небезпека штучного інтелекту полягає в тому, що ми звільняємося від нього, приписуючи йому божественні властивості. **
Я не знаю, яка міфологічна основа для цього,** але впродовж історії люди мали тенденцію створювати фальшивих ідолів, створювати щось на свій власний образ, а потім казати, що ми маємо божественну силу, тому що ми це створили. **
**П: Це дуже, дуже правильно. Ми ніби перебуваємо на переломній точці. **
**Нолан:**Точно так.
**З: Завдяки цим великим мовним моделям машини можуть навіть почати навчатися самостійно на наступному кроці. **
Нолан: У Los Angeles Times є цікава стаття про ChatGPT і OpenAI. По суті, це ChatGPT, який пропонує рекламу, а OpenAI тепер є приватною компанією. У них найкраща машина продажів у світі, і це дуже небезпечна річ. Можливо, нам не варто проштовхувати це в маси, тому що зараз усі хочуть помічника зі штучним інтелектом.
Це не означає, що тут немає реальної небезпеки, тому що я думаю, що вона є. Але особисто, і це лише моя думка, я вважаю, що небезпека полягає в ухиленні від відповідальності.
**З: Люди завжди казали, що потрібне міжнародне агентство, яке б регулювало штучний інтелект. **
Нолан: Але це найстаріша політична хитрість технологічних компаній. правильно? Ви знаєте, це те, що SBF зробив із FTX [скандал про крах криптовалютної біржі]; Цукерберг роками просив, щоб його регулювали. Тому що вони знають, що наші обранці взагалі не можуть розібратися в цих питаннях.
**З: Як ми побачили на слуханнях у Конгресі? **
Нолан: Що вони можуть сказати? Я маю на увазі, що це дуже професійні речі, істеблішмент проти творця та Оппенгеймера -- дозвольте мені повернутися до Оппенгеймера.
Проблема з Оппенгеймером полягала в тому, що він приділяв велику увагу ролі післявоєнних учених — експертів, які мали з’ясувати, як контролювати ядерні сили. Але коли бачиш, що з ним трапилося, розумієш, що цього ніколи не дозволять.
**Це дуже складні стосунки між наукою та владою, і ніколи вони не викривалися так жорстоко, як в історії Оппенгеймера. Я думаю, що з цього можна винести різні уроки. **
Оппенгеймеру також потрібно мати справу зі зв’язком між владою та наукою｜Total Film
**З: Наприклад? **
НОЛАН: Тож він намагається працювати зсередини системи, замість того, щоб обернутися і сказати: знаєте, нам потрібна любов або ні. Його підхід був дуже практичним, але все одно його побили. Це дуже складно, **Я вважаю, що ці «винахідники» зараз кажуть, що «нас потрібно регулювати», — це дуже лицемірно. **
**З: Оппенгеймер хоче, щоб наукою ділилися. **
Нолан: Він використав слово «Кондор». Бути чесним.
**З: Здається, його думки змінилися з появою водневої бомби? **
Нолан: Ні, він також вірить у водневу бомбу. Це начебто цікаво, тому що в певному сенсі це трохи спойлер. Але з іншого боку, це вже історія, ви можете пошукати її в Google.
У цей важливий момент, коли програма створення водневої бомби просувається вперед, він почав свою промову словами: «Я б хотів сказати вам те, що знаю. Я не можу. Якби ви знали те, що знав я, ви б зрозуміли, ми повинні ділитися інформацією. По суті, це єдиний спосіб уникнути знищення світу.»
Тож відвертість – найпрактичніший засіб, на його думку. Він бачить Організацію Об’єднаних Націй як потужну інституцію майбутнього з реальними можливостями для дій. Він вважав, що глобальний контроль над атомною енергією є єдиним способом забезпечити мир у всьому світі. Очевидно, що цього не сталося.
**З: Він не передбачив того, що відбувається зараз, повільного занепаду демократій. **
Нолан: Я не думаю, що він взагалі цього бачив, це був дуже оптимістичний момент.
**З: Ось чому існує всесвітній орган управління ШІ. **
Нолан: Так. Але це проблема, коли ви маєте справу з технологічними компаніями, які відмовляються обмежуватися географією.
Інституційно технологічні компанії заохочуються й дозволяють обходити державне регулювання. Це стало «моральним світоглядом».
До речі, це змушує мене думати, що Силіконова долина — це зло, а всі ці люди — жахливі. Я так не думаю. Це просто system(), ось як це працює.
**З: З точки зору безпеки, виробництво ядерної зброї потребує певних елементів, але ШІ не має цього обмеження. **
Нолан: Під час Другої світової війни британська програма створення ядерної бомби була дуже складною. У них багато великих учених. Але уряд Черчилля зрозумів, що їм просто не вистачає ресурсів. Тому вони віддали все, що мали, американцям. Сказали, що у вас розміри, ви далеко від лінії фронту, у вас є промислова база.
У своєму дослідженні я прочитав статистику про кількість американців, які брали участь у створенні першої атомної бомби — це було близько 500 000. Задіяно кілька компаній, і це величезний фізичний процес, тому сьогодні його легко виявити, якщо країна таємно проводить ядерні випробування. Отже, є кілька речей, які дають нам певну впевненість у тому, що цим процесом можна керувати.
І я не думаю, що жодне з цих обмежень стосується штучного інтелекту.
**З: Так, не зовсім для штучного інтелекту – особливо коли деякі речі, про які ми говоримо про штучний інтелект, є «м’якшою» загрозою. Швидке поширення дезінформації, технологічне безробіття. **
Нолан: Справді, але я не зовсім - я думаю, що ШІ все ще може бути дуже потужним інструментом. Я налаштований оптимістично, справді.
**Але ми повинні розглядати його як інструмент, і особа, яка ним володіє, все одно повинна нести відповідальність за володіння інструментом. Якщо ми надамо штучному інтелекту статус людини, як ми колись зробили з корпораціями, то так, у нас будуть величезні проблеми. **
03 ШІ хороший, але дотримуйтесь традицій
**З: Чи бачите ви красу в штучному інтелекті, особливо у кіно? **
Нолан: О, звичайно. Повне машинне навчання застосовано до технології deepfake, яка є вагомим прогресом у візуальних ефектах і аудіо. У довгостроковій перспективі, з точки зору створення навколишнього середовища, наприклад, створення дверей чи вікон. Якщо велику кількість даних, таких як зовнішній вигляд речей, відображення речей тощо, зібрати в базу даних, це буде дуже потужний інструмент.
**З: Ви будете використовувати ШІ для створення? **
Нолан: Я «аналоговий» кінорежисер старої школи. Я знімав на плівку, щоб спробувати надати акторам повну реальність.
Моя позиція щодо технологій, оскільки вони стосуються моєї роботи, полягає в тому, що я хочу використовувати технології якнайкраще. Наприклад, якщо ми виконуємо трюк, небезпечний трюк. Ви можете зробити це з більш помітним примусом, а потім стерти в пості тощо.
**З: Це означає, що це покращить зручність і ефективність візуальних ефектів. **
Нолан: Це не білий вовк з порожніми руками, він починається з більш детальної ідеї, яка базується на даних. Це може нарешті зруйнувати бар’єр між анімацією та фотографією, тому що це гібрид.
Якщо ви кажете художнику, скажімо, намалювати картину космонавта, він вигадує це на основі пам’яті чи еталонного зразка. З AI це інший підхід, ви фактично використовуєте всю історію зображення. **
**З: Використовуйте реальні зображення. **
**Нолан:**Використання реальних зображень, але повністю, докорінно реконструйоване – що, звісно, породжує серйозні проблеми з авторським правом художника, які потрібно належним чином вирішити.
Фільм намагається відновити сцену обміну між Оппенгеймером і Einstein｜Universal Pictures
**З: Повернімося до науки та вашого фільму. У цитаті з випуску WIRED за грудень 2014 року, який ви редагували як гість, ви сказали: «Мене захоплює зв’язок між оповіданням і науковим методом. Справа не в інтелектуальному розумінні. Це відчуття розуміння чогось». Розкажіть про свою любов до науки. **
Нолан: Ну, мене завжди цікавили проблеми з астрономії та фізики. Я досліджував це хобі в Interstellar. Коли мій брат (Джонатан Нолан) писав сценарій, він дивився на мисленнєві експерименти Ейнштейна і виявив, що деякі з них мали особливу меланхолію, і це було пов’язано з частинами в часі.
Мовляв, близнюки, яких розлучають, одного забирають, а інший трохи підростає, розумієте? ** Думки Ейнштейна про фізику мають таку саму «літературну якість», як і те, як ви проводите ці мисленнєві експерименти, як ви формулюєте ці ідеї. Процес візуалізації, потрібний фізикам, нічим не відрізняється від літературної творчості. **
**З: Чи відчували ви це на етапі монтажу фільму? **
Нолан: Я відчуваю це на кожному етапі створення фільму. Багато моїх робіт намагаються висловити інтуїцію та відчуття форми речей. Це може бути важко і складно.
**З: Я вважаю, що якщо я створюю історію і не знаю структури, потоку, то є проблема. Я не можу говорити про цей твір змістовно. **
Нолан: Я думаю про структуру та візерунки дуже географічно чи геометрично. Протягом багатьох років **я намагався застосувати підхід до структури «з нуля з нуля», але врешті це був дуже інстинктивний процес: чи має це відчуття оповідну форму і як воно формується? **Я був зачарований усвідомленням того, що фізики здійснюють дуже подібний процес. Справді цікаво.
**З: Можливо, це реверанс до Інтерстеллар, але фізики завжди дуже люблять фізику. **
Нолан: Я захоплений прагненням до істини та наукового методу. Мені неприємно спостерігати, як це спотворюють вчені в ЗМІ або ЗМІ, що виступають від імені вчених. Суто науковий метод і ідея про те, що наука постійно прагне спростувати саму себе, робить її більш здатною піднести людський розум, ніж релігія чи щось інше.
**З: Перед цим інтерв’ю я дивилася ваш фільм зі своєю мамою. Вона відчула, що ваш фільм може мати дуже антинегативізм. «Дюнкерк», «Інтерстеллар», «Бетмен». Або це оптимізм? **
Нолан: Кінець "Початку" саме такий. У когось був нігілістичний погляд на цей кінець, чи не так? Але в той же час він також сподівався бути зі своїми дітьми. Ця неоднозначність не є емоційною. Для глядача це інтелектуальна розмитість.
Цікаво, що я думаю, що є цікавий зв’язок між закінченнями «Початку» та «Оппенгеймера». Оппенгеймер має складний кінець і складні почуття.
**З: Як відреагувала перша аудиторія? **
**Нолан: Деякі люди залишають фільми в абсолютно спустошеному стані. **Вони втратили дар мови. Усі страхи, які існують на історичному та фактичному рівнях, представлені у фільмі. Але любов до героїв, любов до стосунків така ж сильна, як і у всіх моїх попередніх роботах.
Режисер був у себе вдома в Лос-Анджелесі, а фільм знімав його син｜МАГНУС НОЛАН
**З: Існує також складність предмета. **
Нолан: Історія Оппенгеймера — це збірка неможливих проблем, неможливих етичних дилем і парадоксів. У його історії немає легких відповідей, лише складні запитання, і саме це робить її такою переконливою.
Я думаю, що у фільмі можна знайти багато чого для оптимізму, але над головою висить одне головне питання. Я вважаю за потрібне поставити кілька запитань наприкінці, щоб змусити людей задуматися над цим і розпалити дискусію.
**З: Що відбувалося в голові Оппенгеймера до і після скидання атомної бомби? Як ви думаєте, що б він подумав? **
**Нолан:**Відповідь у фільмі. Я написав цей сценарій від першої особи. Ось що я сказав Кілліану (Кілліану Мерфі, який грає Оппенгеймера у фільмі): Ви — очі глядачів. Він це зробив. Протягом більшої частини історії ми ніколи не виходимо за рамки його досвіду. Це моя найкраща спроба дати відповідь на це питання.
**З: Я трохи хвилююся перед тим, як побачити повну роботу. **
Нолан: Я думаю, тобі доведеться довго чекати. Це напружений досвід, тому що це напружена історія. Нещодавно я показав його режисеру, і він сказав, що це фільм жахів, і я не погодився.
Смішно, що ви раніше використали слово нігілізм, я не думаю, що мою роботу можна віднести до нігілізму. Але **коли я почав закінчувати цей фільм, я почав відчувати цей колір, а не в інших моїх фільмах, чисту темряву. Воно є, і цей фільм бореться з ним. **
**З: Чи впливає це на вас? ти добре спав? **
Нолан: Зараз я добре сплю і відчуваю полегшення, закінчивши виробництво. Але я отримав величезне задоволення від перегляду цього фільму. Думаю, ви зрозумієте, коли подивіться цей фільм. Приваблення до страшних речей – це складне відчуття, розумієте? Так розгортається простір жахів.
**З: Ваші діти дивилися це? **
НОЛАН: Так.
**З: Чи знали вони щось про Оппенгеймера раніше? **
Нолан: Коли я почав писати сценарій, я сказав одному зі своїх синів, і він насправді сказав мені: «Але це більше нікого не хвилює, ядерна зброя». Через два роки він цього не турбував. сказав. Світ знову змінився.
Це урок для всіх нас, але особливо для молоді.
**Світ швидко змінюється. **
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Інтерв'ю "Оппенгеймера" Нолана: Знищуйте людей, атомна бомба страшніша за ШІ
Можливо, це найкращий час для випуску нового фільму відомого британського режисера Крістофера Нолана.
Після того, як "Тенет" "піддався" через нову епідемію корони, за місяць стартують зйомки нового фільму режисера "Оппенгеймер".
Цей фільм про життя Роберта Оппенгеймера, «батька атомної бомби», розповідає про те, як харизматичний і розумний чоловік спонукав «найрозумніший мозок на землі» подолати складні проблеми фізики, одночасно винаходячи історію найнебезпечнішого в світі. зброя.
Страх перед «ядерними загрозами», на якому виросли Нолан і його сучасники, тепер має новий відгук.
**Просто цього разу атомна бомба має нову назву, ШІ. **
Технологія ChatGPT знову зробила штучний інтелект популярним, і страх і хвилювання щодо нових технологій залишаються в тій же тенденції. Сотні експертів зі штучного інтелекту виступили зі спільним листом, в якому заявили, що штучний інтелект може становити загрозу «вимирання людства».
Wired нещодавно опублікував велике інтерв’ю з режисером Крістофером Ноланом, у якому режисер пояснив свої погляди на нинішню гаряче обговорювану «загрозу ШІ» та порівняння штучного інтелекту з ядерними загрозами 70 років тому.
Нолан, який колись використовував любов, щоб врятувати людство в «Інтерстелларі», вважає, що найбільша загроза від ШІ полягає в тому, що люди мають інстинктивне бажання покласти свої творіння на вівтар, а потім позбутися всіх обов’язків, які вони повинні нести. **
Режисер чітко зазначив, що порівняно з боротьбою та опором покоління вчених Оппенгеймера між наукою та владою, нинішнє «пошук нагляду» практиків ШІ є «лицемірним».
У той же час, як режисер старої школи, який одержимий кіно, Нолан сподівається на розвиток генеративного штучного інтелекту у сфері створення кіно та телебачення, але те, що він хоче зробити, це «дати акторам справжню атмосферу та навколишнє середовище."
«Найбільша небезпека для людства — відмовитися від відповідальності», — сказав Нолан в інтерв’ю.
标题: Як Крістофер Нолан навчився перестати хвилюватися і полюбити ШІ
Посилання:
МАРІЯ СТРЕШИНСЬКА
Упорядник: Jing Yu
Нижче наведено оригінальний текст інтерв’ю.Редактор відредагував його, щоб не змінювати оригінальний зміст:
01 Знищити світ, перша атомна бомба
**З: Таке відчуття, що ваша робота з Еммою (дружиною Нолана та його давнім продюсером) у певному сенсі була підготовкою до «Оппенгеймера». **
НОЛАН: Я так ставлюся до цього фільму.
Я так ставлюсь до кожного свого проекту. Тому що я намагаюся спиратися на те, чого навчився раніше. Щоразу, коли ви закінчуєте фільм, завжди залишаються запитання без відповіді. Отже, у наступному фільмі ви продовжуєте з того місця, де все зупинилося.
В Оппенгеймері, дуже буквально, Оппенгеймер згадується в Тенеті (попередній фільм Нолана).
**П: Отже, він у вас на думці деякий час. **
Нолан: Історія Оппенгеймера залишилася зі мною роками. Це неймовірна ідея — хтось намагається зробити розрахунки, щоб знайти зв’язок між теорією та реальним світом, і тоді є дуже мала ймовірність того, що вони збираються знищити весь світ. Проте кнопку все одно натиснули.
**З: Дуже драматично. **
**Нолан:**Я маю на увазі, що це буквально найдраматичніший момент у всій історії людства.
**З: Багато людей, можливо, не знають, що коли ми скинули бомби в 1945 році, це був не тільки жахливий момент, це також був момент, коли люди дізналися, що тепер люди мають можливість знищити всю людську расу. **
Нолан: Я думаю про Оппенгеймера, що багато людей знають ім’я і знають, що він має відношення до атомної бомби, і що є деякі складні речі, які відбулися у зв’язку з американською історією, і не дуже інше.
Відверто кажучи, для мене це ідеальна аудиторія для мого фільму. Ті, хто нічого не знає, отримають найбожевільніші враження. **Тому що це божевільна історія.
**З: Ви маєте на увазі його особисту історію? **
Нолан: Глядачі повинні знати, тому що він одна з найважливіших людей усіх часів.
**З: У фільмі є репліка, де хтось каже Оппенгеймеру: ти можеш змусити будь-кого робити що завгодно. Щось на зразок цього. Він чудовий менеджер, який знає все, і в цій кімнаті є вчені, які роблять X, а в іншій кімнаті ці вчені роблять Y, і він хлопець, який тримає все це в своїй голові. **
**Нолан:**Він знає, як надихнути людей драматургією своїх героїв, проеціювати власне світло. Він дав усім науковцям, чиновникам і кожному мету, на яку слід зосередитися.
**З: У нього справжня харизма. **
Нолан: Чарівний, це ідеальне слово. Це дозволило всьому набути форми, і фільм багато чого стосується цього, і саме його харизма дозволила цим ученим, цим теоретикам зібратися разом і побудувати щось таке величезне і таке важливе своїми руками. Це диво.
**З: Говорячи про створення чогось величезного, однією з найцікавіших сесій, які нещодавно я мав на конференції TED у Ванкувері, була серія доповідей про генеративний штучний інтелект. Багато виступаючих згадували про атомні бомби та ядерну зброю. Останнім спікером був технолог – він говорив про неминучу озброєння штучного інтелекту. **
Він завершив свою промову словами, що єдиний спосіб підтримувати світовий порядок – це мати кращу зброю зі штучним інтелектом. Це був стримуючий фактор. Це дуже схоже на те, як люди думали про атомну бомбу. Таке відчуття, що ваш фільм знайшов ідеальний час для прокату.
НОЛАН: Я думаю, що стосунки - це цікаве питання. Це інше. Але це найкраща метафора — і саме тому я використовую її в «Тенеті» — щоб бездумно розкрити небезпеку нової технології для світу. Це повчальна історія. Ми можемо цьому навчитися.
Сказавши це, **я вірю, що атомна бомба була унікальною технологією, яка змінила світ і поставила під загрозу. **
**З: І походження цих технологій різне? **
Нолан: Є принципова різниця.
Вчені, які вивчають розщеплення атома, намагалися пояснити урядам, що (ядерна енергія) є природним фактом, який походить від Бога або того, хто створив світ. Йдеться лише про знання природи, що це неминуче станеться. Ніхто не може приховати це, ми не створювали це і нам не належить. Ось як вони це бачать.
**З: Іншими словами, вони відчували, що просто розкривають те, що вже було. **
Нолан: І я думаю, що тобі важко навести такий аргумент щодо штучного інтелекту. Звичайно, хтось це зробить.
П: Ви, мабуть, виросли в тіні бомб.
Я виріс у Британії у 1980-х роках, і у нас була низка кампаній за ядерне роззброєння тощо, і люди дуже, дуже усвідомлювали загрозу ядерної зброї. Коли мені було 13 років, ми з друзями вірили, що зрештою помремо в ядерному голокості.
П: Але ти цього не зробив, світ пішов далі.
Днями я розмовляв про це зі Стівеном Спілбергом, який виріс із загрозою кубинської ракетної кризи в 60-х. Однакові речі.
Були часи в історії людства, коли небезпека ядерної війни була для нас настільки відчутною та відчутною, що ми знаємо про це надто добре. Звичайно, ми можемо хвилюватися лише так довго, перш ніж рухатися далі й почати хвилюватися про інші речі. Проблема в тому, що небезпека насправді не зникла.
**З: Так. Я маю на увазі, що місяць тому ми всі були стурбовані тим, що деякі країни дійсно можуть застосувати ядерну зброю. **
Нолан: Що я пам’ятаю у 1980-х роках, так це те, що страх перед ядерною війною відступив і був замінений страхом руйнування навколишнього середовища. **Схоже, що люди не можуть довго боятися жодної загрози, у нас складні стосунки зі страхом. **
Так, певні країни використовували цю апокаліптичну загрозу та цей страх, щоб згуртувати свій прапор. Це дуже тривожно.
02 Покласти штучний інтелект на вівтар – це найнебезпечніше
**З: Так само тривожно, як загроза кінця світу з штучним інтелектом? **
Нолан: Що ж, розвиток штучного інтелекту в системах озброєння та проблеми, які це створить, були настільки очевидними протягом багатьох років, що мало хто з журналістів потрудився написати про це. **Тепер є чат-бот, який може написати статтю для місцевої газети, яка раптом стала кризою. **
**П: Ті з нас, хто працює в ЗМІ, робили це роками. сліпо переслідувати. Деякі з нас пишуть про штучний інтелект, тому що це може коштувати нам роботи. **
Нолан: Це частина проблеми. Для мене **штучний інтелект – це дуже проста проблема, це як слово алгоритм. Ми бачимо, як компанії використовують алгоритми, а тепер і штучний інтелект, як засіб уникнення відповідальності за свої дії. **
**З: Поясніть, будь ласка, ще кілька речень. **
Нолан: Якщо ми приймаємо ідею, що штучний інтелект є всемогутнім, ми приймаємо, що він може звільнити людей від відповідальності за їхні дії — військові, соціально-економічні тощо.
**Найбільша небезпека штучного інтелекту полягає в тому, що ми звільняємося від нього, приписуючи йому божественні властивості. **
Я не знаю, яка міфологічна основа для цього,** але впродовж історії люди мали тенденцію створювати фальшивих ідолів, створювати щось на свій власний образ, а потім казати, що ми маємо божественну силу, тому що ми це створили. **
**П: Це дуже, дуже правильно. Ми ніби перебуваємо на переломній точці. **
**Нолан:**Точно так.
**З: Завдяки цим великим мовним моделям машини можуть навіть почати навчатися самостійно на наступному кроці. **
Нолан: У Los Angeles Times є цікава стаття про ChatGPT і OpenAI. По суті, це ChatGPT, який пропонує рекламу, а OpenAI тепер є приватною компанією. У них найкраща машина продажів у світі, і це дуже небезпечна річ. Можливо, нам не варто проштовхувати це в маси, тому що зараз усі хочуть помічника зі штучним інтелектом.
Це не означає, що тут немає реальної небезпеки, тому що я думаю, що вона є. Але особисто, і це лише моя думка, я вважаю, що небезпека полягає в ухиленні від відповідальності.
**З: Люди завжди казали, що потрібне міжнародне агентство, яке б регулювало штучний інтелект. **
Нолан: Але це найстаріша політична хитрість технологічних компаній. правильно? Ви знаєте, це те, що SBF зробив із FTX [скандал про крах криптовалютної біржі]; Цукерберг роками просив, щоб його регулювали. Тому що вони знають, що наші обранці взагалі не можуть розібратися в цих питаннях.
**З: Як ми побачили на слуханнях у Конгресі? **
Нолан: Що вони можуть сказати? Я маю на увазі, що це дуже професійні речі, істеблішмент проти творця та Оппенгеймера -- дозвольте мені повернутися до Оппенгеймера.
Проблема з Оппенгеймером полягала в тому, що він приділяв велику увагу ролі післявоєнних учених — експертів, які мали з’ясувати, як контролювати ядерні сили. Але коли бачиш, що з ним трапилося, розумієш, що цього ніколи не дозволять.
**Це дуже складні стосунки між наукою та владою, і ніколи вони не викривалися так жорстоко, як в історії Оппенгеймера. Я думаю, що з цього можна винести різні уроки. **
**З: Наприклад? **
НОЛАН: Тож він намагається працювати зсередини системи, замість того, щоб обернутися і сказати: знаєте, нам потрібна любов або ні. Його підхід був дуже практичним, але все одно його побили. Це дуже складно, **Я вважаю, що ці «винахідники» зараз кажуть, що «нас потрібно регулювати», — це дуже лицемірно. **
**З: Оппенгеймер хоче, щоб наукою ділилися. **
Нолан: Він використав слово «Кондор». Бути чесним.
**З: Здається, його думки змінилися з появою водневої бомби? **
Нолан: Ні, він також вірить у водневу бомбу. Це начебто цікаво, тому що в певному сенсі це трохи спойлер. Але з іншого боку, це вже історія, ви можете пошукати її в Google.
У цей важливий момент, коли програма створення водневої бомби просувається вперед, він почав свою промову словами: «Я б хотів сказати вам те, що знаю. Я не можу. Якби ви знали те, що знав я, ви б зрозуміли, ми повинні ділитися інформацією. По суті, це єдиний спосіб уникнути знищення світу.»
Тож відвертість – найпрактичніший засіб, на його думку. Він бачить Організацію Об’єднаних Націй як потужну інституцію майбутнього з реальними можливостями для дій. Він вважав, що глобальний контроль над атомною енергією є єдиним способом забезпечити мир у всьому світі. Очевидно, що цього не сталося.
**З: Він не передбачив того, що відбувається зараз, повільного занепаду демократій. **
Нолан: Я не думаю, що він взагалі цього бачив, це був дуже оптимістичний момент.
**З: Ось чому існує всесвітній орган управління ШІ. **
Нолан: Так. Але це проблема, коли ви маєте справу з технологічними компаніями, які відмовляються обмежуватися географією.
Інституційно технологічні компанії заохочуються й дозволяють обходити державне регулювання. Це стало «моральним світоглядом».
До речі, це змушує мене думати, що Силіконова долина — це зло, а всі ці люди — жахливі. Я так не думаю. Це просто system(), ось як це працює.
**З: З точки зору безпеки, виробництво ядерної зброї потребує певних елементів, але ШІ не має цього обмеження. **
Нолан: Під час Другої світової війни британська програма створення ядерної бомби була дуже складною. У них багато великих учених. Але уряд Черчилля зрозумів, що їм просто не вистачає ресурсів. Тому вони віддали все, що мали, американцям. Сказали, що у вас розміри, ви далеко від лінії фронту, у вас є промислова база.
У своєму дослідженні я прочитав статистику про кількість американців, які брали участь у створенні першої атомної бомби — це було близько 500 000. Задіяно кілька компаній, і це величезний фізичний процес, тому сьогодні його легко виявити, якщо країна таємно проводить ядерні випробування. Отже, є кілька речей, які дають нам певну впевненість у тому, що цим процесом можна керувати.
І я не думаю, що жодне з цих обмежень стосується штучного інтелекту.
**З: Так, не зовсім для штучного інтелекту – особливо коли деякі речі, про які ми говоримо про штучний інтелект, є «м’якшою» загрозою. Швидке поширення дезінформації, технологічне безробіття. **
Нолан: Справді, але я не зовсім - я думаю, що ШІ все ще може бути дуже потужним інструментом. Я налаштований оптимістично, справді.
**Але ми повинні розглядати його як інструмент, і особа, яка ним володіє, все одно повинна нести відповідальність за володіння інструментом. Якщо ми надамо штучному інтелекту статус людини, як ми колись зробили з корпораціями, то так, у нас будуть величезні проблеми. **
03 ШІ хороший, але дотримуйтесь традицій
**З: Чи бачите ви красу в штучному інтелекті, особливо у кіно? **
Нолан: О, звичайно. Повне машинне навчання застосовано до технології deepfake, яка є вагомим прогресом у візуальних ефектах і аудіо. У довгостроковій перспективі, з точки зору створення навколишнього середовища, наприклад, створення дверей чи вікон. Якщо велику кількість даних, таких як зовнішній вигляд речей, відображення речей тощо, зібрати в базу даних, це буде дуже потужний інструмент.
**З: Ви будете використовувати ШІ для створення? **
Нолан: Я «аналоговий» кінорежисер старої школи. Я знімав на плівку, щоб спробувати надати акторам повну реальність.
Моя позиція щодо технологій, оскільки вони стосуються моєї роботи, полягає в тому, що я хочу використовувати технології якнайкраще. Наприклад, якщо ми виконуємо трюк, небезпечний трюк. Ви можете зробити це з більш помітним примусом, а потім стерти в пості тощо.
**З: Це означає, що це покращить зручність і ефективність візуальних ефектів. **
Нолан: Це не білий вовк з порожніми руками, він починається з більш детальної ідеї, яка базується на даних. Це може нарешті зруйнувати бар’єр між анімацією та фотографією, тому що це гібрид.
Якщо ви кажете художнику, скажімо, намалювати картину космонавта, він вигадує це на основі пам’яті чи еталонного зразка. З AI це інший підхід, ви фактично використовуєте всю історію зображення. **
**З: Використовуйте реальні зображення. **
**Нолан:**Використання реальних зображень, але повністю, докорінно реконструйоване – що, звісно, породжує серйозні проблеми з авторським правом художника, які потрібно належним чином вирішити.
**З: Повернімося до науки та вашого фільму. У цитаті з випуску WIRED за грудень 2014 року, який ви редагували як гість, ви сказали: «Мене захоплює зв’язок між оповіданням і науковим методом. Справа не в інтелектуальному розумінні. Це відчуття розуміння чогось». Розкажіть про свою любов до науки. **
Нолан: Ну, мене завжди цікавили проблеми з астрономії та фізики. Я досліджував це хобі в Interstellar. Коли мій брат (Джонатан Нолан) писав сценарій, він дивився на мисленнєві експерименти Ейнштейна і виявив, що деякі з них мали особливу меланхолію, і це було пов’язано з частинами в часі.
Мовляв, близнюки, яких розлучають, одного забирають, а інший трохи підростає, розумієте? ** Думки Ейнштейна про фізику мають таку саму «літературну якість», як і те, як ви проводите ці мисленнєві експерименти, як ви формулюєте ці ідеї. Процес візуалізації, потрібний фізикам, нічим не відрізняється від літературної творчості. **
**З: Чи відчували ви це на етапі монтажу фільму? **
Нолан: Я відчуваю це на кожному етапі створення фільму. Багато моїх робіт намагаються висловити інтуїцію та відчуття форми речей. Це може бути важко і складно.
**З: Я вважаю, що якщо я створюю історію і не знаю структури, потоку, то є проблема. Я не можу говорити про цей твір змістовно. **
Нолан: Я думаю про структуру та візерунки дуже географічно чи геометрично. Протягом багатьох років **я намагався застосувати підхід до структури «з нуля з нуля», але врешті це був дуже інстинктивний процес: чи має це відчуття оповідну форму і як воно формується? **Я був зачарований усвідомленням того, що фізики здійснюють дуже подібний процес. Справді цікаво.
**З: Можливо, це реверанс до Інтерстеллар, але фізики завжди дуже люблять фізику. **
Нолан: Я захоплений прагненням до істини та наукового методу. Мені неприємно спостерігати, як це спотворюють вчені в ЗМІ або ЗМІ, що виступають від імені вчених. Суто науковий метод і ідея про те, що наука постійно прагне спростувати саму себе, робить її більш здатною піднести людський розум, ніж релігія чи щось інше.
**З: Перед цим інтерв’ю я дивилася ваш фільм зі своєю мамою. Вона відчула, що ваш фільм може мати дуже антинегативізм. «Дюнкерк», «Інтерстеллар», «Бетмен». Або це оптимізм? **
Нолан: Кінець "Початку" саме такий. У когось був нігілістичний погляд на цей кінець, чи не так? Але в той же час він також сподівався бути зі своїми дітьми. Ця неоднозначність не є емоційною. Для глядача це інтелектуальна розмитість.
Цікаво, що я думаю, що є цікавий зв’язок між закінченнями «Початку» та «Оппенгеймера». Оппенгеймер має складний кінець і складні почуття.
**З: Як відреагувала перша аудиторія? **
**Нолан: Деякі люди залишають фільми в абсолютно спустошеному стані. **Вони втратили дар мови. Усі страхи, які існують на історичному та фактичному рівнях, представлені у фільмі. Але любов до героїв, любов до стосунків така ж сильна, як і у всіх моїх попередніх роботах.
**З: Існує також складність предмета. **
Нолан: Історія Оппенгеймера — це збірка неможливих проблем, неможливих етичних дилем і парадоксів. У його історії немає легких відповідей, лише складні запитання, і саме це робить її такою переконливою.
Я думаю, що у фільмі можна знайти багато чого для оптимізму, але над головою висить одне головне питання. Я вважаю за потрібне поставити кілька запитань наприкінці, щоб змусити людей задуматися над цим і розпалити дискусію.
**З: Що відбувалося в голові Оппенгеймера до і після скидання атомної бомби? Як ви думаєте, що б він подумав? **
**Нолан:**Відповідь у фільмі. Я написав цей сценарій від першої особи. Ось що я сказав Кілліану (Кілліану Мерфі, який грає Оппенгеймера у фільмі): Ви — очі глядачів. Він це зробив. Протягом більшої частини історії ми ніколи не виходимо за рамки його досвіду. Це моя найкраща спроба дати відповідь на це питання.
**З: Я трохи хвилююся перед тим, як побачити повну роботу. **
Нолан: Я думаю, тобі доведеться довго чекати. Це напружений досвід, тому що це напружена історія. Нещодавно я показав його режисеру, і він сказав, що це фільм жахів, і я не погодився.
Смішно, що ви раніше використали слово нігілізм, я не думаю, що мою роботу можна віднести до нігілізму. Але **коли я почав закінчувати цей фільм, я почав відчувати цей колір, а не в інших моїх фільмах, чисту темряву. Воно є, і цей фільм бореться з ним. **
**З: Чи впливає це на вас? ти добре спав? **
Нолан: Зараз я добре сплю і відчуваю полегшення, закінчивши виробництво. Але я отримав величезне задоволення від перегляду цього фільму. Думаю, ви зрозумієте, коли подивіться цей фільм. Приваблення до страшних речей – це складне відчуття, розумієте? Так розгортається простір жахів.
**З: Ваші діти дивилися це? **
НОЛАН: Так.
**З: Чи знали вони щось про Оппенгеймера раніше? **
Нолан: Коли я почав писати сценарій, я сказав одному зі своїх синів, і він насправді сказав мені: «Але це більше нікого не хвилює, ядерна зброя». Через два роки він цього не турбував. сказав. Світ знову змінився.
Це урок для всіх нас, але особливо для молоді.
**Світ швидко змінюється. **