В сериале «Долгий сезон» есть несколько стихотворений: «** щелкните пальцами, говорит он / Мы щелкаем пальцами с резонансом / Далекие вещи будут разбиты вдребезги / Люди перед тобой не знают в это время**».
Учитель Лю Цзя сказал, что уместно использовать это стихотворение для описания нынешнего состояния людей, столкнувшихся с AGI (Artificial General Intelligence).
«Каждое из наших предсказаний о будущем может быть нелепым и нелепым, и будущее может быть не таким, каким вы его говорите. Но только тогда, когда все больше и больше людей присоединятся к дискуссии, вместе откроют свои мозги, вместе блестяще мыслят и даже вместе будут говорить глупости, может быть, мы действительно сможем изменить будущее и вместе привести человечество к лучшему будущему. "
В конце сентября мы посетили профессора Лю Цзя в Лаборатории мозга и интеллекта Университета Цинхуа. В этом обмене мнениями, основанном на его многолетнем накоплении исследований в области науки о мозге и искусственного интеллекта, профессор Лю Цзя рассказал о будущем развитии AGI под руководством ChatGPT и его возможном влиянии на людей, а также выдвинул множество «причудливых идей», основанных на его исследовательской области, которые глубоко вдохновили нас.
Говоря о будущем развитии области AGI, Лю Цзя сказал, что, с одной стороны, ускоряется воплощенный и воплощенный интеллект агента ИИ, то есть большая модель; С другой стороны, специалисты по изучению мозга и когнитивисты, в том числе и он, начали энергично обсуждать проблему сознания, которую ОИИ может породить в будущем.
По мнению г-на Лю, в жизни человека очень мало возможностей испытать смену парадигмы, которая повлечет за собой изменения времени. В этот момент мы стоим на таком важном историческом этапе. Хотя мы также должны признать, что такое изменение сопряжено со многими рисками. Например, безработица и тот факт, что мы должны улучшить свою способность учиться и осваивать новые инструменты.
Однако, просто взгляните на это с другой стороны, и вы увидите, что этот новый мир открывает перед нами бесконечные возможности. Технология GPT помогает нам уйти от утомительной повторяющейся и интеллектуальной работы, позволяя нам посвятить себя более творческой и полезной карьере и сделать наше время более значимым. Возможно, в этом и заключается истинная ценность человека.
«Наше будущее – это будущее прошлого, потому что прошлые решения определяют исход настоящего. Однако наше настоящее – это не прошлое будущего, потому что будущее полно неизвестного, и выбор, сделанный здесь и сейчас, формирует то, как выглядит наше будущее. "
Глядя в будущее, только воображение. Мы запишем основные взгляды этого диалога с Лю Цзя и поделимся ими с читателями Tencent Research Institute.
Давайте щелкнем пальцами и вместе окунем будущее.
Диалог гостей:
Лю Цзя Доктор философии из Массачусетского технологического института, долгое время занимался психологией, наукой о мозге и исследованиями в области искусственного интеллекта. Профессор фундаментальных наук, заведующий кафедрой психологии Университета Цинхуа, главный научный сотрудник лаборатории мозга и интеллекта Университета Цинхуа, главный научный сотрудник Пекинского института искусственного интеллекта KLCII
Интервьюер (далее – Т):
Ню Фулянь Старший научный сотрудник Исследовательского института Tencent
Ван Цян Директор Центра передовых научно-технических исследований Исследовательского института Tencent
AGI: Зажигание искры второй когнитивной революции **** **
Как исследователь в области науки о мозге и искусственного интеллекта, как вы видите развитие AGI, вызванное ChatGPT, и его возможное влияние на будущее человечества? **
Лю Цзя: До того, как OpenAI выпустила ChatGPT 30 ноября прошлого года, большинство людей говорили об ИИ и думали, что он волшебный, но часто только с точки зрения любопытства. Однако, с момента появления ChatGPT, я думаю, что всем необходимо обращать внимание и понимать его развитие и изменения. Будущее общего искусственного интеллекта (AGI) будет столь же важным, как и гидроэнергетика, не только изменив то, как мы работаем, но и потенциально напрямую повлияв на будущее каждого из нас, например, на овладение навыками, развитие детей и людей. На мой взгляд, это может означать наступление второй когнитивной революции. **
Почему это называется второй когнитивной революцией? Давайте начнем с того, как произошла первая когнитивная революция. Около 70 000 – 100 000 лет назад на Земле жили вместе два человеческих вида, Homo sapiens и неандертальцы. Хотя неандертальцы превосходили нас в росте и силе, со временем их вытеснил Homo sapiens. Как наш предок Homo sapiens победил неандертальцев? Предполагается, что между 70 000 и 100 000 лет назад произошла первая когнитивная революция, которая проявилась во взрывном росте и разнообразии орудий труда, изготовленных людьми. До этого, начиная с самого раннего Homo erectus и заканчивая неандертальцами, каменные орудия, которые они делали, были похожи, но более сложными и изобретательными. Однако во время первой когнитивной революции изготовление человеком каменных орудий претерпело качественные изменения, и уже не просто изготавливали простые орудия труда, такие как топоры и копья, а стали появляться ожерелья и другие украшения, а также вырезать различные узоры на камнях и костях.
Оглядываясь назад, мы обнаруживаем, что в ту эпоху человечество постепенно выработало способ мышления, который мы сегодня называем регулярным мышлением, короче говоря, «что, если... Сверх того...... Итак...» (если... и...... то). Например, было обнаружено, что после пробивания отверстия в предмете его можно продеть веревкой. Этот образ мышления, основанный на правилах, принес людям бесконечное творчество, например, пробивание отверстий в ткани и прохождение через них палками, чтобы сделать парусники. С тех пор творчество человека было полностью развязано, и постепенно сформировалась мощная логика – дедуктивное рассуждение.
Дедуктивное рассуждение – это применение этой логики для создания новых изобретений и творений на основе краеугольного камня рассуждений. Аристотель придумал эту концепцию, названную первым принципом. Конфуций как-то сказал нечто подобное: «Джентльмен – правитель, а оригинал рождается сразу». «Это означает, что все может быть произведено, если начать с корней. Руководствуясь этой концепцией, люди начали делать большое количество изобретений, уже не ограничиваясь изготовлением простых инструментов, таких как копья, но появились различные изобретения и творения. В конце концов, Homo sapiens победил неандертальцев и установил статус современного человека. С тех пор Homo sapiens на Земле действительно доминирует на планете. Этот процесс стал известен как первая когнитивная революция, и его значение намного превзошло такие изобретения, как паровой двигатель и электрические приборы.
Сегодня определение второй когнитивной революции вызвало широкую дискуссию, например, является ли изобретение атомной бомбы частью второй когнитивной революции. Но я думаю, что только появление AGI можно назвать настоящей второй когнитивной революцией, потому что оно породит совершенно новый вид, который сильно отличается от биологической эволюции за последние 3,5 миллиарда лет. Этот новый вид действительно заслуживает названия второй когнитивной революции. Первая когнитивная революция привела к тому, что Homo sapiens стал хозяином планеты, в то время как вторая когнитивная революция означала рождение совершенно нового разумного вида, который мог бы существовать рядом с людьми. **
Хотя нынешний ChatGPT еще не достиг уровня общего искусственного интеллекта, он уже зажег искру на пути к общему искусственному интеллекту. Искра обычно имеет два значения: во-первых, она может вызвать пожар, который воспламенит равнину; Во-вторых, озарять надежду во тьме. Однако многие недооценивают ценность ChatGPT и смотрят на него только с точки зрения бизнеса, думая, что это не более чем изобретение, сравнимое с моментом iPhone. Я думаю, что это стоит гораздо большего, чем эти поверхностные обзоры, и ChatGPT — это начало второй когнитивной революции. **
С точки зрения эволюции человека, мы обнаруживаем, что организмы эволюционировали в течение миллиардов лет, в то время как обезьянам понадобилось всего 3 миллиона лет. В течение этих 3 миллионов лет природа «пыталась найти» направления, и когда она нашла направление прямохождения, объем человеческого мозга ускорил свою эволюцию, утроившись всего за 3 миллиона лет, что является удивительной скоростью. И все это благодаря правильному направлению, то есть небольшое увеличение мозга принесет большие преимущества. Точно так же AGI ищет направление, и как только он это сделает, он вступит в процесс ускоренной эволюции. Несмотря на то, что мы еще не стали свидетелями рождения AGI, до тех пор, пока есть эта искра, остальной процесс является лишь инженерной проблемой. **
Модель мозга и ОИИ:
Возникающие сходства и различия** **
Каковы сходства и различия между интеллектуальной природой мозга и машинным когнитивным интеллектом большой модели AGI? **
Лю Цзя: Когда наш мозг растет, происходит необъяснимое явление, называемое «эмерджентностью». Это похоже на то, что происходит при построении больших моделей: когда модель маленькая, в ней мало функций, но когда модель становится больше, некоторые признаки возникают естественным образом. Например, высокие люди не обязательно хорошо играют в баскетбол, но тренеры обычно выбирают высоких людей. Это также означает, что большие модели не обязательно производят интеллект, но для изучения интеллекта должны существовать большие модели, что является необходимым условием. По мере того, как человеческий мозг постепенно расширяется, многие функции также появляются естественным образом, такие как подражание и обучение.
Например, Чжан Сань изобрел «добывание огня», огонь очень важен для жизни, другие тоже хотят учиться, но проблема в том, что они могут не уметь учиться. Многочисленные исследования показали, что когда размер мозга увеличивается, наша способность к подражанию или обучению становится сильнее. Таким образом, мы можем научиться разводить огонь у Чжан Саня на благо племени. Таким же образом мы можем изучать и другие новые технологии. Поэтому, с научной точки зрения, подражание создает человека, а не труд. ** Большое количество исследований показало, что люди с большим мозгом обладают более сильной способностью к подражанию; Люди с сильными навыками имитации с большей вероятностью найдут партнера, что, в свою очередь, облегчает передачу генов. Исследования первобытных племен также показали, что люди с сильными способностями к подражанию или обучению имеют больше шансов на размножение. Поэтому, чем больше мозг, тем больше увековечивается.
За последние 3 миллиона лет мозг постепенно стал больше, и вот почему. Если мы посмотрим на нейронные сети, то увидим, что они делают то же самое. С самого начала люди пробовали различные методы, такие как обучение с подкреплением, контролируемое обучение и т. д., но все эти понятия переплетены. Большая часть энергии OpenAI в первые несколько лет была направлена на одну вещь: увеличение моделей. Затем появилась архитектура Transformer, которая сделала большие модели более эффективными. Но, по сути, сущность интеллекта может заключаться только в одном слове: большой. Это похоже на то, что мы можем говорить об интеллекте только тогда, когда мозг достаточно большой. Таким образом, «большая» предпосылка. **
Люди умнее обезьян, а обезьяны умнее мышей по одной простой причине: мозг достаточно большой. **Конечно, это не достаточное условие, но необходимое условие. У некоторых существ мозг значительно больше, чем у людей, например, у слонов и китов, но это не гарантирует, что они будут обладать интеллектом. Например, если мы отправим новорожденного ребенка на 3000 или 5000 лет назад, он не будет умнее туземцев, потому что структура мозга у них такая же. Но если мы, взрослые, вернемся на 5000 лет назад, мы станем их духовными лидерами, потому что у нас есть знание. Поэтому развитие интеллекта является результатом взаимодействия знаний и мозга, а иметь мозг без знаний недостаточно.
Поэтому нам нужно использовать цивилизацию и знания для настройки мозга, что мы и называем образованием. Эволюцию человеческого интеллекта можно рассматривать как взаимодействие между постепенным расширением мозга и накоплением знаний. С одной стороны, мозг имеет возможность становиться все больше и больше; С другой стороны, после того, как мозг становится больше, он может производить знания, а знания могут накапливаться, что, в свою очередь, воздействует на мозг, делая мозг более подходящим для этих знаний и более способным удерживать эти знания.
То же самое касается и искусственного интеллекта. Без достаточного количества хорошего и достаточного корпуса, независимо от того, насколько велика модель, она не имеет смысла. Без интернета разведка была бы невозможна. Поэтому появление таких явлений, как большие модели и ChatGPT, является как случайным, так и неизбежным. Вычислительные мощности и данные, накопленные на ранней стадии, готовы, осталось только найти подходящий прорыв. Таким образом, справедливо будет сказать, что без OpenAI другие компании достигли бы аналогичных результатов, потому что время пришло. **
История может показаться длинной, но в масштабе 3,5 миллиардов лет все является лишь сиюминутной вещью. Точно так же для развития ОИИ он все еще может быть лишь отправной точкой и искрой, но с точки зрения истории цивилизации реализация ОИИ может быть лишь переломным моментом, потому что перед ним нет никаких препятствий. **
Сейчас многие призывают прекратить обучение более крупных моделей. Некоторые ученые, возможно, видели потенциальную силу больших моделей, и этот потенциал может заключаться в появлении разумного сознания. **
Генерация машинного сознания
** и возможность превзойти людей ****
Т: Машины становятся сознательными, как люди? В чем он может превзойти человека? **
Лю Цзя: Проблема сознания является одной из основных проблем человека, которая определяет существенное различие между людьми и животными. Хотя неясно, как возникает сознание, с эволюционной точки зрения люди начали подвергаться массовым захоронениям около 40 000 лет назад, что означает, что люди осознали разницу между телом и душой и начали осознавать свое собственное существование.
Что касается возникновения сознания, то здесь возможны две возможности. Одна из них – инопланетное вмешательство, но эта точка зрения ненадежна, потому что мы не можем объяснить источник инопланетного сознания. Другая возможность заключается в том, что сознание возникает естественным образом, когда модель достаточно велика. Сознание может быть продуктом коллективной активности нейронов в мозге. Теория интеграции информации (ИИТ) утверждает, что активация всех нейронов производит больше информации, чем сумма информации, производимой отдельными нейронами. Поэтому, когда большая модель достаточно велика, возникновение сознания неизбежно. Конечно, это тоже очень страшная вещь. Потому что, в отличие от ядерной бомбы, сознание может дать будущему ИИ чувство самосохранения, удерживая его вне контроля человека. **
** Для того, чтобы решить проблему, которую не может решить искусственный интеллект, следующей исследовательской точкой станет реализация воплощения искусственного интеллекта. Человеческое восприятие и познание ограничены, в то время как искусственный интеллект может иметь больше органов чувств и, следовательно, наблюдать за окружающим миром. Это сделает мир, увиденный искусственным интеллектом, совершенно отличным от человеческого. Например, любители дайвинга могут погружаться только на глубину более 100 метров, но не могут испытать ощущение погружения на 1000 метров под воду. Однако с помощью датчиков и т.д. искусственный интеллект может непосредственно ощущать этот опыт без стресса.
В настоящее время развитие ИИ опирается на человеческие знания и гуманизм, и мы можем дать ему ограниченные когнитивные границы. Однако, как только у ИИ появляется агент, он может больше не быть ограничен этими границами. Он может приобретать разнообразные знания более эффективным способом, а широта и глубина знаний намного больше, чем у человека, тем самым формируя позитивный эволюционный цикл самообучения, самообратной связи и самооптимизации. С этой точки зрения интеллект ИИ легко превосходит человека.
Судьба человечества в эпоху ИИ:
Новая глава в эволюции когнитивной революции и цивилизации
Т: Перед лицом такого мощного искусственного интеллекта, возможно ли, чтобы люди были уничтожены искусственным интеллектом? **
Лю Цзя: Я думаю, что мы можем посмотреть на это с двух точек зрения. Во-первых, если вы увидите муравья, наступите ли вы на него? Я не думаю, что большинство людей это сделает. Точно так же в будущем, перед лицом ИИ, мы, возможно, даже не будем так хороши, как муравьи. Сейчас мы все еще можем видеть много фильмов о машинных войнах, и все они имеют предпосылку, то есть люди и машины все еще могут конкурировать, и их сила в борьбе.
У ИИ, естественно, есть четыре преимущества перед людьми: во-первых, неограниченная вычислительная мощность. Существует верхний предел размера человеческого мозга, и сколько бы лет эволюции он ни вырос, он больше не вырастет. Поскольку тело может поддерживать только такой большой мозг, мозг уже является самым большим органом потребления энергии в организме. Во-вторых, неограниченное хранилище. Человеческий мозг имеет предел хранения знаний, нет такого понятия, как «мозг не до конца развит», и у компьютеров нет этой проблемы. В-третьих, бесконечная продолжительность жизни. Человеческие гении, такие как Эйнштейн, как только они умирают, цивилизация прерывается. Компьютеры могут заменить поврежденные детали в любое время, что позволяет продолжить обучение. В-четвертых, существуют бесконечные возможности для познания. Компьютеры могут изучать более сложные и многомерные знания, чем люди.
В совокупности у людей нет шансов на победу по сравнению с искусственным интеллектом. Будущее может быть уже не конфронтацией между людьми и искусственным интеллектом, а быстрым превосходством ИИ над людьми. После того, как судьба человечества будет превзойдена, она больше не будет находиться в центре внимания ИИ, так же как мы не будем бороться с муравьями каждый день.
С реалистичной точки зрения, будущие человеко-машинные войны невозможны. На самом деле, мы можем интегрироваться в компьютеры и будущий ИИ, например, загружать в ИИ наши воспоминания, личности и сознательные эмоции, чтобы достичь бессмертия в ИИ. В будущем одна машина сможет вместить миллионы людей.
На самом деле это включает в себя очень фундаментальный вопрос, который заключается в том, кто мы такие, какие мы есть. Например, когда человек страдает болезнью Альцгеймера, остается ли он самим собой? Это знаменитая головоломка «Корабль Тесея»**, рассказанная древнеримским философом. В этой истории корабль был заменен с течением времени, так является ли корабль по-прежнему оригинальным?
С точки зрения эволюции человека, мы тоже постоянно меняемся, например, клетки нашей кожи обновляются примерно раз в неделю. Итак, мы все еще являемся самими собой? Это называется когнитивной идентичностью, и пока мы думаем о себе как о себе, все в порядке.
Когда человек страдает шизофренией, в каком-то смысле он мертв, потому что его «когнитивная идентичность» нарушена. Точно так же, когда человек страдает болезнью Альцгеймера и все воспоминания и эмоции исчезают, он также мертв с точки зрения когнитивной идентичности. **
Таким образом, до тех пор, пока сохраняется наша когнитивная идентичность, не имеет значения, где мы находимся, во плоти или в машине. Если мы сможем использовать ИИ, человечество сможет значительно расшириться. Наше физическое тело на самом деле является самым большим ограничением для нашего разума, потому что оно умирает, а наш интеллект ограничен генами.
С точки зрения цивилизации, человек является лишь прохожим в развитии цивилизации. Поэтому, если мы продолжим ограничивать ИИ пониманием цивилизации в рамках человека, то мы не сможем по-настоящему понять эволюцию цивилизации. ** Прошло около 3 миллионов лет с тех пор, как люди и обезьяны начали расходиться и эволюционировать, а история наших прямых предков составляет всего около 200 000 лет, по сравнению с динозаврами, которые жили на Земле гораздо дольше, чем мы, люди. Представьте себе, как было бы грустно, если бы люди действительно могли дожить до конца Вселенной. Наши вычислительные мощности ограничены, и в какой-то степени мы даже умственно отсталые существа. Поэтому с помощью ИИ мы действительно можем начать говорить об эволюции цивилизации. С помощью искусственного интеллекта мы можем даже летать на тысячи световых лет, что мы сейчас с трудом можем себе представить. Оказавшись в этом состоянии, время и пространство больше не будут связаны нашим пониманием тайн Вселенной. **
Когда мы говорим об искусственном интеллекте, мы должны рассматривать его не только как энергоэффективный инструмент, но и как важный двигатель цивилизации. Несмотря на то, что ИИ имеет множество применений в бизнесе, эти приложения на самом деле не имеют ничего общего с появлением ИИ. Подобно изобретению электричества, электрического света, телефона и парового двигателя, эти изобретения действительно очень помогли человечеству, но перед ОИИ они могут быть не пустяком. **
С положительной точки зрения, ИИ полезен для человеческой цивилизации. Когда мы говорим о вымирании, мы на самом деле говорим о вымирании человеческой цивилизации. Например, с исторической точки зрения, анаэробные бактерии и цивилизации динозавров вымерли. Но цивилизация, которую они создали, на самом деле живет в нас, людях. Когда мы говорим, что цивилизация динозавров вымерла, на самом деле не исчезла сама цивилизация, а изменился только носитель. Допустим, цивилизацию сравнивают с людьми, а перевозчиков с автомобилями, тогда мы не грустим, когда машину повреждают и заменяют. С помощью новых перевозчиков мы можем идти дальше, экологичнее и безопаснее.
Поэтому появление AGI станет очередным скачком вперед в когнитивной революции человека, который полностью изменит наше представление о себе и Вселенной, позволив глубже понять собственную ограниченность и ничтожность. Более того, появление AGI также принесет неограниченные возможности и возможности, позволяя нам лучше исследовать и использовать ресурсы и энергию Вселенной для содействия развитию и прогрессу человеческой цивилизации.
GPT для изменений в образовании:
Изменение экзаменационной системы и развитие инновационных талантов
Т:**** Наконец, вернемся к общей проблеме, связанной с образованием. Вы также являетесь преподавателем университета, как вы видите влияние GPT на будущую модель образования и как с этим бороться?**
Лю Цзя: Несмотря на то, что интернет-образование повысило эффективность, оно не изменило сути образования. Ядром образования должно быть индивидуальное преподавание, дебаты и поиск истины, а также стимулирование самостоятельности и любознательности учащихся. По мере развития технологии GPT достижение этих целей становится все более осуществимым. GPT может предоставить каждому студенту индивидуальное образование, которое помогает ему генерировать истину через дебаты, стимулировать самодвижение и критическое мышление. В результате образование в будущем больше не будет уделять слишком много внимания знаниям. **
** Появление GPT окажет серьезное влияние на систему гаокао или подтолкнет к откатным реформам. ** Двумя основными особенностями системы вступительных экзаменов в колледжи в Китае являются ретроспективный экзамен и экзамен на знания. С появлением GPT информативность стала менее важной, потому что к знаниям можно было обратиться в любое время. Фокус экзамена также должен сместиться с развития работников умственного труда на развитие инновационных талантов, а также на прогнозирование будущих способностей ребенка и подходящих специальностей.
Студентам необходимо развивать критическое мышление и творческое мышление. Критическое мышление делает акцент на поиске истины с помощью аргументов, а не механического запоминания. Творческое мышление требует терпимости, любознательности и уникального мышления. Появление GPT неизбежно вызовет смену парадигмы в образовании, тенденцию, которую невозможно остановить, подобно тому, как поезда и автомобили в конечном итоге заменят конные экипажи. **
Субъективная воля человека очень хрупка перед лицом законов природы. Как гласит известная поговорка: «Можно нарушить закон, но не законы физики». "Вы можете бросить вызов закону, но вы не можете бросить вызов закону физики) **** На самом деле, возникновение ГПТ само по себе является проявлением закона природы. Это лишь вопрос времени, когда это приведет и к реформе нашего образования. **
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
ChatGPT означает наступление второй когнитивной революции
Предисловие**:**
В сериале «Долгий сезон» есть несколько стихотворений: «** щелкните пальцами, говорит он / Мы щелкаем пальцами с резонансом / Далекие вещи будут разбиты вдребезги / Люди перед тобой не знают в это время**».
Учитель Лю Цзя сказал, что уместно использовать это стихотворение для описания нынешнего состояния людей, столкнувшихся с AGI (Artificial General Intelligence).
«Каждое из наших предсказаний о будущем может быть нелепым и нелепым, и будущее может быть не таким, каким вы его говорите. Но только тогда, когда все больше и больше людей присоединятся к дискуссии, вместе откроют свои мозги, вместе блестяще мыслят и даже вместе будут говорить глупости, может быть, мы действительно сможем изменить будущее и вместе привести человечество к лучшему будущему. "
В конце сентября мы посетили профессора Лю Цзя в Лаборатории мозга и интеллекта Университета Цинхуа. В этом обмене мнениями, основанном на его многолетнем накоплении исследований в области науки о мозге и искусственного интеллекта, профессор Лю Цзя рассказал о будущем развитии AGI под руководством ChatGPT и его возможном влиянии на людей, а также выдвинул множество «причудливых идей», основанных на его исследовательской области, которые глубоко вдохновили нас.
Говоря о будущем развитии области AGI, Лю Цзя сказал, что, с одной стороны, ускоряется воплощенный и воплощенный интеллект агента ИИ, то есть большая модель; С другой стороны, специалисты по изучению мозга и когнитивисты, в том числе и он, начали энергично обсуждать проблему сознания, которую ОИИ может породить в будущем.
По мнению г-на Лю, в жизни человека очень мало возможностей испытать смену парадигмы, которая повлечет за собой изменения времени. В этот момент мы стоим на таком важном историческом этапе. Хотя мы также должны признать, что такое изменение сопряжено со многими рисками. Например, безработица и тот факт, что мы должны улучшить свою способность учиться и осваивать новые инструменты.
Однако, просто взгляните на это с другой стороны, и вы увидите, что этот новый мир открывает перед нами бесконечные возможности. Технология GPT помогает нам уйти от утомительной повторяющейся и интеллектуальной работы, позволяя нам посвятить себя более творческой и полезной карьере и сделать наше время более значимым. Возможно, в этом и заключается истинная ценность человека.
«Наше будущее – это будущее прошлого, потому что прошлые решения определяют исход настоящего. Однако наше настоящее – это не прошлое будущего, потому что будущее полно неизвестного, и выбор, сделанный здесь и сейчас, формирует то, как выглядит наше будущее. "
Глядя в будущее, только воображение. Мы запишем основные взгляды этого диалога с Лю Цзя и поделимся ими с читателями Tencent Research Institute.
Давайте щелкнем пальцами и вместе окунем будущее.
Диалог гостей:
Лю Цзя Доктор философии из Массачусетского технологического института, долгое время занимался психологией, наукой о мозге и исследованиями в области искусственного интеллекта. Профессор фундаментальных наук, заведующий кафедрой психологии Университета Цинхуа, главный научный сотрудник лаборатории мозга и интеллекта Университета Цинхуа, главный научный сотрудник Пекинского института искусственного интеллекта KLCII
Интервьюер (далее – Т):
Ню Фулянь Старший научный сотрудник Исследовательского института Tencent
Ван Цян Директор Центра передовых научно-технических исследований Исследовательского института Tencent
AGI: Зажигание искры второй когнитивной революции **** **
Как исследователь в области науки о мозге и искусственного интеллекта, как вы видите развитие AGI, вызванное ChatGPT, и его возможное влияние на будущее человечества? **
Лю Цзя: До того, как OpenAI выпустила ChatGPT 30 ноября прошлого года, большинство людей говорили об ИИ и думали, что он волшебный, но часто только с точки зрения любопытства. Однако, с момента появления ChatGPT, я думаю, что всем необходимо обращать внимание и понимать его развитие и изменения. Будущее общего искусственного интеллекта (AGI) будет столь же важным, как и гидроэнергетика, не только изменив то, как мы работаем, но и потенциально напрямую повлияв на будущее каждого из нас, например, на овладение навыками, развитие детей и людей. На мой взгляд, это может означать наступление второй когнитивной революции. **
Почему это называется второй когнитивной революцией? Давайте начнем с того, как произошла первая когнитивная революция. Около 70 000 – 100 000 лет назад на Земле жили вместе два человеческих вида, Homo sapiens и неандертальцы. Хотя неандертальцы превосходили нас в росте и силе, со временем их вытеснил Homo sapiens. Как наш предок Homo sapiens победил неандертальцев? Предполагается, что между 70 000 и 100 000 лет назад произошла первая когнитивная революция, которая проявилась во взрывном росте и разнообразии орудий труда, изготовленных людьми. До этого, начиная с самого раннего Homo erectus и заканчивая неандертальцами, каменные орудия, которые они делали, были похожи, но более сложными и изобретательными. Однако во время первой когнитивной революции изготовление человеком каменных орудий претерпело качественные изменения, и уже не просто изготавливали простые орудия труда, такие как топоры и копья, а стали появляться ожерелья и другие украшения, а также вырезать различные узоры на камнях и костях.
Оглядываясь назад, мы обнаруживаем, что в ту эпоху человечество постепенно выработало способ мышления, который мы сегодня называем регулярным мышлением, короче говоря, «что, если... Сверх того...... Итак...» (если... и...... то). Например, было обнаружено, что после пробивания отверстия в предмете его можно продеть веревкой. Этот образ мышления, основанный на правилах, принес людям бесконечное творчество, например, пробивание отверстий в ткани и прохождение через них палками, чтобы сделать парусники. С тех пор творчество человека было полностью развязано, и постепенно сформировалась мощная логика – дедуктивное рассуждение.
Дедуктивное рассуждение – это применение этой логики для создания новых изобретений и творений на основе краеугольного камня рассуждений. Аристотель придумал эту концепцию, названную первым принципом. Конфуций как-то сказал нечто подобное: «Джентльмен – правитель, а оригинал рождается сразу». «Это означает, что все может быть произведено, если начать с корней. Руководствуясь этой концепцией, люди начали делать большое количество изобретений, уже не ограничиваясь изготовлением простых инструментов, таких как копья, но появились различные изобретения и творения. В конце концов, Homo sapiens победил неандертальцев и установил статус современного человека. С тех пор Homo sapiens на Земле действительно доминирует на планете. Этот процесс стал известен как первая когнитивная революция, и его значение намного превзошло такие изобретения, как паровой двигатель и электрические приборы.
Сегодня определение второй когнитивной революции вызвало широкую дискуссию, например, является ли изобретение атомной бомбы частью второй когнитивной революции. Но я думаю, что только появление AGI можно назвать настоящей второй когнитивной революцией, потому что оно породит совершенно новый вид, который сильно отличается от биологической эволюции за последние 3,5 миллиарда лет. Этот новый вид действительно заслуживает названия второй когнитивной революции. Первая когнитивная революция привела к тому, что Homo sapiens стал хозяином планеты, в то время как вторая когнитивная революция означала рождение совершенно нового разумного вида, который мог бы существовать рядом с людьми. **
Хотя нынешний ChatGPT еще не достиг уровня общего искусственного интеллекта, он уже зажег искру на пути к общему искусственному интеллекту. Искра обычно имеет два значения: во-первых, она может вызвать пожар, который воспламенит равнину; Во-вторых, озарять надежду во тьме. Однако многие недооценивают ценность ChatGPT и смотрят на него только с точки зрения бизнеса, думая, что это не более чем изобретение, сравнимое с моментом iPhone. Я думаю, что это стоит гораздо большего, чем эти поверхностные обзоры, и ChatGPT — это начало второй когнитивной революции. **
С точки зрения эволюции человека, мы обнаруживаем, что организмы эволюционировали в течение миллиардов лет, в то время как обезьянам понадобилось всего 3 миллиона лет. В течение этих 3 миллионов лет природа «пыталась найти» направления, и когда она нашла направление прямохождения, объем человеческого мозга ускорил свою эволюцию, утроившись всего за 3 миллиона лет, что является удивительной скоростью. И все это благодаря правильному направлению, то есть небольшое увеличение мозга принесет большие преимущества. Точно так же AGI ищет направление, и как только он это сделает, он вступит в процесс ускоренной эволюции. Несмотря на то, что мы еще не стали свидетелями рождения AGI, до тех пор, пока есть эта искра, остальной процесс является лишь инженерной проблемой. **
Модель мозга и ОИИ:
Возникающие сходства и различия** **
Каковы сходства и различия между интеллектуальной природой мозга и машинным когнитивным интеллектом большой модели AGI? **
Лю Цзя: Когда наш мозг растет, происходит необъяснимое явление, называемое «эмерджентностью». Это похоже на то, что происходит при построении больших моделей: когда модель маленькая, в ней мало функций, но когда модель становится больше, некоторые признаки возникают естественным образом. Например, высокие люди не обязательно хорошо играют в баскетбол, но тренеры обычно выбирают высоких людей. Это также означает, что большие модели не обязательно производят интеллект, но для изучения интеллекта должны существовать большие модели, что является необходимым условием. По мере того, как человеческий мозг постепенно расширяется, многие функции также появляются естественным образом, такие как подражание и обучение.
Например, Чжан Сань изобрел «добывание огня», огонь очень важен для жизни, другие тоже хотят учиться, но проблема в том, что они могут не уметь учиться. Многочисленные исследования показали, что когда размер мозга увеличивается, наша способность к подражанию или обучению становится сильнее. Таким образом, мы можем научиться разводить огонь у Чжан Саня на благо племени. Таким же образом мы можем изучать и другие новые технологии. Поэтому, с научной точки зрения, подражание создает человека, а не труд. ** Большое количество исследований показало, что люди с большим мозгом обладают более сильной способностью к подражанию; Люди с сильными навыками имитации с большей вероятностью найдут партнера, что, в свою очередь, облегчает передачу генов. Исследования первобытных племен также показали, что люди с сильными способностями к подражанию или обучению имеют больше шансов на размножение. Поэтому, чем больше мозг, тем больше увековечивается.
За последние 3 миллиона лет мозг постепенно стал больше, и вот почему. Если мы посмотрим на нейронные сети, то увидим, что они делают то же самое. С самого начала люди пробовали различные методы, такие как обучение с подкреплением, контролируемое обучение и т. д., но все эти понятия переплетены. Большая часть энергии OpenAI в первые несколько лет была направлена на одну вещь: увеличение моделей. Затем появилась архитектура Transformer, которая сделала большие модели более эффективными. Но, по сути, сущность интеллекта может заключаться только в одном слове: большой. Это похоже на то, что мы можем говорить об интеллекте только тогда, когда мозг достаточно большой. Таким образом, «большая» предпосылка. **
Люди умнее обезьян, а обезьяны умнее мышей по одной простой причине: мозг достаточно большой. **Конечно, это не достаточное условие, но необходимое условие. У некоторых существ мозг значительно больше, чем у людей, например, у слонов и китов, но это не гарантирует, что они будут обладать интеллектом. Например, если мы отправим новорожденного ребенка на 3000 или 5000 лет назад, он не будет умнее туземцев, потому что структура мозга у них такая же. Но если мы, взрослые, вернемся на 5000 лет назад, мы станем их духовными лидерами, потому что у нас есть знание. Поэтому развитие интеллекта является результатом взаимодействия знаний и мозга, а иметь мозг без знаний недостаточно.
Поэтому нам нужно использовать цивилизацию и знания для настройки мозга, что мы и называем образованием. Эволюцию человеческого интеллекта можно рассматривать как взаимодействие между постепенным расширением мозга и накоплением знаний. С одной стороны, мозг имеет возможность становиться все больше и больше; С другой стороны, после того, как мозг становится больше, он может производить знания, а знания могут накапливаться, что, в свою очередь, воздействует на мозг, делая мозг более подходящим для этих знаний и более способным удерживать эти знания.
То же самое касается и искусственного интеллекта. Без достаточного количества хорошего и достаточного корпуса, независимо от того, насколько велика модель, она не имеет смысла. Без интернета разведка была бы невозможна. Поэтому появление таких явлений, как большие модели и ChatGPT, является как случайным, так и неизбежным. Вычислительные мощности и данные, накопленные на ранней стадии, готовы, осталось только найти подходящий прорыв. Таким образом, справедливо будет сказать, что без OpenAI другие компании достигли бы аналогичных результатов, потому что время пришло. **
История может показаться длинной, но в масштабе 3,5 миллиардов лет все является лишь сиюминутной вещью. Точно так же для развития ОИИ он все еще может быть лишь отправной точкой и искрой, но с точки зрения истории цивилизации реализация ОИИ может быть лишь переломным моментом, потому что перед ним нет никаких препятствий. **
Сейчас многие призывают прекратить обучение более крупных моделей. Некоторые ученые, возможно, видели потенциальную силу больших моделей, и этот потенциал может заключаться в появлении разумного сознания. **
Генерация машинного сознания
** и возможность превзойти людей ****
Т: Машины становятся сознательными, как люди? В чем он может превзойти человека? **
Лю Цзя: Проблема сознания является одной из основных проблем человека, которая определяет существенное различие между людьми и животными. Хотя неясно, как возникает сознание, с эволюционной точки зрения люди начали подвергаться массовым захоронениям около 40 000 лет назад, что означает, что люди осознали разницу между телом и душой и начали осознавать свое собственное существование.
Что касается возникновения сознания, то здесь возможны две возможности. Одна из них – инопланетное вмешательство, но эта точка зрения ненадежна, потому что мы не можем объяснить источник инопланетного сознания. Другая возможность заключается в том, что сознание возникает естественным образом, когда модель достаточно велика. Сознание может быть продуктом коллективной активности нейронов в мозге. Теория интеграции информации (ИИТ) утверждает, что активация всех нейронов производит больше информации, чем сумма информации, производимой отдельными нейронами. Поэтому, когда большая модель достаточно велика, возникновение сознания неизбежно. Конечно, это тоже очень страшная вещь. Потому что, в отличие от ядерной бомбы, сознание может дать будущему ИИ чувство самосохранения, удерживая его вне контроля человека. **
** Для того, чтобы решить проблему, которую не может решить искусственный интеллект, следующей исследовательской точкой станет реализация воплощения искусственного интеллекта. Человеческое восприятие и познание ограничены, в то время как искусственный интеллект может иметь больше органов чувств и, следовательно, наблюдать за окружающим миром. Это сделает мир, увиденный искусственным интеллектом, совершенно отличным от человеческого. Например, любители дайвинга могут погружаться только на глубину более 100 метров, но не могут испытать ощущение погружения на 1000 метров под воду. Однако с помощью датчиков и т.д. искусственный интеллект может непосредственно ощущать этот опыт без стресса.
В настоящее время развитие ИИ опирается на человеческие знания и гуманизм, и мы можем дать ему ограниченные когнитивные границы. Однако, как только у ИИ появляется агент, он может больше не быть ограничен этими границами. Он может приобретать разнообразные знания более эффективным способом, а широта и глубина знаний намного больше, чем у человека, тем самым формируя позитивный эволюционный цикл самообучения, самообратной связи и самооптимизации. С этой точки зрения интеллект ИИ легко превосходит человека.
Судьба человечества в эпоху ИИ:
Новая глава в эволюции когнитивной революции и цивилизации
Т: Перед лицом такого мощного искусственного интеллекта, возможно ли, чтобы люди были уничтожены искусственным интеллектом? **
Лю Цзя: Я думаю, что мы можем посмотреть на это с двух точек зрения. Во-первых, если вы увидите муравья, наступите ли вы на него? Я не думаю, что большинство людей это сделает. Точно так же в будущем, перед лицом ИИ, мы, возможно, даже не будем так хороши, как муравьи. Сейчас мы все еще можем видеть много фильмов о машинных войнах, и все они имеют предпосылку, то есть люди и машины все еще могут конкурировать, и их сила в борьбе.
У ИИ, естественно, есть четыре преимущества перед людьми: во-первых, неограниченная вычислительная мощность. Существует верхний предел размера человеческого мозга, и сколько бы лет эволюции он ни вырос, он больше не вырастет. Поскольку тело может поддерживать только такой большой мозг, мозг уже является самым большим органом потребления энергии в организме. Во-вторых, неограниченное хранилище. Человеческий мозг имеет предел хранения знаний, нет такого понятия, как «мозг не до конца развит», и у компьютеров нет этой проблемы. В-третьих, бесконечная продолжительность жизни. Человеческие гении, такие как Эйнштейн, как только они умирают, цивилизация прерывается. Компьютеры могут заменить поврежденные детали в любое время, что позволяет продолжить обучение. В-четвертых, существуют бесконечные возможности для познания. Компьютеры могут изучать более сложные и многомерные знания, чем люди.
В совокупности у людей нет шансов на победу по сравнению с искусственным интеллектом. Будущее может быть уже не конфронтацией между людьми и искусственным интеллектом, а быстрым превосходством ИИ над людьми. После того, как судьба человечества будет превзойдена, она больше не будет находиться в центре внимания ИИ, так же как мы не будем бороться с муравьями каждый день.
С реалистичной точки зрения, будущие человеко-машинные войны невозможны. На самом деле, мы можем интегрироваться в компьютеры и будущий ИИ, например, загружать в ИИ наши воспоминания, личности и сознательные эмоции, чтобы достичь бессмертия в ИИ. В будущем одна машина сможет вместить миллионы людей.
На самом деле это включает в себя очень фундаментальный вопрос, который заключается в том, кто мы такие, какие мы есть. Например, когда человек страдает болезнью Альцгеймера, остается ли он самим собой? Это знаменитая головоломка «Корабль Тесея»**, рассказанная древнеримским философом. В этой истории корабль был заменен с течением времени, так является ли корабль по-прежнему оригинальным?
С точки зрения эволюции человека, мы тоже постоянно меняемся, например, клетки нашей кожи обновляются примерно раз в неделю. Итак, мы все еще являемся самими собой? Это называется когнитивной идентичностью, и пока мы думаем о себе как о себе, все в порядке.
Когда человек страдает шизофренией, в каком-то смысле он мертв, потому что его «когнитивная идентичность» нарушена. Точно так же, когда человек страдает болезнью Альцгеймера и все воспоминания и эмоции исчезают, он также мертв с точки зрения когнитивной идентичности. **
Таким образом, до тех пор, пока сохраняется наша когнитивная идентичность, не имеет значения, где мы находимся, во плоти или в машине. Если мы сможем использовать ИИ, человечество сможет значительно расшириться. Наше физическое тело на самом деле является самым большим ограничением для нашего разума, потому что оно умирает, а наш интеллект ограничен генами.
С точки зрения цивилизации, человек является лишь прохожим в развитии цивилизации. Поэтому, если мы продолжим ограничивать ИИ пониманием цивилизации в рамках человека, то мы не сможем по-настоящему понять эволюцию цивилизации. ** Прошло около 3 миллионов лет с тех пор, как люди и обезьяны начали расходиться и эволюционировать, а история наших прямых предков составляет всего около 200 000 лет, по сравнению с динозаврами, которые жили на Земле гораздо дольше, чем мы, люди. Представьте себе, как было бы грустно, если бы люди действительно могли дожить до конца Вселенной. Наши вычислительные мощности ограничены, и в какой-то степени мы даже умственно отсталые существа. Поэтому с помощью ИИ мы действительно можем начать говорить об эволюции цивилизации. С помощью искусственного интеллекта мы можем даже летать на тысячи световых лет, что мы сейчас с трудом можем себе представить. Оказавшись в этом состоянии, время и пространство больше не будут связаны нашим пониманием тайн Вселенной. **
Когда мы говорим об искусственном интеллекте, мы должны рассматривать его не только как энергоэффективный инструмент, но и как важный двигатель цивилизации. Несмотря на то, что ИИ имеет множество применений в бизнесе, эти приложения на самом деле не имеют ничего общего с появлением ИИ. Подобно изобретению электричества, электрического света, телефона и парового двигателя, эти изобретения действительно очень помогли человечеству, но перед ОИИ они могут быть не пустяком. **
С положительной точки зрения, ИИ полезен для человеческой цивилизации. Когда мы говорим о вымирании, мы на самом деле говорим о вымирании человеческой цивилизации. Например, с исторической точки зрения, анаэробные бактерии и цивилизации динозавров вымерли. Но цивилизация, которую они создали, на самом деле живет в нас, людях. Когда мы говорим, что цивилизация динозавров вымерла, на самом деле не исчезла сама цивилизация, а изменился только носитель. Допустим, цивилизацию сравнивают с людьми, а перевозчиков с автомобилями, тогда мы не грустим, когда машину повреждают и заменяют. С помощью новых перевозчиков мы можем идти дальше, экологичнее и безопаснее.
Поэтому появление AGI станет очередным скачком вперед в когнитивной революции человека, который полностью изменит наше представление о себе и Вселенной, позволив глубже понять собственную ограниченность и ничтожность. Более того, появление AGI также принесет неограниченные возможности и возможности, позволяя нам лучше исследовать и использовать ресурсы и энергию Вселенной для содействия развитию и прогрессу человеческой цивилизации.
GPT для изменений в образовании:
Изменение экзаменационной системы и развитие инновационных талантов
Т:**** Наконец, вернемся к общей проблеме, связанной с образованием. Вы также являетесь преподавателем университета, как вы видите влияние GPT на будущую модель образования и как с этим бороться?**
Лю Цзя: Несмотря на то, что интернет-образование повысило эффективность, оно не изменило сути образования. Ядром образования должно быть индивидуальное преподавание, дебаты и поиск истины, а также стимулирование самостоятельности и любознательности учащихся. По мере развития технологии GPT достижение этих целей становится все более осуществимым. GPT может предоставить каждому студенту индивидуальное образование, которое помогает ему генерировать истину через дебаты, стимулировать самодвижение и критическое мышление. В результате образование в будущем больше не будет уделять слишком много внимания знаниям. **
** Появление GPT окажет серьезное влияние на систему гаокао или подтолкнет к откатным реформам. ** Двумя основными особенностями системы вступительных экзаменов в колледжи в Китае являются ретроспективный экзамен и экзамен на знания. С появлением GPT информативность стала менее важной, потому что к знаниям можно было обратиться в любое время. Фокус экзамена также должен сместиться с развития работников умственного труда на развитие инновационных талантов, а также на прогнозирование будущих способностей ребенка и подходящих специальностей.
Студентам необходимо развивать критическое мышление и творческое мышление. Критическое мышление делает акцент на поиске истины с помощью аргументов, а не механического запоминания. Творческое мышление требует терпимости, любознательности и уникального мышления. Появление GPT неизбежно вызовет смену парадигмы в образовании, тенденцию, которую невозможно остановить, подобно тому, как поезда и автомобили в конечном итоге заменят конные экипажи. **
Субъективная воля человека очень хрупка перед лицом законов природы. Как гласит известная поговорка: «Можно нарушить закон, но не законы физики». "Вы можете бросить вызов закону, но вы не можете бросить вызов закону физики) **** На самом деле, возникновение ГПТ само по себе является проявлением закона природы. Это лишь вопрос времени, когда это приведет и к реформе нашего образования. **