Диалог: Чжан Пэн, Ли Чжифэй
Планирование: Вэй Шицзе, Ли Шиюнь
Источник изображения: сгенерировано Unbounded AI
Тридцать лет назад, когда Интернет был только в зачаточном состоянии и даже персональные компьютеры были редкостью, писатель, писавший о технологиях, начал свое собственное путешествие по всем сферам жизни того времени. Беседуя с некоторыми из самых ярких умов мира, он заглянул в будущее, кульминацией которого стал фолиант «Из-под контроля» (1994). Пока более десяти лет спустя, когда наступила эра мобильного Интернета и смартфонов, люди с удивлением обнаружили, что новейшие концепции «глобальная информационная взаимосвязь, распределенные системы, цифровая валюта, облачные вычисления и т. д.» уже давно были предсказаны этим. книга.
Технический писатель — Кевин Келли, также известный как К.К. Он основатель журнала Wired, обозреватель технологий и «пророк». В 2010 году была запущена китайская версия «Out of Control», и KK также начал серию визитов в Китай и постепенно стал известен китайцам.
Стоя на сегодняшнем узле, прорастает общий искусственный интеллект (AGI), и вот-вот начнется революция времени, что слабо перекликается с пророчеством в книге «Вне контроля». К. К. предсказал в то время, что люди в конечном итоге объединятся с машинами, «машины становятся биологическими, а организмы создаются». По его собственным словам, «Из-под контроля» говорит только об одном, а именно о том, как построить «сложную систему» — роботы, искусственный интеллект (ИИ) и т. д. можно рассматривать как сложные системы, и он считает, что эта идея применима и сегодня.
Не так давно у нас была беседа с KK вместе с Ли Чжифей, основателем и генеральным директором крупной модельной стартап-компании Going out to ask.
Первый — с практической точки зрения технологий и бизнеса, а второй — с абстрактной точки зрения людей, истории и даже вселенной, обсуждая рост, влияние и угрозу искусственного интеллекта. Это довольно «научно-фантастический» и «образный» разговор, мы пытаемся снова «предсказать» будущее людей и искусственного интеллекта.
Оба утверждают, что впервые в истории человечества сегодняшний искусственный интеллект принял формы, похожие на живые. Ли Чжифэй сказал, что нынешний ИИ уже эквивалентен IQ человеческого ребенка и обладает реальными общими интеллектуальными способностями, такими как знания, логика, рассуждение и планирование. И KK считает, что в качестве «жизни на основе кремния» ИИ будет таким же адаптируемым, как и люди, и сможет учиться и расти сам по себе.
Очень похоже, что они оба поддерживают технологический оптимизм. KK считает, что ИИ не сделает людей безработными, он только сделает людей более эффективными и освободит их от «отвратительной» работы. Кажется, что ИИ увеличивает разрыв между богатыми и бедными, но он с большей вероятностью достигнет справедливости и справедливости, сделав торт больше и лучше, как и любое технологическое изменение в истории человечества. С точки зрения воздействия на бизнес, это расширит возможности отдельных лиц, малых и средних компаний, а также крупных компаний одновременно.
Как следует из названия книги «Вне контроля» — Кевин Келли считает, что для того, чтобы лучше использовать силу ИИ, люди должны позволять частям ИИ «выходить из-под контроля». Ведь ChatGPT родился в неподконтрольном человеку состоянии «эмерджентности». И он, и Ли Чжифэй считают, что нынешний интеллект ИИ все еще незрелый, и люди должны продолжать отпускать, вместо преждевременного и чрезмерного контроля (надзора). Последнее может задушить инновации в зачаточном состоянии.
В более долгосрочной перспективе, если однажды ИИ действительно станет сверхформой жизни, как люди смогут с ним ужиться?
И научная фантастика, и кино рисуют мрачное будущее, которое часто заканчивается тем, что ИИ пробуждается, чтобы убивать людей. А вот Кевин Келли считает, что это проявление отсутствия у человека воображения. Неудачу всегда легче представить, чем успех, и это также заманчиво для историй. Что касается будущего, то нетрудно представить преимущества и ценность искусственного интеллекта.
Его предположение состоит в том, что ИИ можно рассматривать как «искусственного пришельца», и люди смогут использовать мудрость ИИ для решения своих собственных проблем и достижения определенной степени «контроля». Ли Чжифэй считает, что, будучи «предком» ИИ, люди в конечном итоге сольются с ИИ, вместо того чтобы контролировать его.
Что касается того, сбудется ли это пророчество, это зависит от мира через 5000 дней.
Ниже приводится полный текст беседы:
01 Даже если OpenAI не сделала ChatGPT, другие компании скоро это сделают
**Чжан Пэн: Независимо от Китая или США, в последнее время люди обсуждают большие модели. Как вы относитесь к этой волне технологических изменений в больших моделях? Вы будете очень шокированы? **
Кевин Келли: Искусственный интеллект (ИИ) существует уже несколько десятилетий. Большой скачок вперед произошел, когда модели ИИ начали использовать нейронные сети и глубокое обучение, и они становились все больше и больше. Около 4 или 5 лет назад он начал производить очень большие модели-трансформеры (модели глубокого обучения с механизмом самоконтроля). В последние два года он начал взаимодействовать с большими языковыми моделями.
На самом деле в последнее время большое изменение в ИИ заключается не в его способностях, а в его производительности в этом отношении не намного лучше. ** Что действительно изменилось в ИИ в последнее время, так это то, что он позволяет нам иметь диалоговый пользовательский интерфейс, который может фактически общаться с ИИ на (естественном) языке. До этого людям нужно было изучить много знаний в области программирования и быть очень опытными, чтобы использовать ИИ. Но теперь внезапно все используют ИИ. Это действительно захватывающая часть. **
Ли Чжифэй: Я согласен с тем, что сказал К.К., главное изменение в текущей модели большого языка — это улучшение возможностей взаимодействия на естественном языке. Это действительно то, что могут чувствовать многие обычные люди, и именно благодаря этому ChatGPT сегодня имеет такое большое социальное влияние.
Но я думаю, что сегодня возможности больших моделей сильно различаются, и именно эти различия делают возможным их естественное взаимодействие. Потому что для реализации естественного взаимодействия ИИ должен обладать сильными знаниями, способностями к пониманию, языковыми способностями, способностью рассуждать и планировать и т. д. ИИ должен иметь прорыв в этих основных возможностях, чтобы добиться взаимодействия на естественном языке.
И я думаю, что возможность больших моделей в будущем будет заключаться не только в общении на естественном языке. Такие вещи, как написание программ, процессы автоматизации предприятий и автоматизация роботов, не являются интерактивными, но они станут возможными в будущем.
**Чжан Пэн: Я полностью согласен с тем, что способность ИИ лучше общаться с людьми приведет к изменению парадигмы в технологиях и бизнесе. Если ChatGPT — вторая кривая развития ИИ, то его появление неизбежно или случайно? **
**Кевин Келли:**ChatGPT способен превзойти все ожидания. **Не думаю, что кто-то этого ожидал, в том числе и люди в области ИИ. На самом деле, большинство исследователей не знают, как работает ChatGPT, и пытаются его улучшить, но это сложно, потому что они не знают, как он работает. Поэтому появление ChatGPT было случайностью. **
Хотя ChatGPT очень удивителен, мы также видим его ограничения. **Его основное ограничение заключается в том, что модель была обучена на среднем контенте, созданном человеком, поэтому она имеет тенденцию давать средние результаты. И то, что мы часто хотим, это не среднее, а нечто выше среднего. ** Это трудно сделать.
Во-вторых, эти модели оптимизированы для правдоподобия, а не для точности. Поэтому, как сделать их более точными, является серьезной проблемой, с которой в настоящее время сталкиваются все.
Ли Чжифэй: Я думаю, что появление ChatGPT случайно в краткосрочной перспективе, но неизбежно в долгосрочной перспективе. Можно сказать, что OpenAI сделал ChatGPT в конце прошлого года случайно, но даже если он этого не сделал, скоро это сделают другие компании. **
Это повторялось бесчисленное количество раз в истории техники. Возьмем, к примеру, глубокое обучение: AlexNet первой сделала аннотацию изображений в 2012 году, но в то время этим занимались и многие команды с твердыми убеждениями и инженерными способностями. Если AlexNet не сделала этого, это сделают другие. Кроме того, в 2017 году Google сделал преобразователь для решения проблем низкой масштабируемости моделей последовательностей, таких как RNN и LSTM.Если Google не сделает этого, это сделают другие команды.
** Предыстория рождения ChatGPT заключается в том, что преобразователь уже очень зрелый, и у нас есть мощная вычислительная мощность для обучения массивных данных Интернета.Все необходимые элементы ChatGPT уже доступны, и его рождение неизбежно. **Просто OpenAI лучше всего на тот момент объединил все это.
**Чжан Пэн: Говоря о неизбежности и непредвиденных обстоятельствах, я подумал о слове, которое было очень популярно в последнее время, «возникновение». Это слово появлялось не менее 88 раз в "Out of Control" К. К. Как мы должны понимать значение этого слова сегодня? **
Кевин Келли: С английской точки зрения «эмерджентность» — это термин, обозначающий поведение системы, целой кучи взаимосвязанных вещей, таких как Интернет, роботы, тела, экосистемы или даже целые Мир, поведение которого не содержится в поведении какой-либо отдельной части. Например, улей может помнить вещи за пределами жизни одной пчелы, поэтому у самого улья есть поведение, способности и сила, которых нет у отдельных частей. Мы называем это «возникновением».
Точно так же большая часть создаваемого ИИ также является «эмерджентной». Поскольку в модели нет места, объясняющего, откуда она взялась, для создания этой новой возможности требуется, чтобы все части работали вместе. Точно так же, как в нашем мозгу нет «мысли», «мысль» «происходит» из всего нейрона. ** Такие вещи, как мышление, эволюция и обучение, могут «появляться» из системы.
**Ли Чжифэй:**Мое понимание «возникновения» взято из книги «Сложность», в которой говорится о «чем больше, тем лучше» и «чем больше, тем лучше». Как в старой китайской поговорке, «количественные изменения ведут к качественным изменениям». Впервые большая модель заговорила о «возникновении» в статье, опубликованной Стэнфордом и Google в конце прошлого года. В ходе экспериментов они обнаружили, что при увеличении размера большой модели при достижении определенной критической точки она внезапно «возникала» в определенной емкости.
Теперь я чувствую, что слово «возникновение» на самом деле используется слишком часто. Поскольку мы не можем объяснить, откуда берутся способности большой модели, мы называем это «появлением».Это слово нельзя объяснить или манипулировать, и оно не помогает нам обучать и применять большую модель. Теперь все больше не изучают «появление», а больше исследуют количественную взаимосвязь между количеством параметров большой модели и конечной производительностью, что может быть более полезным для нас, чтобы понять и контролировать большую модель.
**Чжан Пэн: Можем ли мы понять, что «появление» приведет к «потере контроля»? **
Кевин Келли: Такое понимание не совсем верно. Конечно, в нем будут «неконтролируемые части», если вы хотите иметь возможность использовать силу «непредвиденного» поведения, вам, возможно, придется терпеть некоторые вещи, находящиеся вне вашего контроля. Наше понимание и контроль над этим могут быть недостаточными для ИИ прямо сейчас, но на самом деле это необходимо для достижения оптимальных результатов.
Но в то же время нельзя пускать все «выходить из-под контроля», мы должны осуществлять определенную степень «контроля», то есть направлять и управлять искусственным интеллектом. ** Опять же, мы не хотим вводить чрезмерные ограничения, но определенный уровень контроля должен быть достигнут. Однако мы, скорее всего, никогда не получим полный контроль над ними**, особенно с более мощным искусственным интеллектом, мы, вероятно, никогда полностью не поймем, как они работают. Это компромисс.
**Чжан Пэн: Прошло много лет с тех пор, как вы написали книгу "Вне контроля". На нынешнем этапе, в сочетании с этой волной революции ИИ, как вы думаете, есть ли какая-то часть "Вне контроля", которая стоит того? перекалибровка? **
Кевин Келли: Не думаю, что я слишком много говорил об искусственном интеллекте и выходе из-под контроля в книге «Выход из-под контроля», на самом деле в основном речь идет о том, как превратить простые вещи в сложные. Есть нечто, называемое архитектурой подсистемы Родни Брукса, в которой упоминается, что вы можете создать сложного робота, внедрив в него части интеллекта. Процесс, который приводит к сложности, заключается в том, что вы накладываете вещи поверх вещей, которые уже работают. (Архитектурная теория Брукса предполагает, что поведение более высокого уровня должно содержать поведение более низкого уровня).
** Подобно насекомому, даже если вы отрубите ему голову, оно все равно сможет ходить, потому что функция ходьбы частично завершена. Точно так же, как в нашем мозгу есть ядро, отвечающее за дыхание и другие вегетативные функции, мы добавляем к нему дополнительные уровни сложности. Эта идея актуальна и сегодня, когда люди создают роботов и искусственный интеллект и пытаются сделать их более сложными. ** Это действительно единственное, о чем я говорю в «Out of Control», и я думаю, что суть остается в силе.
**Чжан Пэн: Я помню, у вас раньше была интересная точка зрения, то есть «предполагая, что технология — это своего рода жизнь», когда она появится с интеллектом, близким к человеческому, чего она захочет дальше? Как это повлияет на деловой мир и человеческое общество? **
**Кевин Келли:**Технологии — это то, что я называю «седьмым царством жизни». Мы ускорили эволюцию жизни в «сухую» область, которая больше не нуждается во «влажной» среде, но может существовать в кремнии. Мы можем использовать наш разум для создания других технологий, похожих на живые. Они легко адаптируются и могут учиться и расти.
Я хочу сказать, что технологии в основном преследуют те же цели, что и жизнь. Например, по мере своего развития их разнообразие увеличивалось, а также они становились более специализированными и специфическими. Наше тело состоит из 52 различных типов клеток, включая клетки сердца, костные клетки и костные клетки. Мы также создадим специализированные ИИ, которые будут выполнять определенные задачи, такие как языковой перевод, создание изображений и автономное вождение. **Кроме того, технологии станут более сложными, как жизнь, и это очевидно.
В конце концов, технологии также будут «взаимовыгодными и симбиотическими», как и жизнь. Жизнь развилась настолько сложно, что вступала в контакт только с другой жизнью, но никогда с неживым материалом. Как бактерии в вашем кишечнике. Они окружены только другими живыми клетками. ** В будущем также появятся некоторые ИИ, которые не предназначены для людей, а предназначены для обслуживания других ИИ. Например, будут ИИ, предназначенные для поддержки других ИИ, ИИ, которые общаются только с другими ИИ. **
**Ли Чжифэй:**Я хочу объяснить связь между ИИ и жизнью с точки зрения инженера. Несколько лет назад многие люди всегда спрашивали меня: «Сколько лет IQ Alphago (первой компьютерной программы, победившей чемпиона мира по го)?» В то время мне не нравились такие вопросы, потому что я не мог не отвечай. В то время, хотя ИИ мог играть в го и имел высокий IQ, он не мог вести разговоры на естественном языке, как 3-летний ребенок. В то время его механизм принципиально отличался от человеческого.
Но в наши дни мне особенно нравится сравнивать ИИ с ребенком. Я думаю, что суть в том, что сегодняшний ИИ уже обладает истинными общими интеллектуальными способностями, которыми обладают дети, такими как знания, логика, рассуждения, планирование и так далее. **Итак, я хочу сказать, что сегодняшний ИИ больше похож на живое тело. У него IQ 5-летнего ребенка и знания профессора колледжа, а также новорожденного ребенка, в зависимости от того, видел ли он данные. **
Основываясь на этом понимании, я думаю, нам нужно переосмыслить то, чего на самом деле хочет ИИ. Для 5-летнего ребенка сначала будет самоочищение, а затем самовоспроизведение и сотрудничество. У меня самого нет хорошего ответа на этот вопрос.
02 В течение следующих 5000 дней мы переживем узкий и неотложный переходный период
**Чжан Пэн: Когда возможности ИИ быстро растут, многие обычные люди испытывают тревогу и опасаются, что потеряют свою конкурентоспособность. Есть ли у КК какие-либо мысли и предложения по этому вопросу? **
**Кевин Келли: **Несмотря на то, что технология искусственного интеллекта разрабатывалась уже 20 лет, люди считают, что она добилась мгновенного успеха, и беспокоятся о ее темпах роста и возможностях. ** Мы всегда склонны воображать наихудшие сценарии, а не наилучшие. Я думаю, что один из способов справиться с тревогой перемен — оглянуться назад. На самом деле, у людей была такая тревога в прошлом, но никогда в худшем случае, который мы себе представляли. Вероятно, в этот раз будет то же самое. **
Я обнаружил, что лучший способ справиться со своими тревогами — попытаться использовать их. Я считаю, что больше всего беспокойства исходит от тех, кто не использовал ИИ, и они сохраняют чувство дистанции от ИИ. На самом деле, как только они начнут пытаться использовать его, они увидят, что у ИИ есть как преимущества, так и ограничения и вред. Это уменьшит их тревогу.
Ли Чжифэй: Если ОИИ не произойдет сегодня, это произойдет завтра. Поскольку это не остановить, вы должны принять и понять это. Для меня прямо сейчас AGI является думающим партнером. Я буду говорить с ним о многих проблемах, его знания очень обширны, и он может дать мне совет с широкой и всесторонней точки зрения. Я думаю, что это может быть хорошей формой человеческого ИИ.
В то же время мы видим, что сегодняшним большим моделям все еще не хватает некоторых критических возможностей реального ОИИ. Например, способность к логическому мышлению и сложному планированию задач.Если вы хотите, чтобы ИИ разбирал шаги и достигал цели исходя из какой-то цели, то в настоящее время это не так уж и хорошо.
**Чжан Пэн: KK также является создателем контента. Как вы думаете, в чем высшая ценность создателей, которую нельзя заменить ИИ в эпоху ИИ? **
Кевин Келли: В своих работах я использовал искусственный интеллект и другие инструменты. Я не думаю, что кто-то потеряет работу из-за ИИ. **Потому что я не могу найти ни одного примера, чтобы художник потерял работу из-за ИИ. Это воображаемый страх, проблема, которой не существует. Трудоустройство, вероятно, является наименее серьезной проблемой, связанной с ИИ. **
Я пытаюсь сказать, что то, что ушло, может быть описанием вашей работы, которым вы на самом деле занимаетесь, может измениться. ** Некоторые люди заметили, что 50% их работы может быть выполнено ИИ, а остальные 50% будут дополнены и усилены ИИ. ** Таким образом, в будущем половина работы может больше не нуждаться в людях, а оставшиеся 50% люди смогут выполнять лучше. Обычно это картина, которую мы увидим.
**Конечно, некоторые виды работ действительно исчезают, например заказ еды и подсчет денег в качестве кассира. Мы не хотим, чтобы люди выполняли эту работу, поэтому они обязательно исчезнут, и они должны исчезнуть. **
**Чжан Пэн: Как вы оцениваете конкурентоспособность молодых и старых в эпоху ИИ? **
Кевин Келли: У пожилых людей много преимуществ, они хорошо информированы и опытны. У молодых людей тоже много преимуществ, потому что они не знают, что невозможно. Я не думаю, что кто-то более конкурентоспособен, чем кто-либо.
Я бы сказал, что молодые люди сегодня часто говорят о том, что они цифровые аборигены и имеют преимущество перед технологиями. Но из-за стремительного развития искусственного интеллекта и прочего, вчера молодежь может быть аборигенами, а завтра быть как "старики". Будь вы молоды или стары, каждый является «новичком» в новой эре и должен продолжать быстро изучать новые вещи на протяжении всей своей жизни.
**Чжан Пэн: При различном уровне владения технологией искусственного интеллекта это приведет к изменению разрыва между богатыми и бедными? То есть будут ли люди, которые будут использовать ИИ в будущем, более продуктивными и более конкурентоспособными? **
Кевин Келли: Да, разрыв в уровне благосостояния будет увеличиваться. ** Я думаю, что со временем ваша способность работать с искусственным интеллектом может стать важнее, чем независимо от того, учитесь вы в колледже или нет. Возможно, целью колледжа будет научить вас работать с искусственным интеллектом. Для очень амбициозных, если они научатся использовать искусственный интеллект, их зарплата будет иметь большое значение. **
Однако по мере распространения ИИ по всему миру в будущем мы получим равный доступ к ИИ во всем мире, как и равный доступ к образованию. Я знаю друзей, которые управляют крупными компаниями в США, и они нанимают сотрудников, которые работают удаленно, пока они в состоянии, опыт работы не имеет значения. Поэтому многие люди, работающие в Южной Америке и Африке, будут получать зарплату по американским стандартам. Они заработают больше денег, чем в противном случае.
**Чжан Пэн: Быстрое развитие технологий может привести к неравенству и несправедливости в социальной сфере.Как нам найти баланс между развитием и честностью и справедливостью? **
Кевин Келли: Думаю, мы сможем найти баланс между прогрессом и справедливостью. На самом деле, я думаю, что большая часть прогресса заключается в распределении капитала.
По сравнению с тем, что было сотни лет назад, мир был очень несправедлив. Ты родился рабом, крепостным или крестьянином, и шансов выйти за пределы этого не было. Но благодаря прогрессу у нас теперь более равный и справедливый мир. Я считаю, что развитие технологий может увеличить справедливость, хотя это может быть и не реализовано, но возможно.
**Ли Чжифэй:С точки зрения инженераЕсли вы посмотрите на справедливость с конечной точки и надеетесь, что у всех одинаковый уровень благосостояния и способностей, то это определенно приведет к еще большей и большей несправедливости. Но если вы посмотрите на справедливость с отправной точки, например, сделав инструменты ИИ доступными для всех, это может быть лучше для достижения справедливости. **
**Чжан Пэн: Теперь мы видим, что в некоторых компаниях, таких как Midjourney, компания Винсента графа, дюжина человек может получать годовой доход в сотни миллионов долларов. Можем ли мы понять, что ИИ коренным образом изменил производительность? Будут ли в результате компании будущего меньше и компактнее? **
Кевин Келли: Удивительная сила, которой сейчас обладают Интернет и искусственный интеллект, может одновременно расширять возможности отдельных лиц, средних и крупных корпораций. Это облегчает человеку владение компанией, поэтому мы увидим много новых компаний, которые состоят только из ИИ плюс несколько человек. Но в то же время мы также видели, как некоторые компании стали больше из-за существования искусственного интеллекта и даже увеличили размер до миллиона человек.
**Поэтому мы не собираемся внезапно погрузиться в мир компаний с одним или двумя людьми, этого не произойдет. При этом мы принесем пользу не только крупным компаниям. В этом прелесть ИИ, он может принести пользу и расширить возможности всех. **
Ли Чжифэй: Я думаю, что эффект длинного хвоста и эффект Мэтью будут становиться все более и более очевидными.
С одной стороны, хвост будет становиться все длиннее и длиннее, и будет появляться все больше и больше мелких компаний, и они сами по себе станут целостной системой. С другой стороны, когда у крупной компании есть сильные возможности ИИ, ее организационная мощь становится сильнее. Раньше он мог организовать только 1000 человек, а теперь может организовать 10 000, 100 000 или 1 миллион человек. Например, индустрия доставки еды в Китае полагается на полный набор автоматизированных систем для организации работы огромной группы райдеров.
**Чжан Пэн: В настоящее время ИИ также является самой горячей темой в Силиконовой долине.Многие предприниматели думают об инновациях в бизнесе, опираясь на крупные модели. Есть ли у КК какие-либо наблюдения по этому поводу? **
Кевин Келли: Это напоминает мне ранние дни Интернета. Когда Интернет только появился, внезапно каждый бизнес понял, что должен выйти в Интернет. И теперь каждый бизнес использует диалоговый интерфейс ИИ, внедряя большие языковые модели и искусственный интеллект для ведения бизнеса. Одним из примеров является Wendy's, модная закусочная быстрого питания, которая теперь использует диалоговый интерфейс, позволяя клиентам заказывать еду в машине и разговаривать с машиной.
Кроме того, есть несколько совершенно новых услуг и идей, которые еще только предстоит реализовать. Я не знаю точных цифр, но что я знаю точно, так это то, что прямо сейчас в это пространство вливаются сотни миллиардов долларов. Чаще всего большинство из них, вероятно, не будут успешными, но их будет достаточно. В течение следующих трех лет мы увидим довольно удивительные вещи и несколько совершенно новых компаний, которые могут стать действительно большими.
**Чжан Пэн: За последние 5000 дней К.К. сделал много правильных прогнозов и предвидел многие основные направления. Недавно вы предсказали, что следующие 5000 дней станут одним из самых критических периодов в истории человечества. Где ключ к этому узлу? В каком направлении поведет человечество к перекрестку? **
Кевин Келли: Помимо искусственного интеллекта в мире происходит много других вещей. Мы сталкиваемся с проблемой изменения климата, генная инженерия не за горами, легко представить, что искусственный интеллект унизителен, легко увидеть, как слежка становится повсеместной, и мы теряем контроль. Мы сталкиваемся со многими проблемами и возможностями в глобальном масштабе.
**Это узкий и неотложный переходный период, и мы должны его пройти. ** Я думаю, что мы можем получить доступ к этому узкому порталу благодаря электрификации, электромобилям, альтернативной энергии и успеху в разработке новой коронной вакцины. В настоящее время на планете все еще существует много политических противоречий и разногласий, но нам нужны коллективные действия, и нам нужно достичь консенсуса в области технологий, окружающей среды и т. д. и работать вместе для решения проблем.
** Впервые на Земле возникли глобальные культуры, глобальные экономики и глобальные воздействия на окружающую среду. Это также наш шанс стать более глобальной цивилизацией в течение следующих 5000 дней. **
Ли Чжифэй: КК сказал, что в ближайшие 5000 дней мир столкнется с множеством других проблем, помимо ИИ. Я думаю, что следующие 365 дней также очень важны с точки зрения ИИ. ИИ прошел много раундов, каждый раз люди возлагают на него большие надежды, но он не работает, а потом люди ждут высоких значений, и он снова не работает. Я думаю, будет ли сегодняшняя волна AGI чем-то, что люди в отрасли сочтут потрясающим, или станет ли она очень важной вещью в обществе, это в значительной степени зависит от следующих 365 дней.
В том числе, как разработать большую модель, чем больше, тем лучше, или мы должны добавить мультимодальность, или мы должны добавить решения и т. д.? В том числе глядя на уровень проникновения.В настоящее время менее 5% людей в мире, возможно, использовали ChatGPT.Как мы можем увеличить уровень проникновения с 5% до 20%? Включая регулирование, как люди должны реагировать на влияние ИИ на общество? Он также включает ИИ в дополнение к применению в таких отраслях, как Интернет, как его следует внедрить в традиционные отрасли, такие как медицина, автомобили и финансы? и т. д.
Я думаю, что людям может потребоваться как минимум год, чтобы предпринять различные попытки, прежде чем они смогут прийти к более ясному суждению.
03 Обычные люди не благородны, мы хотим, чтобы ИИ был лучше, чем обычные люди
**Чжан Пэн: Во многих случаях люди склонны доверять технологиям, например, если кто-то заснет в беспилотном автомобиле и попадет в аварию. Является ли это тонкое доверие к передовым технологиям человеческой привычкой? Каковы последствия? **
Кевин Келли: Беспилотные автомобили не идеальны, но они все равно лучше людей водят. Можем ли мы доверять искусственному интеллекту? В беседах с чат-ботами мы обнаружили, что их ответы были неточными, поэтому мы не могли им полностью доверять. Но я думаю, что мы скоро начнем решать эту проблему.
В наши дни большинство людей доверяют своим калькуляторам. Вы даете ему цифры, он дает вам ответы, и вы полностью ему доверяете. Итак, мы знаем, что машина заслуживает доверия, и над этим можно поработать, чтобы улучшить ее. ** И предубеждения в отношении ИИ, потому что они обучаются на обычных людях, которые являются расистами, сексистами, злонамеренными, неблагородными. На самом деле мы хотим, чтобы наш ИИ был лучше, чем люди. **
Точно так же, как калькулятор лучше, чем средний человек, вы должны больше полагаться на ответы, которые дает калькулятор, чем на среднего человека. ** Доверие — это то, на чем мы должны сосредоточиться и над чем работать, хотя есть много проблем, но, в конце концов, я думаю, что мы будем в значительной степени полагаться на искусственный интеллект и машины и доверять им. **
**Чжан Пэн: В последнее время многие люди в США считают, что развитие ИИ идет слишком быстро, и им следует замедлить или даже остановиться и подумать об этом. Вы согласны с этой идеей? **
Кевин Келли: Нет, я это не поддерживаю. Я думаю, что это вводит в заблуждение, вводит в заблуждение и не нужно. Я не думаю, что это действительно возможно, да и целесообразно.
**Чжан Пэн: В большинстве научно-фантастических фильмов или романов о людях ИИ является довольно мрачным персонажем.Это потому, что людям не хватает воображения, или у нас слишком много неправильного воображения? **
**Кевин Келли: Голливуд всегда изображал искусственный интеллект антиутопическим, ужасающим и нежелательным, что, я думаю, является недостатком воображения. Потому что это закон Вселенной, что гораздо легче представить, как что-то потерпит неудачу, чем то, как это удастся. **Честно говоря, людям трудно представить себе чудесный мир через 100 лет, в котором ИИ повсеместен, дешев и полезен для человечества, хотя это именно тот мир, в котором мы хотим жить.
Кроме того, эти студии очень хорошо умеют рассказывать истории, а элементами отличной истории являются конфликты, катастрофы и некоторые сильные элементы. Будь то войны, ураганы или искусственный интеллект, пытающийся уничтожить мир. Поэтому маловероятно, что мы увидим радужное видение искусственного интеллекта в голливудском фильме, потому что он не способствует сюжету, хотя вероятность есть, но она очень мала.
Поэтому мы не можем смотреть на искусственный интеллект через впечатление от Голливуда (кино). К сожалению, так делают многие. Когда дело доходит до искусственного интеллекта, они думают о «Терминаторе», «Космической одиссее 2001 года» и «ЕЕ».
Ли Чжифэй: Я думаю, что все недоверие происходит из-за невежества. Когда мы сталкиваемся с новым видом ОИИ, я не понимаю, как появляются его возможности, чего он хочет и что может сделать — это основная проблема.
Я думаю, что люди могут, с одной стороны, лучше понять ОИИ, а с другой стороны, научиться позволять ОИИ ясно объяснять себя. Например, когда он дает вам ответ, вы позволяете ему высказаться о внутреннем рабочем процессе и внутреннем монологе. Это может создать более сильное чувство доверия. **
**Чжан Пэн: Что касается КК, кажется, что "Дао Дэ Цзин" Лао-Цзы очень вдохновил вас. Вы упомянули, что «самый высокий уровень контроля — это выход из-под контроля, а самый низкий уровень контроля — это контролировать все». Что вы думаете о недавнем усилении государственного и технологического регулирования ИИ? **
Кевин Келли: Я не думаю, что текущие правила хороши. Конечно, регулирование важно и необходимо, оно необходимо для обеспечения бесперебойной работы, поддержания равных условий и обеспечения безопасности. Но преждевременное регулирование пугает. Проблема на данный момент в том, что мы пытаемся регулировать то, что не очень хорошо знаем, и это обычно приводит к катастрофе.
**Ли Чжифэй:**Зачем нужен надзор? По сути, люди опасаются, что негативное влияние ОИИ перевесит позитивное, что оно будет слишком дееспособным и социально неприемлемым. Но на данном этапе это суждение ошибочно. Потому что сегодня положительное влияние ОИИ должно быть больше, чем его отрицательное влияние.
Во-вторых, реальная проблема с AGI сегодня заключается в том, что он недостаточно мощный. Включая способность к планированию, способность интегрироваться в физический мир, способность к саморазвитию и т. д. Хотя мы и видели надежду, она все еще очень далека от реальной реализации. Мы можем никогда туда не попасть.
Итак, я хочу сказать, **мы не можем просто увидеть тенденцию AGI и резко усилить регулирование. Это может позволить нам убить AGI еще до того, как мы его достигнем. Надзор, безусловно, необходим, но его не следует чрезмерно регулировать. **
**Чжан Пэн: Об искусственном интеллекте говорят уже много лет, и теперь кажется, что он вступает в новую эру. Если у ИИ действительно есть шанс стать формой жизни с интеллектом выше человеческого в будущем, должны ли мы интегрировать их в человеческую цивилизацию или поставить под контроль человека? Каким образом можно действительно обновить человеческую цивилизацию? **
**Кевин Келли: Я думаю, что есть очень полезная основа для понимания искусственного интеллекта (ИИ) будущего, а не сегодняшнего ИИ, как его сравнивают с ИИ следующих 30, 50 или 100 лет. , Это не достаточно сложно - это обращение с ним как с искусственным пришельцем с другой планеты. **
Многие ИИ будут видами, которых мы никогда раньше не видели, и они будут думать иначе, чем люди. Они будут такими же умными, как Йода (виртуальный персонаж в «Звездных войнах») или Спок (виртуальный персонаж в «Звездном пути»), а в чем-то даже превосходят людей. Мы бы создали много разных типов искусственных инопланетян, уважали бы их и использовали их различный интеллект, чтобы помочь нам решить сложные проблемы, например выяснить, что такое квантовая гравитация на самом деле.
Но мы не отдадим им управление. Если нам не нравится их поведение, мы отправляем их обратно, закрываем. Мы можем лишить их силы, если думаем, что они получили слишком много власти. Мы не хотим, чтобы ИИ решал нашу судьбу.
**Ли Чжифей:**Нынешний ОГИ похож на бабочку: получив много питательных веществ от личинок, он завершает собственную сублимацию. Это равносильно использованию всех интернет-знаний людей в прошлом для завершения их собственного преобразования. В будущем ИИ определенно превзойдет людей по многим параметрам. Я думаю, что люди могут быть предками ИИ, и это вполне устраивает.
КК сказал, что мы должны относиться к ИИ как к инопланетянину, что больше похоже на контроль. ** Я думаю, что люди могут слишком переоценивать свои способности или IQ. Можно представить, что, например, еще через 50 лет среди 100 самых могущественных и влиятельных агентов мира, возможно, только 20 будут людьми, а остальные 80 — ИИ. Так что я думаю, в конце концов, люди и ИИ должны быть слиянием, а не контролем. **
Посмотреть Оригинал
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Разговор с Кевином Келли: Слишком рано регулировать ИИ и следует допустить «выход из-под контроля»
Диалог: Чжан Пэн, Ли Чжифэй Планирование: Вэй Шицзе, Ли Шиюнь
Тридцать лет назад, когда Интернет был только в зачаточном состоянии и даже персональные компьютеры были редкостью, писатель, писавший о технологиях, начал свое собственное путешествие по всем сферам жизни того времени. Беседуя с некоторыми из самых ярких умов мира, он заглянул в будущее, кульминацией которого стал фолиант «Из-под контроля» (1994). Пока более десяти лет спустя, когда наступила эра мобильного Интернета и смартфонов, люди с удивлением обнаружили, что новейшие концепции «глобальная информационная взаимосвязь, распределенные системы, цифровая валюта, облачные вычисления и т. д.» уже давно были предсказаны этим. книга.
Технический писатель — Кевин Келли, также известный как К.К. Он основатель журнала Wired, обозреватель технологий и «пророк». В 2010 году была запущена китайская версия «Out of Control», и KK также начал серию визитов в Китай и постепенно стал известен китайцам.
Стоя на сегодняшнем узле, прорастает общий искусственный интеллект (AGI), и вот-вот начнется революция времени, что слабо перекликается с пророчеством в книге «Вне контроля». К. К. предсказал в то время, что люди в конечном итоге объединятся с машинами, «машины становятся биологическими, а организмы создаются». По его собственным словам, «Из-под контроля» говорит только об одном, а именно о том, как построить «сложную систему» — роботы, искусственный интеллект (ИИ) и т. д. можно рассматривать как сложные системы, и он считает, что эта идея применима и сегодня.
Не так давно у нас была беседа с KK вместе с Ли Чжифей, основателем и генеральным директором крупной модельной стартап-компании Going out to ask.
Первый — с практической точки зрения технологий и бизнеса, а второй — с абстрактной точки зрения людей, истории и даже вселенной, обсуждая рост, влияние и угрозу искусственного интеллекта. Это довольно «научно-фантастический» и «образный» разговор, мы пытаемся снова «предсказать» будущее людей и искусственного интеллекта.
Оба утверждают, что впервые в истории человечества сегодняшний искусственный интеллект принял формы, похожие на живые. Ли Чжифэй сказал, что нынешний ИИ уже эквивалентен IQ человеческого ребенка и обладает реальными общими интеллектуальными способностями, такими как знания, логика, рассуждение и планирование. И KK считает, что в качестве «жизни на основе кремния» ИИ будет таким же адаптируемым, как и люди, и сможет учиться и расти сам по себе.
Очень похоже, что они оба поддерживают технологический оптимизм. KK считает, что ИИ не сделает людей безработными, он только сделает людей более эффективными и освободит их от «отвратительной» работы. Кажется, что ИИ увеличивает разрыв между богатыми и бедными, но он с большей вероятностью достигнет справедливости и справедливости, сделав торт больше и лучше, как и любое технологическое изменение в истории человечества. С точки зрения воздействия на бизнес, это расширит возможности отдельных лиц, малых и средних компаний, а также крупных компаний одновременно.
Как следует из названия книги «Вне контроля» — Кевин Келли считает, что для того, чтобы лучше использовать силу ИИ, люди должны позволять частям ИИ «выходить из-под контроля». Ведь ChatGPT родился в неподконтрольном человеку состоянии «эмерджентности». И он, и Ли Чжифэй считают, что нынешний интеллект ИИ все еще незрелый, и люди должны продолжать отпускать, вместо преждевременного и чрезмерного контроля (надзора). Последнее может задушить инновации в зачаточном состоянии.
В более долгосрочной перспективе, если однажды ИИ действительно станет сверхформой жизни, как люди смогут с ним ужиться?
И научная фантастика, и кино рисуют мрачное будущее, которое часто заканчивается тем, что ИИ пробуждается, чтобы убивать людей. А вот Кевин Келли считает, что это проявление отсутствия у человека воображения. Неудачу всегда легче представить, чем успех, и это также заманчиво для историй. Что касается будущего, то нетрудно представить преимущества и ценность искусственного интеллекта.
Его предположение состоит в том, что ИИ можно рассматривать как «искусственного пришельца», и люди смогут использовать мудрость ИИ для решения своих собственных проблем и достижения определенной степени «контроля». Ли Чжифэй считает, что, будучи «предком» ИИ, люди в конечном итоге сольются с ИИ, вместо того чтобы контролировать его.
Что касается того, сбудется ли это пророчество, это зависит от мира через 5000 дней.
Ниже приводится полный текст беседы:
01 Даже если OpenAI не сделала ChatGPT, другие компании скоро это сделают
**Чжан Пэн: Независимо от Китая или США, в последнее время люди обсуждают большие модели. Как вы относитесь к этой волне технологических изменений в больших моделях? Вы будете очень шокированы? **
Кевин Келли: Искусственный интеллект (ИИ) существует уже несколько десятилетий. Большой скачок вперед произошел, когда модели ИИ начали использовать нейронные сети и глубокое обучение, и они становились все больше и больше. Около 4 или 5 лет назад он начал производить очень большие модели-трансформеры (модели глубокого обучения с механизмом самоконтроля). В последние два года он начал взаимодействовать с большими языковыми моделями.
На самом деле в последнее время большое изменение в ИИ заключается не в его способностях, а в его производительности в этом отношении не намного лучше. ** Что действительно изменилось в ИИ в последнее время, так это то, что он позволяет нам иметь диалоговый пользовательский интерфейс, который может фактически общаться с ИИ на (естественном) языке. До этого людям нужно было изучить много знаний в области программирования и быть очень опытными, чтобы использовать ИИ. Но теперь внезапно все используют ИИ. Это действительно захватывающая часть. **
Ли Чжифэй: Я согласен с тем, что сказал К.К., главное изменение в текущей модели большого языка — это улучшение возможностей взаимодействия на естественном языке. Это действительно то, что могут чувствовать многие обычные люди, и именно благодаря этому ChatGPT сегодня имеет такое большое социальное влияние.
Но я думаю, что сегодня возможности больших моделей сильно различаются, и именно эти различия делают возможным их естественное взаимодействие. Потому что для реализации естественного взаимодействия ИИ должен обладать сильными знаниями, способностями к пониманию, языковыми способностями, способностью рассуждать и планировать и т. д. ИИ должен иметь прорыв в этих основных возможностях, чтобы добиться взаимодействия на естественном языке.
И я думаю, что возможность больших моделей в будущем будет заключаться не только в общении на естественном языке. Такие вещи, как написание программ, процессы автоматизации предприятий и автоматизация роботов, не являются интерактивными, но они станут возможными в будущем.
**Чжан Пэн: Я полностью согласен с тем, что способность ИИ лучше общаться с людьми приведет к изменению парадигмы в технологиях и бизнесе. Если ChatGPT — вторая кривая развития ИИ, то его появление неизбежно или случайно? **
**Кевин Келли:**ChatGPT способен превзойти все ожидания. **Не думаю, что кто-то этого ожидал, в том числе и люди в области ИИ. На самом деле, большинство исследователей не знают, как работает ChatGPT, и пытаются его улучшить, но это сложно, потому что они не знают, как он работает. Поэтому появление ChatGPT было случайностью. **
Хотя ChatGPT очень удивителен, мы также видим его ограничения. **Его основное ограничение заключается в том, что модель была обучена на среднем контенте, созданном человеком, поэтому она имеет тенденцию давать средние результаты. И то, что мы часто хотим, это не среднее, а нечто выше среднего. ** Это трудно сделать.
Во-вторых, эти модели оптимизированы для правдоподобия, а не для точности. Поэтому, как сделать их более точными, является серьезной проблемой, с которой в настоящее время сталкиваются все.
Ли Чжифэй: Я думаю, что появление ChatGPT случайно в краткосрочной перспективе, но неизбежно в долгосрочной перспективе. Можно сказать, что OpenAI сделал ChatGPT в конце прошлого года случайно, но даже если он этого не сделал, скоро это сделают другие компании. **
Это повторялось бесчисленное количество раз в истории техники. Возьмем, к примеру, глубокое обучение: AlexNet первой сделала аннотацию изображений в 2012 году, но в то время этим занимались и многие команды с твердыми убеждениями и инженерными способностями. Если AlexNet не сделала этого, это сделают другие. Кроме того, в 2017 году Google сделал преобразователь для решения проблем низкой масштабируемости моделей последовательностей, таких как RNN и LSTM.Если Google не сделает этого, это сделают другие команды.
** Предыстория рождения ChatGPT заключается в том, что преобразователь уже очень зрелый, и у нас есть мощная вычислительная мощность для обучения массивных данных Интернета.Все необходимые элементы ChatGPT уже доступны, и его рождение неизбежно. **Просто OpenAI лучше всего на тот момент объединил все это.
**Чжан Пэн: Говоря о неизбежности и непредвиденных обстоятельствах, я подумал о слове, которое было очень популярно в последнее время, «возникновение». Это слово появлялось не менее 88 раз в "Out of Control" К. К. Как мы должны понимать значение этого слова сегодня? **
Кевин Келли: С английской точки зрения «эмерджентность» — это термин, обозначающий поведение системы, целой кучи взаимосвязанных вещей, таких как Интернет, роботы, тела, экосистемы или даже целые Мир, поведение которого не содержится в поведении какой-либо отдельной части. Например, улей может помнить вещи за пределами жизни одной пчелы, поэтому у самого улья есть поведение, способности и сила, которых нет у отдельных частей. Мы называем это «возникновением».
Точно так же большая часть создаваемого ИИ также является «эмерджентной». Поскольку в модели нет места, объясняющего, откуда она взялась, для создания этой новой возможности требуется, чтобы все части работали вместе. Точно так же, как в нашем мозгу нет «мысли», «мысль» «происходит» из всего нейрона. ** Такие вещи, как мышление, эволюция и обучение, могут «появляться» из системы.
**Ли Чжифэй:**Мое понимание «возникновения» взято из книги «Сложность», в которой говорится о «чем больше, тем лучше» и «чем больше, тем лучше». Как в старой китайской поговорке, «количественные изменения ведут к качественным изменениям». Впервые большая модель заговорила о «возникновении» в статье, опубликованной Стэнфордом и Google в конце прошлого года. В ходе экспериментов они обнаружили, что при увеличении размера большой модели при достижении определенной критической точки она внезапно «возникала» в определенной емкости.
Теперь я чувствую, что слово «возникновение» на самом деле используется слишком часто. Поскольку мы не можем объяснить, откуда берутся способности большой модели, мы называем это «появлением».Это слово нельзя объяснить или манипулировать, и оно не помогает нам обучать и применять большую модель. Теперь все больше не изучают «появление», а больше исследуют количественную взаимосвязь между количеством параметров большой модели и конечной производительностью, что может быть более полезным для нас, чтобы понять и контролировать большую модель.
**Чжан Пэн: Можем ли мы понять, что «появление» приведет к «потере контроля»? **
Кевин Келли: Такое понимание не совсем верно. Конечно, в нем будут «неконтролируемые части», если вы хотите иметь возможность использовать силу «непредвиденного» поведения, вам, возможно, придется терпеть некоторые вещи, находящиеся вне вашего контроля. Наше понимание и контроль над этим могут быть недостаточными для ИИ прямо сейчас, но на самом деле это необходимо для достижения оптимальных результатов.
Но в то же время нельзя пускать все «выходить из-под контроля», мы должны осуществлять определенную степень «контроля», то есть направлять и управлять искусственным интеллектом. ** Опять же, мы не хотим вводить чрезмерные ограничения, но определенный уровень контроля должен быть достигнут. Однако мы, скорее всего, никогда не получим полный контроль над ними**, особенно с более мощным искусственным интеллектом, мы, вероятно, никогда полностью не поймем, как они работают. Это компромисс.
**Чжан Пэн: Прошло много лет с тех пор, как вы написали книгу "Вне контроля". На нынешнем этапе, в сочетании с этой волной революции ИИ, как вы думаете, есть ли какая-то часть "Вне контроля", которая стоит того? перекалибровка? **
Кевин Келли: Не думаю, что я слишком много говорил об искусственном интеллекте и выходе из-под контроля в книге «Выход из-под контроля», на самом деле в основном речь идет о том, как превратить простые вещи в сложные. Есть нечто, называемое архитектурой подсистемы Родни Брукса, в которой упоминается, что вы можете создать сложного робота, внедрив в него части интеллекта. Процесс, который приводит к сложности, заключается в том, что вы накладываете вещи поверх вещей, которые уже работают. (Архитектурная теория Брукса предполагает, что поведение более высокого уровня должно содержать поведение более низкого уровня).
** Подобно насекомому, даже если вы отрубите ему голову, оно все равно сможет ходить, потому что функция ходьбы частично завершена. Точно так же, как в нашем мозгу есть ядро, отвечающее за дыхание и другие вегетативные функции, мы добавляем к нему дополнительные уровни сложности. Эта идея актуальна и сегодня, когда люди создают роботов и искусственный интеллект и пытаются сделать их более сложными. ** Это действительно единственное, о чем я говорю в «Out of Control», и я думаю, что суть остается в силе.
**Чжан Пэн: Я помню, у вас раньше была интересная точка зрения, то есть «предполагая, что технология — это своего рода жизнь», когда она появится с интеллектом, близким к человеческому, чего она захочет дальше? Как это повлияет на деловой мир и человеческое общество? **
**Кевин Келли:**Технологии — это то, что я называю «седьмым царством жизни». Мы ускорили эволюцию жизни в «сухую» область, которая больше не нуждается во «влажной» среде, но может существовать в кремнии. Мы можем использовать наш разум для создания других технологий, похожих на живые. Они легко адаптируются и могут учиться и расти.
Я хочу сказать, что технологии в основном преследуют те же цели, что и жизнь. Например, по мере своего развития их разнообразие увеличивалось, а также они становились более специализированными и специфическими. Наше тело состоит из 52 различных типов клеток, включая клетки сердца, костные клетки и костные клетки. Мы также создадим специализированные ИИ, которые будут выполнять определенные задачи, такие как языковой перевод, создание изображений и автономное вождение. **Кроме того, технологии станут более сложными, как жизнь, и это очевидно.
В конце концов, технологии также будут «взаимовыгодными и симбиотическими», как и жизнь. Жизнь развилась настолько сложно, что вступала в контакт только с другой жизнью, но никогда с неживым материалом. Как бактерии в вашем кишечнике. Они окружены только другими живыми клетками. ** В будущем также появятся некоторые ИИ, которые не предназначены для людей, а предназначены для обслуживания других ИИ. Например, будут ИИ, предназначенные для поддержки других ИИ, ИИ, которые общаются только с другими ИИ. **
**Ли Чжифэй:**Я хочу объяснить связь между ИИ и жизнью с точки зрения инженера. Несколько лет назад многие люди всегда спрашивали меня: «Сколько лет IQ Alphago (первой компьютерной программы, победившей чемпиона мира по го)?» В то время мне не нравились такие вопросы, потому что я не мог не отвечай. В то время, хотя ИИ мог играть в го и имел высокий IQ, он не мог вести разговоры на естественном языке, как 3-летний ребенок. В то время его механизм принципиально отличался от человеческого.
Но в наши дни мне особенно нравится сравнивать ИИ с ребенком. Я думаю, что суть в том, что сегодняшний ИИ уже обладает истинными общими интеллектуальными способностями, которыми обладают дети, такими как знания, логика, рассуждения, планирование и так далее. **Итак, я хочу сказать, что сегодняшний ИИ больше похож на живое тело. У него IQ 5-летнего ребенка и знания профессора колледжа, а также новорожденного ребенка, в зависимости от того, видел ли он данные. **
Основываясь на этом понимании, я думаю, нам нужно переосмыслить то, чего на самом деле хочет ИИ. Для 5-летнего ребенка сначала будет самоочищение, а затем самовоспроизведение и сотрудничество. У меня самого нет хорошего ответа на этот вопрос.
02 В течение следующих 5000 дней мы переживем узкий и неотложный переходный период
**Чжан Пэн: Когда возможности ИИ быстро растут, многие обычные люди испытывают тревогу и опасаются, что потеряют свою конкурентоспособность. Есть ли у КК какие-либо мысли и предложения по этому вопросу? **
**Кевин Келли: **Несмотря на то, что технология искусственного интеллекта разрабатывалась уже 20 лет, люди считают, что она добилась мгновенного успеха, и беспокоятся о ее темпах роста и возможностях. ** Мы всегда склонны воображать наихудшие сценарии, а не наилучшие. Я думаю, что один из способов справиться с тревогой перемен — оглянуться назад. На самом деле, у людей была такая тревога в прошлом, но никогда в худшем случае, который мы себе представляли. Вероятно, в этот раз будет то же самое. **
Я обнаружил, что лучший способ справиться со своими тревогами — попытаться использовать их. Я считаю, что больше всего беспокойства исходит от тех, кто не использовал ИИ, и они сохраняют чувство дистанции от ИИ. На самом деле, как только они начнут пытаться использовать его, они увидят, что у ИИ есть как преимущества, так и ограничения и вред. Это уменьшит их тревогу.
Ли Чжифэй: Если ОИИ не произойдет сегодня, это произойдет завтра. Поскольку это не остановить, вы должны принять и понять это. Для меня прямо сейчас AGI является думающим партнером. Я буду говорить с ним о многих проблемах, его знания очень обширны, и он может дать мне совет с широкой и всесторонней точки зрения. Я думаю, что это может быть хорошей формой человеческого ИИ.
В то же время мы видим, что сегодняшним большим моделям все еще не хватает некоторых критических возможностей реального ОИИ. Например, способность к логическому мышлению и сложному планированию задач.Если вы хотите, чтобы ИИ разбирал шаги и достигал цели исходя из какой-то цели, то в настоящее время это не так уж и хорошо.
**Чжан Пэн: KK также является создателем контента. Как вы думаете, в чем высшая ценность создателей, которую нельзя заменить ИИ в эпоху ИИ? **
Кевин Келли: В своих работах я использовал искусственный интеллект и другие инструменты. Я не думаю, что кто-то потеряет работу из-за ИИ. **Потому что я не могу найти ни одного примера, чтобы художник потерял работу из-за ИИ. Это воображаемый страх, проблема, которой не существует. Трудоустройство, вероятно, является наименее серьезной проблемой, связанной с ИИ. **
Я пытаюсь сказать, что то, что ушло, может быть описанием вашей работы, которым вы на самом деле занимаетесь, может измениться. ** Некоторые люди заметили, что 50% их работы может быть выполнено ИИ, а остальные 50% будут дополнены и усилены ИИ. ** Таким образом, в будущем половина работы может больше не нуждаться в людях, а оставшиеся 50% люди смогут выполнять лучше. Обычно это картина, которую мы увидим.
**Конечно, некоторые виды работ действительно исчезают, например заказ еды и подсчет денег в качестве кассира. Мы не хотим, чтобы люди выполняли эту работу, поэтому они обязательно исчезнут, и они должны исчезнуть. **
**Чжан Пэн: Как вы оцениваете конкурентоспособность молодых и старых в эпоху ИИ? **
Кевин Келли: У пожилых людей много преимуществ, они хорошо информированы и опытны. У молодых людей тоже много преимуществ, потому что они не знают, что невозможно. Я не думаю, что кто-то более конкурентоспособен, чем кто-либо.
Я бы сказал, что молодые люди сегодня часто говорят о том, что они цифровые аборигены и имеют преимущество перед технологиями. Но из-за стремительного развития искусственного интеллекта и прочего, вчера молодежь может быть аборигенами, а завтра быть как "старики". Будь вы молоды или стары, каждый является «новичком» в новой эре и должен продолжать быстро изучать новые вещи на протяжении всей своей жизни.
**Чжан Пэн: При различном уровне владения технологией искусственного интеллекта это приведет к изменению разрыва между богатыми и бедными? То есть будут ли люди, которые будут использовать ИИ в будущем, более продуктивными и более конкурентоспособными? **
Кевин Келли: Да, разрыв в уровне благосостояния будет увеличиваться. ** Я думаю, что со временем ваша способность работать с искусственным интеллектом может стать важнее, чем независимо от того, учитесь вы в колледже или нет. Возможно, целью колледжа будет научить вас работать с искусственным интеллектом. Для очень амбициозных, если они научатся использовать искусственный интеллект, их зарплата будет иметь большое значение. **
Однако по мере распространения ИИ по всему миру в будущем мы получим равный доступ к ИИ во всем мире, как и равный доступ к образованию. Я знаю друзей, которые управляют крупными компаниями в США, и они нанимают сотрудников, которые работают удаленно, пока они в состоянии, опыт работы не имеет значения. Поэтому многие люди, работающие в Южной Америке и Африке, будут получать зарплату по американским стандартам. Они заработают больше денег, чем в противном случае.
**Чжан Пэн: Быстрое развитие технологий может привести к неравенству и несправедливости в социальной сфере.Как нам найти баланс между развитием и честностью и справедливостью? **
Кевин Келли: Думаю, мы сможем найти баланс между прогрессом и справедливостью. На самом деле, я думаю, что большая часть прогресса заключается в распределении капитала.
По сравнению с тем, что было сотни лет назад, мир был очень несправедлив. Ты родился рабом, крепостным или крестьянином, и шансов выйти за пределы этого не было. Но благодаря прогрессу у нас теперь более равный и справедливый мир. Я считаю, что развитие технологий может увеличить справедливость, хотя это может быть и не реализовано, но возможно.
**Ли Чжифэй:С точки зрения инженераЕсли вы посмотрите на справедливость с конечной точки и надеетесь, что у всех одинаковый уровень благосостояния и способностей, то это определенно приведет к еще большей и большей несправедливости. Но если вы посмотрите на справедливость с отправной точки, например, сделав инструменты ИИ доступными для всех, это может быть лучше для достижения справедливости. **
**Чжан Пэн: Теперь мы видим, что в некоторых компаниях, таких как Midjourney, компания Винсента графа, дюжина человек может получать годовой доход в сотни миллионов долларов. Можем ли мы понять, что ИИ коренным образом изменил производительность? Будут ли в результате компании будущего меньше и компактнее? **
Кевин Келли: Удивительная сила, которой сейчас обладают Интернет и искусственный интеллект, может одновременно расширять возможности отдельных лиц, средних и крупных корпораций. Это облегчает человеку владение компанией, поэтому мы увидим много новых компаний, которые состоят только из ИИ плюс несколько человек. Но в то же время мы также видели, как некоторые компании стали больше из-за существования искусственного интеллекта и даже увеличили размер до миллиона человек.
**Поэтому мы не собираемся внезапно погрузиться в мир компаний с одним или двумя людьми, этого не произойдет. При этом мы принесем пользу не только крупным компаниям. В этом прелесть ИИ, он может принести пользу и расширить возможности всех. **
Ли Чжифэй: Я думаю, что эффект длинного хвоста и эффект Мэтью будут становиться все более и более очевидными.
С одной стороны, хвост будет становиться все длиннее и длиннее, и будет появляться все больше и больше мелких компаний, и они сами по себе станут целостной системой. С другой стороны, когда у крупной компании есть сильные возможности ИИ, ее организационная мощь становится сильнее. Раньше он мог организовать только 1000 человек, а теперь может организовать 10 000, 100 000 или 1 миллион человек. Например, индустрия доставки еды в Китае полагается на полный набор автоматизированных систем для организации работы огромной группы райдеров.
**Чжан Пэн: В настоящее время ИИ также является самой горячей темой в Силиконовой долине.Многие предприниматели думают об инновациях в бизнесе, опираясь на крупные модели. Есть ли у КК какие-либо наблюдения по этому поводу? **
Кевин Келли: Это напоминает мне ранние дни Интернета. Когда Интернет только появился, внезапно каждый бизнес понял, что должен выйти в Интернет. И теперь каждый бизнес использует диалоговый интерфейс ИИ, внедряя большие языковые модели и искусственный интеллект для ведения бизнеса. Одним из примеров является Wendy's, модная закусочная быстрого питания, которая теперь использует диалоговый интерфейс, позволяя клиентам заказывать еду в машине и разговаривать с машиной.
Кроме того, есть несколько совершенно новых услуг и идей, которые еще только предстоит реализовать. Я не знаю точных цифр, но что я знаю точно, так это то, что прямо сейчас в это пространство вливаются сотни миллиардов долларов. Чаще всего большинство из них, вероятно, не будут успешными, но их будет достаточно. В течение следующих трех лет мы увидим довольно удивительные вещи и несколько совершенно новых компаний, которые могут стать действительно большими.
**Чжан Пэн: За последние 5000 дней К.К. сделал много правильных прогнозов и предвидел многие основные направления. Недавно вы предсказали, что следующие 5000 дней станут одним из самых критических периодов в истории человечества. Где ключ к этому узлу? В каком направлении поведет человечество к перекрестку? **
Кевин Келли: Помимо искусственного интеллекта в мире происходит много других вещей. Мы сталкиваемся с проблемой изменения климата, генная инженерия не за горами, легко представить, что искусственный интеллект унизителен, легко увидеть, как слежка становится повсеместной, и мы теряем контроль. Мы сталкиваемся со многими проблемами и возможностями в глобальном масштабе.
**Это узкий и неотложный переходный период, и мы должны его пройти. ** Я думаю, что мы можем получить доступ к этому узкому порталу благодаря электрификации, электромобилям, альтернативной энергии и успеху в разработке новой коронной вакцины. В настоящее время на планете все еще существует много политических противоречий и разногласий, но нам нужны коллективные действия, и нам нужно достичь консенсуса в области технологий, окружающей среды и т. д. и работать вместе для решения проблем.
** Впервые на Земле возникли глобальные культуры, глобальные экономики и глобальные воздействия на окружающую среду. Это также наш шанс стать более глобальной цивилизацией в течение следующих 5000 дней. **
Ли Чжифэй: КК сказал, что в ближайшие 5000 дней мир столкнется с множеством других проблем, помимо ИИ. Я думаю, что следующие 365 дней также очень важны с точки зрения ИИ. ИИ прошел много раундов, каждый раз люди возлагают на него большие надежды, но он не работает, а потом люди ждут высоких значений, и он снова не работает. Я думаю, будет ли сегодняшняя волна AGI чем-то, что люди в отрасли сочтут потрясающим, или станет ли она очень важной вещью в обществе, это в значительной степени зависит от следующих 365 дней.
В том числе, как разработать большую модель, чем больше, тем лучше, или мы должны добавить мультимодальность, или мы должны добавить решения и т. д.? В том числе глядя на уровень проникновения.В настоящее время менее 5% людей в мире, возможно, использовали ChatGPT.Как мы можем увеличить уровень проникновения с 5% до 20%? Включая регулирование, как люди должны реагировать на влияние ИИ на общество? Он также включает ИИ в дополнение к применению в таких отраслях, как Интернет, как его следует внедрить в традиционные отрасли, такие как медицина, автомобили и финансы? и т. д.
Я думаю, что людям может потребоваться как минимум год, чтобы предпринять различные попытки, прежде чем они смогут прийти к более ясному суждению.
03 Обычные люди не благородны, мы хотим, чтобы ИИ был лучше, чем обычные люди
**Чжан Пэн: Во многих случаях люди склонны доверять технологиям, например, если кто-то заснет в беспилотном автомобиле и попадет в аварию. Является ли это тонкое доверие к передовым технологиям человеческой привычкой? Каковы последствия? **
Кевин Келли: Беспилотные автомобили не идеальны, но они все равно лучше людей водят. Можем ли мы доверять искусственному интеллекту? В беседах с чат-ботами мы обнаружили, что их ответы были неточными, поэтому мы не могли им полностью доверять. Но я думаю, что мы скоро начнем решать эту проблему.
В наши дни большинство людей доверяют своим калькуляторам. Вы даете ему цифры, он дает вам ответы, и вы полностью ему доверяете. Итак, мы знаем, что машина заслуживает доверия, и над этим можно поработать, чтобы улучшить ее. ** И предубеждения в отношении ИИ, потому что они обучаются на обычных людях, которые являются расистами, сексистами, злонамеренными, неблагородными. На самом деле мы хотим, чтобы наш ИИ был лучше, чем люди. **
Точно так же, как калькулятор лучше, чем средний человек, вы должны больше полагаться на ответы, которые дает калькулятор, чем на среднего человека. ** Доверие — это то, на чем мы должны сосредоточиться и над чем работать, хотя есть много проблем, но, в конце концов, я думаю, что мы будем в значительной степени полагаться на искусственный интеллект и машины и доверять им. **
**Чжан Пэн: В последнее время многие люди в США считают, что развитие ИИ идет слишком быстро, и им следует замедлить или даже остановиться и подумать об этом. Вы согласны с этой идеей? **
Кевин Келли: Нет, я это не поддерживаю. Я думаю, что это вводит в заблуждение, вводит в заблуждение и не нужно. Я не думаю, что это действительно возможно, да и целесообразно.
**Чжан Пэн: В большинстве научно-фантастических фильмов или романов о людях ИИ является довольно мрачным персонажем.Это потому, что людям не хватает воображения, или у нас слишком много неправильного воображения? **
**Кевин Келли: Голливуд всегда изображал искусственный интеллект антиутопическим, ужасающим и нежелательным, что, я думаю, является недостатком воображения. Потому что это закон Вселенной, что гораздо легче представить, как что-то потерпит неудачу, чем то, как это удастся. **Честно говоря, людям трудно представить себе чудесный мир через 100 лет, в котором ИИ повсеместен, дешев и полезен для человечества, хотя это именно тот мир, в котором мы хотим жить.
Кроме того, эти студии очень хорошо умеют рассказывать истории, а элементами отличной истории являются конфликты, катастрофы и некоторые сильные элементы. Будь то войны, ураганы или искусственный интеллект, пытающийся уничтожить мир. Поэтому маловероятно, что мы увидим радужное видение искусственного интеллекта в голливудском фильме, потому что он не способствует сюжету, хотя вероятность есть, но она очень мала.
Поэтому мы не можем смотреть на искусственный интеллект через впечатление от Голливуда (кино). К сожалению, так делают многие. Когда дело доходит до искусственного интеллекта, они думают о «Терминаторе», «Космической одиссее 2001 года» и «ЕЕ».
Ли Чжифэй: Я думаю, что все недоверие происходит из-за невежества. Когда мы сталкиваемся с новым видом ОИИ, я не понимаю, как появляются его возможности, чего он хочет и что может сделать — это основная проблема.
Я думаю, что люди могут, с одной стороны, лучше понять ОИИ, а с другой стороны, научиться позволять ОИИ ясно объяснять себя. Например, когда он дает вам ответ, вы позволяете ему высказаться о внутреннем рабочем процессе и внутреннем монологе. Это может создать более сильное чувство доверия. **
**Чжан Пэн: Что касается КК, кажется, что "Дао Дэ Цзин" Лао-Цзы очень вдохновил вас. Вы упомянули, что «самый высокий уровень контроля — это выход из-под контроля, а самый низкий уровень контроля — это контролировать все». Что вы думаете о недавнем усилении государственного и технологического регулирования ИИ? **
Кевин Келли: Я не думаю, что текущие правила хороши. Конечно, регулирование важно и необходимо, оно необходимо для обеспечения бесперебойной работы, поддержания равных условий и обеспечения безопасности. Но преждевременное регулирование пугает. Проблема на данный момент в том, что мы пытаемся регулировать то, что не очень хорошо знаем, и это обычно приводит к катастрофе.
**Ли Чжифэй:**Зачем нужен надзор? По сути, люди опасаются, что негативное влияние ОИИ перевесит позитивное, что оно будет слишком дееспособным и социально неприемлемым. Но на данном этапе это суждение ошибочно. Потому что сегодня положительное влияние ОИИ должно быть больше, чем его отрицательное влияние.
Во-вторых, реальная проблема с AGI сегодня заключается в том, что он недостаточно мощный. Включая способность к планированию, способность интегрироваться в физический мир, способность к саморазвитию и т. д. Хотя мы и видели надежду, она все еще очень далека от реальной реализации. Мы можем никогда туда не попасть.
Итак, я хочу сказать, **мы не можем просто увидеть тенденцию AGI и резко усилить регулирование. Это может позволить нам убить AGI еще до того, как мы его достигнем. Надзор, безусловно, необходим, но его не следует чрезмерно регулировать. **
**Чжан Пэн: Об искусственном интеллекте говорят уже много лет, и теперь кажется, что он вступает в новую эру. Если у ИИ действительно есть шанс стать формой жизни с интеллектом выше человеческого в будущем, должны ли мы интегрировать их в человеческую цивилизацию или поставить под контроль человека? Каким образом можно действительно обновить человеческую цивилизацию? **
**Кевин Келли: Я думаю, что есть очень полезная основа для понимания искусственного интеллекта (ИИ) будущего, а не сегодняшнего ИИ, как его сравнивают с ИИ следующих 30, 50 или 100 лет. , Это не достаточно сложно - это обращение с ним как с искусственным пришельцем с другой планеты. **
Многие ИИ будут видами, которых мы никогда раньше не видели, и они будут думать иначе, чем люди. Они будут такими же умными, как Йода (виртуальный персонаж в «Звездных войнах») или Спок (виртуальный персонаж в «Звездном пути»), а в чем-то даже превосходят людей. Мы бы создали много разных типов искусственных инопланетян, уважали бы их и использовали их различный интеллект, чтобы помочь нам решить сложные проблемы, например выяснить, что такое квантовая гравитация на самом деле.
Но мы не отдадим им управление. Если нам не нравится их поведение, мы отправляем их обратно, закрываем. Мы можем лишить их силы, если думаем, что они получили слишком много власти. Мы не хотим, чтобы ИИ решал нашу судьбу.
**Ли Чжифей:**Нынешний ОГИ похож на бабочку: получив много питательных веществ от личинок, он завершает собственную сублимацию. Это равносильно использованию всех интернет-знаний людей в прошлом для завершения их собственного преобразования. В будущем ИИ определенно превзойдет людей по многим параметрам. Я думаю, что люди могут быть предками ИИ, и это вполне устраивает.
КК сказал, что мы должны относиться к ИИ как к инопланетянину, что больше похоже на контроль. ** Я думаю, что люди могут слишком переоценивать свои способности или IQ. Можно представить, что, например, еще через 50 лет среди 100 самых могущественных и влиятельных агентов мира, возможно, только 20 будут людьми, а остальные 80 — ИИ. Так что я думаю, в конце концов, люди и ИИ должны быть слиянием, а не контролем. **