Если бы искусственный интеллект обрел осведомленность — как ученые могли бы это выяснить

Автор: Мариана Ленхаро, составитель: Heart of the Metaverse

Идея искусственного интеллекта, генерирующего сознание, долгое время была частью научной фантастики, напоминая суперкомпьютер, ставший злодеем HAL 9000, в фильме 1968 года «2001: Космическая одиссея». С быстрым развитием искусственного интеллекта эта возможность становится менее странной, и ее признают даже ведущие деятели искусственного интеллекта.

В прошлом году Илья Суцкевер, главный научный сотрудник OpenAI, компании, создавшей чат-бот ChatGPT, написал в Твиттере, что некоторые из наиболее продвинутых сетей искусственного интеллекта могут стать «слегка сознательными».

Многие исследователи говорят, что системы искусственного интеллекта еще не обладают сознанием. Но скорость, с которой развивается ИИ, заставляет их задуматься: как мы узнаем, обладает ли ИИ сознанием?

Чтобы ответить на этот вопрос, команда из 19 нейробиологов, философов и ученых-компьютерщиков составила список критериев, соблюдение которых указывает на то, что система с высокой вероятностью находится в сознании. Ранее на этой неделе они опубликовали временное руководство, которое еще не прошло рецензирование, в репозитории препринтов arXiv.

Соавтор Роберт Лонг, философ из Центра безопасности ИИ в Сан-Франциско, Калифорния, сказал, что они проделали эту работу, потому что «кажется, действительно не хватает подробных, эмпирически обоснованных и продуманных исследований сознания ИИ». «обсудить».

Исследовательская группа утверждает, что невозможность определить, находится ли система ИИ в сознании, может иметь серьезные этические последствия. Меган Питерс, нейробиолог и соавтор исследования, сказала, что если бы что-то можно было назвать «сознательным», «это должно было бы радикально изменить наш подход к этому».

Лонг добавил, что, насколько ему известно, компании, создающие передовые системы искусственного интеллекта, не сделали достаточно для оценки осведомленности об этих моделях и соответствующего планирования. Он сказал: «Хотя я слышал некоторые выступления руководителей ведущих лабораторий, они говорили, что сознание искусственного интеллекта или восприятие искусственного интеллекта — это то, о чем стоит задуматься, но я не думаю, что этого достаточно».

Nature связалась с двумя основными технологическими компаниями, занимающимися разработкой искусственного интеллекта, — Microsoft и Google. Представитель Microsoft заявил, что суть разработки компанией искусственного интеллекта заключается в том, чтобы помочь людям быть более продуктивными и ответственным образом, а не копировать человеческий интеллект.

Представитель заявил, что с момента запуска GPT-4, последней публичной версии ChatGPT, стало ясно, что «наше стремление реализовать весь потенциал искусственного интеллекта на благо общества в целом требует новых способов оценки этих возможностей». искусственные возможности умной модели». Гугл не ответил.

01. Что такое сознание?

Одна из проблем при изучении сознания ИИ — определить, что такое сознание. По словам Питерса, для целей отчета исследователи сосредоточились на «феноменальном осознании» или субъективном опыте. То есть чувства, существующие у людей, животных или систем искусственного интеллекта (если окажется, что одно из них обладает сознанием).

Существует множество теорий, основанных на нейробиологии, которые описывают биологическую основу сознания. Но нет единого мнения о том, какой из них «правильный». Поэтому авторы используют ряд теорий для создания своей основы. Они считают, что если функциональность системы ИИ соответствует нескольким аспектам этих теорий, то у нее больше шансов быть сознательной.

Они утверждают, что такой способ оценки сознания лучше, чем простое выполнение поведенческих тестов, например, опрос ChatGPT, находится ли он в сознании, или вызов ему и наблюдение за его ответами. Потому что системы искусственного интеллекта достигли невероятного прогресса в имитации людей.

Нейробиолог Анил Сет, директор Центра науки о сознании Университета Сассекса в Великобритании, считает, что теоретически строгий подход команды является хорошим. Однако, говорит он, «необходимы более точные, хорошо проверенные теории сознания».

02. Теоретико-интенсивный подход

Чтобы сформулировать свои критерии, авторы утверждают, что сознание связано с тем, как системы обрабатывают информацию, независимо от того, состоят ли они из нейронов, компьютерных чипов или других материалов. Этот подход известен как вычислительный функционализм. Они также предположили, что теории сознания, основанные на нейробиологии и основанные на сканировании мозга и других технических исследованиях людей и животных, могут быть применены к искусственному интеллекту.

На основе этих предположений команда выбрала шесть теорий, из которых извлекла ряд показателей сознания.

Одной из них является теория глобального рабочего пространства, которая утверждает, что люди и другие животные используют множество специализированных систем (также называемых модулями) для выполнения когнитивных задач, таких как зрение и слух. Эти модули работают независимо, но параллельно и объединяются в единую систему для обмена информацией.

По словам Лонга, «посмотрев на архитектуру системы и способы потоков информации внутри нее», можно оценить, демонстрирует ли конкретная система ИИ показатели, выведенные из теории.

Сет был впечатлен предложением команды. "Он очень хорошо продуман, не напыщен и ясно излагает свои предположения", - сказал он. Хотя я не согласен с некоторыми предположениями, это совершенно нормально, потому что есть шанс, что я могу ошибаться. "

Авторы говорят, что статья далека от окончательного понимания того, как оценивать сознательные системы ИИ, и они надеются, что другие исследователи помогут усовершенствовать их методологию. Но эти стандарты уже могут быть применены к существующим системам искусственного интеллекта.

Например, в отчете оцениваются крупномасштабные языковые модели, такие как ChatGPT, и делается вывод, что такие системы, можно сказать, обладают некоторыми показателями осведомленности, связанными с теорией глобального рабочего пространства. Тем не менее, работа не предполагает, что какие-либо существующие системы ИИ являются сильными кандидатами на обладание сознанием, по крайней мере, пока.