Кремниевая долина горячо обсуждает «необычность» искусственного интеллекта: наступила ли эра машин, превосходящих людей?

Первоисточник: 36 криптонов

Примечание редактора: появление искусственного интеллекта выдвинуло на передний план концепцию «сингулярности», и многие люди в Силиконовой долине считают, что искусственный интеллект полностью изменит человеческое общество. Однако есть также опасения по поводу потенциальных негативных последствий ИИ, включая возможность того, что он может уничтожить человечество. Эта статья взята из сборника, в котором автор обсуждает концепцию «сингулярности», обсуждает волнения и опасения Силиконовой долины по поводу искусственного интеллекта, а также выделяет потенциальные преимущества и риски этой технологии.

Источник изображения: сгенерировано Unbounded AI‌

фокус

• Сингулярность, момент, когда технологии и искусственный интеллект резко изменят мир, — это долгожданная концепция, которая в то же время пугает Силиконовую долину.
• В то время как есть волнение по поводу потенциального положительного влияния искусственного интеллекта, есть также опасения, что это может иметь катастрофические последствия для человечества. *В настоящее время большое внимание в AI и Singularity уделяется разработке больших языковых моделей, но все еще ведутся споры о том, действительно ли эти модели отражают экспоненциальный рост интеллекта, обещанный Singularity.

На протяжении десятилетий Силиконовая долина ожидала появления новой технологии, которая произведет революцию в образе жизни людей, экономике, социальных институтах и многом другом. Он может объединить людей и машины, возможно, принеся с собой беспрецедентные возможности и вызовы, а также разделив историю на две эпохи «до» и «после».

Название этой вехи можно назвать «Сингулярность».

Примечание переводчика: «Сингулярность» — понятие, предложенное американским писателем-фантастом Вернором Винджем, которое относится к возможному событию или ситуации в будущем, то есть интеллект искусственного интеллекта превосходит человеческий. тем самым вызывая взрывные изменения в технологиях и обществе, из-за чего то, что произойдет в будущем, будет трудно предсказать и понять.

Сингулярности могут возникать разными способами. Одна из возможностей заключается в том, что люди стали более могущественными, объединив вычислительную мощность компьютеров со своим врожденным интеллектом. Или компьютер может стать настолько сложным, что он действительно сможет думать, создавая «глобальный мозг».

Любой сценарий принесет радикальные экспоненциальные изменения, ни одно из которых нельзя будет обратить вспять. Самоосознающая сверхразумная машина, способная проектировать, улучшать и модернизировать себя намного быстрее, чем любая команда ученых, наверняка вызовет интеллектуальный взрыв. Достижения, достигнутые за последние столетия, могут стать новаторскими всего за несколько лет или даже месяцев. Сингулярность — это катапульта в будущее.

Сегодня искусственный интеллект делает беспрецедентные успехи в технологиях, бизнесе и политике. Судя по всем преувеличениям и нелепостям, исходящим из Силиконовой долины, кажется, что это крайне радужное будущее наконец-то наступило.

Сундар Пичаи, обычно сдержанный генеральный директор Google, сказал, что «искусственный интеллект превзошел огонь, электричество или любые прошлые технологические достижения по важности и влиянию». Миллиардер-инвестор Рейд Хоффман (Reid Hoffman) заявил: «Мир откроет беспрецедентную силу, которая подтолкнет все человеческое общество вперед». люди работают, учатся, путешествуют, лечатся и общаются друг с другом».

Искусственный интеллект — это совершенно новый продукт из Силиконовой долины, способный по требованию обладать сверхчеловеческими способностями.

Но есть и скрытая проблема, которую нельзя игнорировать. Это как если бы технологические компании выпускали беспилотные автомобили с предупреждением о том, что они могут взорваться по пути в Walmart.

В мае этого года Илон Маск, глава Tesla и Twitter, заявил в интервью американскому каналу Consumer News and Business Channel (CNBC): «Появление искусственного общего интеллекта называют чудом. Дело в том, что после этого , будет трудно предсказать, что будет дальше». Он считает, что мы вступим в «эпоху изобилия» (эпоху изобилия), но риск того, что искусственный интеллект «уничтожит человечество», «по-прежнему неприемлем». ".

В мире технологий самым активным сторонником искусственного интеллекта является Сэм Альтман, генеральный директор американской компании по искусственному интеллекту OpenAI. Чат-бот стартапа ChatGPT, запущенный в прошлом году, также вызвал неизменный энтузиазм. Альтман сказал, что ИИ станет «самой большой силой в расширении экономических возможностей и благосостоянии для многих».

Однако Маск, который основал компанию, разрабатывающую технологию интерфейса мозг-компьютер, также считает, что критика Маска оправдана.

Не так давно Альтман подписал совместное открытое письмо, спонсируемое некоммерческой организацией «Центр безопасности ИИ» (Center for AI Safety). «Предотвращение риска исчезновения, связанного с искусственным интеллектом, должно быть глобальным приоритетом» наравне с «пандемиями и ядерной войной», — говорится в письме. Среди других подписантов — коллеги из компании OpenAI и компьютерные ученые из Microsoft и Google.

Сэм Альтман, генеральный директор OpenAI, американской компании, занимающейся искусственным интеллектом, является самым активным сторонником искусственного интеллекта. Источник изображения: Хайюн Цзян

Апокалипсис — знакомая и даже популярная тема в Силиконовой долине. Несколько лет назад почти каждый технический руководитель, казалось, построил убежище Судного дня где-нибудь в глуши, хорошо укомплектованное на случай, если оно им понадобится. В 2016 году Альтман также сказал, что он «запасся оружием, золотом, йодидом калия, антибиотиками, батареями, водой, противогазами ЦАХАЛа и построил огромное убежище в Биг-Суре, куда вы можете прилететь прямо». заставлял этих выживших техников чувствовать себя оправданными, по крайней мере, на какое-то время.

Теперь они готовятся к приходу сингулярности.

В связи с этим Бальдур Бьярнасон, автор «Иллюзии интеллекта», сказал: «Они думают, что они очень мудры, но их слова больше похожи на 1000 год нашей эры. Монахи говорят об апокалипсисе. Это немного беспокоит».

Происхождение слова «За гранью»

Истоки концепции «сингулярности» можно проследить до пионера информатики Джона фон Неймана в 1950-х годах. Фон Нейман однажды предсказал, что «постоянно ускоряющийся прогресс технологий» приведет к «ключевой сингулярности в истории человечества».

Пионер информатики Джон фон Нейман. Изображение предоставлено: Getty Images

Британский математик Ирвинг Джон Гуд также был активным сторонником этой точки зрения. Он помогал британскому правительству взломать немецкую шифровальную машину Enigma в Блетчли-парке (Блетчли-парк, главное место, где британское правительство проводило взлом кодов во время Второй мировой войны). В 1964 году он писал: «Раннее создание сверхразумных машин — ключ к выживанию человечества».

Когда американский кинорежиссер Стэнли Кубрик руководил съемками научно-фантастического фильма «Космическая одиссея 2001 года», он попросил у Гуда совета относительно доброго, ставшего злонамеренным персонажа искусственного интеллекта HAL, раннего примера размытой границы между информатикой и научная фантастика.

Ханс Моравек, адъюнкт-профессор Института робототехники Университета Карнеги-Меллона, считает, что появление Сингулярности принесет пользу не только живым, но и вернет к жизни мертвых.

«У нас будет возможность воссоздавать и взаимодействовать с прошлым реальными и непосредственными способами», — пишет он в книге «Дети разума: будущее роботов и человеческого интеллекта».

Предприниматель и изобретатель Рэй Курцвейл также был самым большим сторонником сингулярности в последние годы. Курцвейл является автором книг «Эпоха разумных машин» в 1990 году и «Сингулярность близка» в 2005 году. В настоящее время Курцвейл пишет книгу «Сингулярность рядом».

Он предсказывает, что к концу этого десятилетия компьютеры пройдут тест Тьюринга и будут неотличимы от людей. Еще через пятнадцать лет наступит настоящая трансцендентность: «Когда в нас интегрируют вычислительные технологии, наш интеллект значительно повысится, возможно, в сотни раз».

К тому времени Курцвейлу исполнилось бы 97 лет. Он надеется, что с помощью различных витаминов и добавок он доживет до наступления этой эры.

Предприниматель и изобретатель Рэй Курцвейл также является самым большим сторонником сингулярности. Предоставлено: Friso Gentsch/Picture Alliance.

Некоторые критики Сингулярности считают, что концепция Сингулярности пытается создать систему убеждений в области программного обеспечения, подобную организованной религиозной вере, Подкрепленную строгими научными данными, трудно быть убедительной.

«Все они хотят бессмертия, но не хотят верить в Бога», — сказал Родни Брукс, бывший директор Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института.

Сегодня инновации в споре о «сингулярности» в основном связаны с большими языковыми моделями (LLM), системой искусственного интеллекта, которая также лежит в основе разработки чат-ботов. Поговорите с этими крупными языковыми моделями, и они смогут быстро, связно ответить на вопросы и часто дать весьма ясные ответы.

По словам Джерри Каплана, давнего предпринимателя в области искусственного интеллекта и автора книги «Искусственный интеллект: что нужно знать каждому»: «Когда вы задаете вопрос большой языковой модели, наконец, она понимает значение вопроса, определяет, каким должен быть ответ, а затем представляет ответьте на письменном языке. Если это не определение общего интеллекта, то что?»

Каплан также сказал, что скептически относится к громким технологиям, таким как беспилотные автомобили и криптовалюты. Точно так же он ранее скептически относился к последнему увлечению ИИ, но начал менять свое мнение об ИИ, увидев потенциал, который он представляет.

«Если это не« сингулярность », то она определенно есть. Это технология огромного влияния, которая значительно продвинет человечество в искусствах, науках и знаниях. Конечно, это также вызовет некоторые проблемы», — добавил он. .

Критики возражают, что даже если большие языковые модели достигают впечатляющих результатов, они не могут сравниться с обширным глобальным интеллектом, представленным Сингулярностью. Часть проблемы с проведением границы между шумихой и реальностью заключается в том, что принципы и алгоритмы, лежащие в основе этой технологии, становится все труднее раскрыть.

OpenAI начинался как некоммерческая организация с открытым исходным кодом, но с тех пор превратился в коммерческое предприятие. Некоторые критики отмечают, что OpenAI теперь фактически является «черным ящиком», и каждому трудно понять его внутреннюю работу. В связи с этим Google и Microsoft также имеют низкую степень раскрытия информации.

Большая часть текущих исследований в области искусственного интеллекта проводится компаниями, которые могут извлечь выгоду из результатов. Предварительная версия последней модели OpenAI «демонстрирует несколько интеллектуальных функций», включая «абстрактные способности, понимание, визуальные способности, способность к кодированию» и «способность понимать человеческие мотивы и эмоции».

Райлан Шеффер, докторант компьютерных наук в Стэнфордском университете, говорит, что некоторые исследователи ИИ были неточны в описании «возникающей силы», проявляемой этими большими языковыми моделями. Хотя эти большие языковые модели имеют некоторые неизвестные и трудные для интерпретации возможности, эти возможности не очевидны и не присутствуют в версиях меньших языковых моделей.

Шафер и двое других коллег из Стэнфорда, Брандо Миранда и Санми Коеджо, изучили этот вопрос в исследовательской статье, опубликованной в мае, и пришли к выводу, что эта возникающая способность является лишь «иллюзией», вызванной ошибками измерения, а не увеличением размера и сложности модели. . На самом деле, исследователи могут быть склонны видеть результаты, которые они хотят видеть.

Бессмертие, Бессмертие

В Вашингтоне, Лондоне и Брюсселе законодатели начинают признавать возможности и проблемы, связанные с искусственным интеллектом, и начинают обсуждать вопросы регулирования. Альтман проводит рекламное роуд-шоу для OpenAI, стремясь отмахнуться от ранней критики и представить свою компанию как лидера эпохи сингулярности.

Это включает в себя открытость для регулирования, но конкретная форма регулирования еще не ясна. Тем не менее, в Силиконовой долине широко распространено мнение, что государственные органы неэффективны и не обладают достаточным опытом для эффективного регулирования быстроразвивающегося технологического сектора.

«В правительственном агентстве нет никого, кто понял бы это правильно, — заявил бывший генеральный директор Google Эрик Шмидт в новостном ток-шоу «Встреча с прессой» в начале этого года, — и выдвинул идею саморегулирования искусственного интеллекта. «Но у отрасли есть возможности для того, чтобы правила были примерно правильными», — добавил он.

Искусственный интеллект, как и технологическая сингулярность, считается необратимым в тех изменениях, которые он приносит. Альтман и его коллеги недавно заявили, что «для сдерживания дальнейшего развития искусственного интеллекта необходимо создать механизмы контроля, подобные глобальной системе регулирования, но даже это не может гарантировать успеха». это.

Однако в настоящее время редко обсуждается огромная прибыль, полученная от этого. Несмотря на распространенное мнение о том, что искусственный интеллект — это машина, создающая неограниченное богатство, на самом деле наживаются на нем уже состоятельные люди.

В этом году рыночная стоимость Microsoft взлетела до 5 триллионов долларов. Nvidia, которая производит чипы для систем с искусственным интеллектом, также недавно стала одной из самых ценных публичных компаний в США из-за резкого роста спроса на чипы.

«Искусственный интеллект — это технология, которую всегда хотело иметь человеческое общество», — написал Альтман в Twitter.

Нельзя отрицать, что это действительно технология, которую ждал технологический мир, и она появилась в идеальное время.

В прошлом году Силиконовая долина пострадала от увольнений и роста процентных ставок, в то время как криптовалюты после периода бума и спада быстро пошли на убыль из-за мошенничества и последовавшего разочарования.

«Следуйте за деньгами», — говорит Чарльз Стросс, соавтор научно-фантастического романа «Восторг ботаников», в котором с юмором изображается технологическая сингулярность. Стросс также является автором научно-фантастического романа «Акселерандо», в котором он тоже рисует более серьезную и серьезную картину того, как может выглядеть жизнь в будущем.

«Реальная возможность заключается в том, что компании смогут заменить многие дефектные, дорогие, не отвечающие на запросы устройства обработки информации, управляемые человеком, программным обеспечением, тем самым снизив затраты и повысив эффективность», — сказал он.

Долгое время люди представляли себе технологическую сингулярность как событие глобального воздействия, которое может полностью разрушить человеческую когнитивную систему, и сила этого изменения поразительна. На данный момент такая возможность все еще существует.

Однако отчасти из-за чрезмерной погони за корпоративной прибылью в Силиконовой долине сегодня это приведет к тому, что технологическая сингулярность будет использоваться в первую очередь как инструмент увольнения. В погоне за рыночной капитализацией в триллион долларов можно на время отложить мелкие вопросы.