Основатель OpenAI: Мы очень правдоподобная организация

Источник: журнал «Китайский предприниматель».

Организация｜У Ин

Источник изображения: сгенерировано инструментом Unbounded AI

24 июля генеральный директор OpenAI Сэм Альтман (Sam Altman, в дальнейшем именуемый «Альтман») запустил WorldCoin, криптовалютный проект, разрабатываемый в течение многих лет, который в очередной раз привлек всеобщее внимание. Альтман, как он утверждает, усердно работает над улучшением жизни людей в мире ИИ.

Три месяца назад Сэм Альтман и соучредитель OpenAI Грег Брокман (Greg Brockman, в дальнейшем именуемый «Брокман») приняли интервью для американского подкаста. В ходе интервью два основных представителя OpenAI рассказали о своем взгляде на ИИ, а также обсудили влияние ИИ на различные отрасли, вопросы безопасности и структуру своих инвестиций за пределами ИИ.

Когда эти двое объяснили видение OpenAI, они согласились, что хотят разработать AGI (общий искусственный интеллект), который будет полезен и безопасен для всего человечества. Что касается горячо обсуждаемых проблем безопасности ИИ, они также признали риски и заявили, что усердно работают над их преодолением. Кроме того, они также говорили об инвестициях в другие области: например, Альтман особенно интересуется индустрией экологически чистой энергии, а Брокман — медициной и образованием.

Вот основные моменты интервью:

1. Мы прилагаем все усилия, чтобы разработать полезный и безопасный общий искусственный интеллект для всего человечества.

2. По сути, мы хотим предоставить эту технологию всем, устранить барьеры для создания, выполнения новых задач и подтолкнуть людей к решению проблем, которые им действительно интересны.

3. Мы уже не просто останавливаемся на стадии обладания примитивными знаниями, а переходим ко второй стадии — руководству машиной для выполнения задач, которые мы ей даем, и действуем в соответствии с социальными ценностями.

4. Мы построили культуру уделения внимания деталям и попыток сделать их правильными, что привлекает очень тщательных инженерных и научных исследований от тех, кто хочет работать таким образом.

5. Я думаю, что изобилие и чистая энергия могут принести пользу не только в решении климатического кризиса, но и в том, что инвестиции в энергию важнее, чем инвестиции в любой другой ресурс, который я могу придумать. Финансирование фундаментальных изменений в стоимости приобретения энергии — великое дело.

6. ИИ — это инструмент повышения производительности для всех, который сделает наших лучших ученых лучше и продвинет научные исследования.

На какие отрасли ИИ повлияет в ближайшие 3-10 лет

**Модератор:**Давайте начнем с самых основных вопросов. Не могли бы вы вкратце рассказать, в чем заключается миссия вашего OpenAI? Какова цель всех ваших решений? **Альтман: Мы прилагаем все усилия, чтобы разработать полезный и безопасный общий искусственный интеллект для всех людей. **Это беспрецедентный проект, я знаю, как это сложно сделать, мы будем делать много ошибок на этом пути, но это направление, которого мы придерживаемся. Я твердо верю, что ИИ станет самой преобразующей технологией, когда-либо разработанной людьми, в некотором смысле, он поможет нам разработать все будущие технологии, а будущее светлое.

Брокман: Около 8 лет назад, когда мы запустили OpenAI, я действительно верил, что искусственный интеллект появится, и знал, что на его достижение уйдет много времени, но думал, что у нас есть возможность повлиять на это. технологии Я очень взволнован своим выступлением. Наше видение состоит в том, что ОИИ приносит пользу всему человечеству, и мы пытаемся достичь этой цели различными способами.

В начале у нас были такие идеалы, но мы не знали, как совместить их с практическими действиями.После многих лет напряженной работы мы поняли, как построить систему, которая действительно работает, и как интегрировать наши ценности в эту систему. За последние несколько месяцев мы были в восторге от того, что наша технология постепенно становится популярной и что люди начинают пожинать плоды нашей технологии. **Эта технология все еще находится на ранней стадии, и многое еще предстоит сделать, но мы твердо убеждены, что каждый должен быть вовлечен и иметь право голоса. ** Выяснение того, как на самом деле добиться эффективного глобального управления, так же важно, как и развитие технологий.

Модератор: Около 1 миллиарда человек в мире принадлежат к среднему классу с превосходными экономическими условиями. Они также свободно используют ИИ для работы и учебы. Так чем же ИИ может помочь оставшимся 7 миллиардам человек?

**Брокман: Важной особенностью разработанного нами ИИ является отсутствие ограничений доступа, и каждый может получить доступ к этой технологии и использовать ее, вводить свои предпочтения и отзывы в систему и использовать ее для улучшения своей жизни, что первоначальное намерение нашего развития этой технологии. **

Сейчас много вопросов о том, как эта технология будет работать. Наша компания имеет особую структуру, это некоммерческая организация, поэтому, если капитал сильно сконцентрирован в OpenAI, он будет принадлежать не акционерам, а компании и в конечном итоге распределяться по всему миру. Когда прибыль распределяется по всему миру, можно учитывать UBI (универсальный базовый доход) и таким образом распределять ресурсы. ** По сути, мы хотим предоставить эту технологию всем, устранить барьеры для их создания, выполнения новых задач и подтолкнуть людей к решению проблем, которые им действительно интересны. **

**Альтман: Весь по-настоящему устойчивый экономический рост зависит от технического прогресса, а социально-политическое управление и культура могут помочь нам достичь технического прогресса. ** Поэтому мы продвигаемся вперед, как помочь оставшимся 7 миллиардам людей.В будущем наши технологии пойдут дальше.Я считаю, что технологии являются ключом к улучшению качества жизни для всех.

**Модератор:**Какую помощь может принести ИИ в сфере образования?

**Брокман:**Если бы я не основал компанию по искусственному интеллекту, я бы создал компанию по обучению программированию. Только представьте, если будущее может дать детям учителя, который действительно их понимает, находит время, чтобы узнать их, знает, как их мотивировать, и этот учитель доступен круглосуточно и без выходных бесплатно, не так ли? звучит очень хорошо.

Вы можете посмотреть на такие учреждения, как Khan Academy [некоммерческое учебное заведение], они действительно начали брать GPT-4 и внедрять его в классы, и они выяснили, как направить эту технологию, чтобы она стала полезным наставником. Если бы дети попросили его «помочь мне с домашним заданием», он ответил бы: «Нет, я не могу этого сделать». А также пытаемся выяснить, что интересует детей и как действительно мотивировать их делать больше, и теперь мы переходим к этапу того, как извлечь из этого максимальную пользу.

**Модератор:**Многие могут сказать, что Академия Хана сейчас существует, и есть еще много онлайн-курсов, но то, что вы выдвигаете, — это просто идеи, а реальных продуктов нет. Как вы думаете, необразованные люди все еще нуждаются в вашей продукции?

Брокман: В настоящее время мы получаем образование через умных людей, которые учат нас знаниям и методам решения проблем. Если в будущем появится машина, которая будет умнее людей, будет ли это возможно? . **Мы разработали множество виртуальных помощников, таких как Alexa (умный помощник, запущенный Amazon) и Siri (помощник с искусственным интеллектом, запущенный Apple), но для некоторых задач, требующих мозгового мышления, этого все еще недостаточно. , нам нужны более продвинутые технологии, чтобы повысить нашу способность думать и решать проблемы. **

Несомненно, такие функции, как ТПТ-4, видели все, **Мы уже не просто остаемся на этапе обладания исходными знаниями, а переходим ко второму этапу – руководству машиной для выполнения поставленных нами задач, а по соц. ценности действуют. ** Все эти технологии в настоящее время исследуются и разрабатываются нами. Следующий этап технологии и тестирования продукта будет проходить в течение следующих нескольких лет, поскольку использование технологии продолжает расширяться.

**Модератор:**На какие отрасли в ближайшие 3-10 лет повлияет ИИ?

Брокман: Я думаю, что эту технологию можно применить в юридической отрасли, и она может принести много пользы, предоставляя юридические услуги. Мой любимый сервис от GPT-3 — это инструмент под названием Augrented, который помогает арендаторам, получающим уведомления о выселении, разобраться в договорных вопросах. Поскольку в этой демографической группе есть много людей, которые не обязательно имеют доступ к адвокату, эта технология может помочь им делать то, что они иначе не смогли бы. Это один из очень эффективных вариантов использования, которые мы видели.

Модератор: Сейчас на рынке ходит поговорка, что ИИ усиливает человеческий интеллект. Например, GPT-4 можно использовать для написания книги. Что вы думаете по этому поводу?

Альтман: Я полностью согласен с этим утверждением, и это направление, которое мы делаем все возможное для продвижения. Я увидел твит, который запомнился мне: **Кто-то сказал, что никогда не думал, что сможет сосуществовать с таким мощным интеллектом, как GPT-4. Вы окажетесь глубоко в сфере ОИИ, и окажется, что вполне возможно создать ИИ, который действительно хорошо усиливает человеческую волю и делает нас сильнее. **Это сделает нашу работу более эффективной и качественной. Более того, оказывается, что людям это действительно нравится. Для меня самое приятное в **OpenAI то, что люди любят его продукты и получают от них всевозможные неожиданные преимущества. **

"Мы очень правдоподобная организация"

Модератор: Когда ваша команда OpenAI исследовала и разрабатывала продукты ИИ, такие как ChatGPT, сталкивались ли вы с какими-либо неожиданностями?

**Брокман: Первый сюрприз датируется 2017 годом. В то время мы подготовили статью под названием «Эмоциональные нейроны без присмотра», но она не привлекла особого внимания. Но для нас это настоящий прорыв, и нам действительно нужно следовать этой парадигме. **Мы обучили модель предсказывать следующего персонажа в обзоре Amazon, и она смогла узнать, где находятся существительные и где находятся глаголы, но, что еще более удивительно, она научилась современному анализу настроений и классификации, которые может сказать, является ли ваш комментарий положительным или отрицательным. Мы никогда не говорили машине значение этих языков, она как-то разобралась, выполнив эту задачу. **Машинное обучение не идеально, нам еще предстоит пройти долгий путь, еще рано, но мы можем начать решать проблемы. **

Для меня очень важно дать большему количеству людей почувствовать радость программирования. Люди, которые никогда раньше не программировали, могут выйти на поле, а те, кто уже являются хорошими программистами, могут выполнять более творческие действия Достижение этих способностей и уровня может ускорить наш рабочий процесс кодирования.

**Модератор:**Можете ли вы подробнее рассказать о том, как ускорить кодирование?

Брокман: В процессе кодирования мы тратим много времени на то, чтобы точно вспомнить, какие библиотеки делают то, что вы ищете, как их реализовать и каковы параметры. И вы хотите построить систему или приложение, это сложная задача, предыдущий Copilot (помощник программирования) просто шаблонный, они только наизусть. Сейчас модель начинает улучшаться, и если вы мало что знаете о конкретном языке программирования или не знаете определенный набор библиотек, модель с радостью вам это предоставит. И что интересно в GPT-4, так это то, что он может указать, где кодировка неверна, и эти сообщения об ошибках иногда загадочны, и вам приходится копаться в поисках ответов, например, просматривать различные веб-сайты, пытаясь собрать воедино то, что другие люди сказали, что теперь GPT-4 может помочь вам решить эти проблемы.

**Модератор: **Альтман, какое удивление вы испытали?

Альтман: Я цитирую Ноама Шазира (основателя Character.AI): «Мы не объясняем, почему эти архитектуры работают, мы приписываем эти результаты милости Бога». повторяющаяся тема, ** я считаю себя эмпириком, я считаю, что если что-то работает, чем больше вы это делаете, тем лучше будет. ** «Неконтролируемые аффективные нейроны», о которых только что упомянул Грег, стали очень большим сюрпризом, и теперь некоторые вещи, которые делает GPT-4, начинают объяснять, почему ИИ должен работать. Я полностью верю в ИИ и думаю, что он далеко пойдет. ** Прежде чем мы запустили OpenAI, я был поражен, увидев результаты AlexNet (сверточной нейронной сети). **

Модератор: Имея всего несколько сотен человек, вы превзошли уровень, которого может достичь только крупнейшая в мире технологическая компания. Для этого требуется много тяжелой работы и немного удачи. Мне любопытно узнать, что движет вами для достижения этой цели? Есть ли ключевые лидеры в OpenAI?

**Альтман: Мы делаем много вещей, некоторые специально, некоторые по счастливой случайности. Одним из важных факторов является то, что мы создали культуру уделения особого внимания деталям и попыток сделать их правильными, привлекая очень тщательные инженерные и научные исследования от тех, кто хочет работать таким образом. Другая причина заключается в том, что я думаю, что мы очень честолюбивая организация, которая находит то, что работает, и делает больше. **

Когда мы начинали OpenAI, мы отличались от других исследований ИИ, которые существовали в этой области, у них были разные системы стимулирования, и вещи, которые нужно учитывать, были разбросаны, и мы шли на очень целенаправленный риск, делая то, что считалось невообразимым в то время. Мы вложили большую часть наших ресурсов в этот проект, и, несмотря на связанные с ним риски, мы тщательно изучили его и уверены, что сможем добиться результатов.

**Брокман:**Моя идея состоит в том, чтобы начать с «основных принципов». В самом начале Илья (главный научный сотрудник OpenAI) спорил со мной по часу или около того каждый день. Например, у нас была долгая дискуссия о том, кого мы должны нанять, должны ли мы нанять традиционного доктора наук в области машинного обучения, или мы должны нанять инженера-программиста, который никогда не делал этого раньше, или кого-то посередине? Для каждого решения мы должны видеть его последствия, а затем мы продолжим учиться и обновляться.

Мы не можем знать все заранее, но мы можем учиться на практике. Так же, как OpenAI-Five, который мы разработали и продолжали расширять свои масштабы, в игровом соревновании Dota2 он ничуть не отстает. (Примечание: OpenAI-Five, искусственный интеллект, который может играть в игры Dota2, Dota2 — это многопользовательская онлайн-боевая соревновательная игра с большим количеством фанатичных фанатов. В 2018 году они бросили вызов команде чемпионов мира OG team со всей силой.)

Это наша первая система, которая действительно масштабируется, и с каждой неделей мы улучшаем ее по мере того, как мы вкладываем в нее все больше вычислительных мощностей. Наша цель — исчерпать пространство существующих алгоритмов, чтобы мы могли заняться разработкой новых алгоритмов, что мы действительно хотим сделать. Когда вы пытаетесь следовать этому направлению, другое направление тянет вас вперед и говорит, что оно работает. ** Реагировать на то, что мы видим перед собой, постоянно обновлять, поворачивать, изменять, очень важно с технической точки зрения. **

Альтман: Когда мы расширили проект OpenAI-Five, практически никто не думал, что он будет успешным. Тот факт, что вы можете задействовать любой объем вычислений в системе ИИ для достижения желаемого уровня интеллекта, а это охватывает невероятный диапазон вычислений и интеллекта, подобен удивительному научному открытию.

Брокман: Мы также наблюдали за развитием алгоритмов, комбинируя лучшие системы с лучшими алгоритмами, и родились такие системы, как GPT-4. ** Когда мы думаем об этой проблеме, мы понимаем, что если вся информация GPU вводится в цепочку поставок нового алгоритма или даже загружается в крупномасштабную систему обработки данных, то это большой проект, и ни одна компания не сможет сделать это в одиночку. В каком-то смысле это общечеловеческий проект, в котором участвуют многие компании. **

"Искусственный интеллект — это инструмент повышения производительности для всех"

Модератор: Альтман, кто-то написал вам твит: «Следующее, что вы собираетесь сказать, это то, что мы должны регулировать ИИ». Вы отвечаете: «Да, мы должны регулировать искусственный интеллект». Умно». Вы думаете о многих людях, которые говорят: «Ребята, вы слишком торопитесь?» Что вы думаете о регулировании, глобальном управлении или привлечении талантов?

Альтман: Я понимаю тревогу и страх каждого, люди боятся скорости технологических изменений. Мы также согласны действовать осторожно и усилить регулирование искусственного интеллекта, но нет смысла приостанавливать исследования.

** Что нам действительно нужно сделать, так это выяснить, какие нормативные подходы, правила и стандарты безопасности действительно работают в контексте грязной реальности. Скорость, с которой меняется мир, следует поддерживать относительно постоянной, а не создавать ОИИ в тайне, а затем в какой-то момент сразу же обнародовать ее. **Учреждения не становятся великими за одну ночь, они должны постепенно становиться частью технологического развития, давать критическую обратную связь по научным исследованиям, сообщать нам о совершенных глупых ошибках, определять области большой пользы и потенциального вреда, совершать ошибки и учиться на них. когда риск ниже ожидаемого.

Брокман: Мы действительно пытаемся в этом разобраться. ** Когда мы основали OpenAI, мы действительно думали о том, как разработать безопасный ОИИ, от которого зависит, принесет ли он пользу всему человечеству. Здесь есть две проблемы: одна — техническая безопасность, а другая — социальная безопасность.Необходимо обеспечить безопасное использование технологии искусственного интеллекта. **

Я относительно технарь, поэтому сосредоточусь на решении первой проблемы. Мы начали развертывание за последние четыре или пять лет, и когда у GPT-3 возникали проблемы, мы исправляли их так же, как распространялась GPT-3, используя фильтры и вмешательства не на уровне модели. Теперь, когда наша технология совершенствуется, чтобы на самом деле иметь возможность вмешиваться на уровне модели, GPT-4 может автоматически анализировать результаты в модели, поэтому он очень хорошо справляется с фильтрацией безопасности.

Модератор: Одним из критических замечаний в отношении искусственного интеллекта является использование энергии. Альтман, вы думаете, что в будущем будет не только бесконечный интеллект, но и бесконечная энергия, вы вложили значительные средства в Helion Energy (компания, занимающаяся чистой энергией), можете ли вы рассказать о том, почему вы вложили в нее деньги и каких результатов вы ожидаете?

Альтман: Я не думаю, что в будущем у ИИ будет бесконечный интеллект или энергия. Я думаю, что это должно быть падение цен и увеличение количества богатых продуктов. Мы не можем достичь такого уровня бесконечности. Я нахожу эту энергетическую критику систем ИИ вульгарной. ** Я думаю, что изобилие и чистая энергия имеют и другие преимущества, помимо решения климатического кризиса, и что инвестиции в энергию важнее, чем инвестиции в любой другой ресурс, который я могу придумать. Финансирование фундаментальных изменений в стоимости приобретения энергии — великое дело. **Helion работает над этим, и я надеюсь услышать хорошие новости в следующем году.

**Модератор: **Брокман Насколько мы понимаем, вы инвестируете в некоторые компании в области здравоохранения и разработки лекарств, что вы думаете?

Брокман: В рамках OpenAI есть фонд, который инвестирует в некоторые технологические стартапы. Такие стартапы, как Ambience Healthcare (компания, занимающаяся искусственным интеллектом в области медицины), на самом деле пытаются применить ИИ в реальной медицинской деятельности. Даже Microsoft начинает реализовывать свою стратегию искусственного интеллекта в сфере здравоохранения через Nuance (компания-разработчик программного обеспечения для искусственного интеллекта). Если подумать о множестве проблем, с которыми сталкиваются врачи, то многие из них носят административный характер. Мои родители оба были врачами, и я слышал все истории о том, как они были вынуждены использовать iPad для общения с пациентами. ** Мы отправляемся в мир, в котором мы можем просматривать мгновенные расшифровки информации о врачах Nuance и получать записи о врачах постфактум, уменьшая объем объяснений для врача семье пациента и позволяя врачу по-настоящему сосредоточиться на забота о пациенте. **

Мы уже видели преимущества использования ChatGPT для обращения к врачу в Twitter. Другой человек спас жизнь своей собаке через ChatGPT.Сообщалось, что он обращался к ветеринару, но ветеринар вовремя не вылечил его.Нетизены с тревогой загружали медицинские записи в ChatGPT. Однако ChatGPT совершенно уверен в том, что «я не ветеринар, вам нужно поговорить с ветеринаром». Тем не менее, ему также дали несколько советов и разъяснений, которые придали ему уверенности в том, что он пошел ко второму ветеринару. Я думаю, что это действительно интересный пример, потому что он действительно указывает на проблему того, как мы хотим, чтобы ИИ вмешивался. Люди очень зависят от врачей в области медицины, но люди тоже совершают ошибки, и первый врач принял неверное решение, которое могло иметь фатальные последствия. Итак, выясните, как получить правильный контроль со стороны правильных людей.

Модератор: Вы инвестируете в компании, использующие вашу платформу через OpenAI, будет ли это иметь значение? Будут ли другие компании использовать ваш API (интерфейс вызова приложений)? Хотите узнать, как лучше всего использовать ИИ для улучшения всех отраслей?

Альтман: Теперь мы видим, что люди везде называют API OpenAI, и по мере того, как модель становится все более и более интеллектуальной, возможности продуктов и услуг могут постоянно улучшаться, поэтому мы можем с уверенностью ответить на этот вопрос, и эта ситуация будет продолжать.

Модератор: Как вы думаете, что использование искусственного интеллекта или современных технологий искусственного интеллекта привнесет в научные исследования в течение 3-10 лет?

**Брокман:**Гений китайской математики Теренс Тао недавно сказал, что GPT-4 ускорил его скорость. Теренс Тао, известный математик, сказал, что использование GPT-4 для написания заявлений о финансировании в проектных декларациях может принести большую пользу и решить некоторые утомительные задачи. На самом деле люди ежедневно тратят много времени и энергии на выполнение монотонных и повторяющихся задач. Самые умные люди в мире тратят так много времени на эту не очень творческую работу, что это пустая трата времени. ИИ может помочь им решить эти неважные утомительные задачи, освобождая людей для выполнения действительно важных дел, и они могут достичь большего.

**Альтман: Да, я думаю ИИ — это инструмент повышения производительности для всех, который сделает наших лучших ученых лучше и продвинет научные исследования. **В конечном счете, эти системы могут помочь нам хранить больше знаний, чем человеческий мозг, и открывать новые связи, новые идеи и т. д.