Недавно Андрей Карпати, соучредитель OpenAI, выступил с короткой речью на мероприятии для разработчиков, рассказав о своем внутреннем взгляде и взглядах OpenAI на AI Agents (агенты искусственного интеллекта).
Андрей Карпатий сравнил трудности разработки ИИ-агентов в прошлом с новыми возможностями, открывающимися под новыми технологическими инструментами, и не забыл высмеять свою работу в Tesla за то, что его «отвлекал автопилот». Он считает автономное вождение и виртуальную реальность примерами плохих агентов ИИ.
Для новых возможностей Андрей Карпати считает, что настал момент снова вернуться к нейробиологии и искать в ней вдохновения — точно так же, как это было в первые дни глубокого обучения.
С другой стороны, Андрей Карпати считает, что обычные люди, предприниматели и гики имеют больше преимуществ, чем такие компании, как OpenAI, в создании агентов ИИ.Все сейчас находятся в состоянии равной конкуренции, поэтому он с нетерпением ждет результатов в этом отношении.
Ниже приводится полный текст этого обмена:
Всем привет. Меня пригласили сказать несколько мотивационных слов на тему ИИ-агентов.
Я думаю, что агенты ИИ в некотором роде мне близки, позвольте мне начать с истории, это очень ранняя история OpenAI, OpenAI, может быть, всего дюжина человек в то время, примерно в 2016 году, в то время. Тенденция на самом деле RL Agents ( Агенты обучения с подкреплением). Все были очень заинтересованы в создании агентов, но в то время это было в основном основано на играх, и волнение было вокруг игровых компаний, таких как Atari, и мой проект в OpenAI пытался сфокусировать агентов RL на клавиатурах, а мышь используется на компьютере. , а не игра. Я хочу сделать их более полезными и сделать много работы, проект называется World of Bits. Несколько коллег и я закончили тем, что опубликовали статью.
Это не удивительная статья, потому что она на самом деле основана на методах обучения с подкреплением RL. Наши веб-страницы очень просты и позволяют людям бронировать авиабилеты, заказывать еду и так далее. Ничто из этого, очевидно, не сработает, потому что технология не была готова, и было бы неразумно делать это в то время. Факты доказали, что мы должны полностью забыть об агентах ИИ и заняться языковыми моделями.
Мы вернулись сюда спустя пять лет, и я немного отвлекся на автономное вождение, но сейчас, когда ИИ-агенты снова круты, наш инструментарий совсем другой, и то, как мы подходим к этим проблемам, совсем другое. Фактически, все вы работаете над агентами ИИ, но вы можете не использовать какие-либо методы обучения с подкреплением. Это безумие, я не думаю, что мы бы предвидели это. Это было слишком весело.
Позвольте мне немного поговорить о том, почему ИИ-агенты так популярны. Думаю, многим ясно, что AGI (искусственный общий интеллект) будет в полной мере использовать возможности агентов ИИ, причем не одного, а многих. Возможно, появятся организации или цивилизации цифровых сущностей, что, на мой взгляд, очень вдохновляет, даже немного безумно. Тем не менее, я также хочу бросить немного холодной воды на это. Я думаю, что существует целый класс задач, которые легко вообразить, легко построить, легко продемонстрировать, но очень сложно создать продукт. В эту категорию попадают многие вещи, я думаю, автономное вождение является примером.
Автономное вождение легко представить и легко создать демонстрацию автомобиля, объезжающего квартал, но потребовалось десятилетие, чтобы превратить это в продукт. Точно так же, я думаю, то же самое и с виртуальной реальностью: потребуется десятилетие, чтобы она заработала.
Я думаю, что то же самое в некоторой степени верно и для агентов ИИ. Легко вообразить сценарии для этого, и это очень увлекательно, но я думаю, что если вы в этом участвуете, вы должны инвестировать десятилетие в это, чтобы действительно работать.
Еще одна вещь, которую я хочу сказать, это то, что я думаю, что сейчас интересно вернуться к нейронаукам и снова вдохновиться ими, ранние дни глубокого обучения были вдохновлены нейробиологией. Очень интересно подумать об отношениях между ними, особенно я думаю, что многие люди смотрят на языковые модели как на часть решения, но как построить полноценную цифровую сущность, обладающую всеми когнитивными способностями человека? Ясно, что все мы согласны с тем, что нам нужна какая-то базовая система, чтобы планировать, думать и размышлять о том, что мы делаем, и именно здесь в игру вступает нейробиология.
Например, очень важен гиппокамп: что в ИИ-агентах играет роль гиппокампа, который используется для хранения памяти, извлечения меток и т. д.? У нас есть общее представление о том, как построить зрительную и слуховую кору, но есть много вещей, которые мы не знаем, что это означает в агентах ИИ. Как выглядит визуальная игра в AI Agents? Что является эквивалентом таламуса, местонахождения подсознания, в агентах ИИ? Это очень интересно.
Сегодня я принес с собой книгу по неврологии «Мозг и поведение» Дэвида Иглмана, которую я нашел очень интересной и поучительной. Черпая интересные идеи из нейронауки, как мы это делали в первые дни, когда мы проектировали отдельные нейроны, нам, вероятно, следует повторить это сегодня.
Наконец, я хотел бы закончить несколько слов ободрения. Интересно, но не очевидно, что агенты ИИ, которые вы создаете (имеется в виду живая аудитория), на самом деле находятся в авангарде возможностей современных агентов ИИ.Все крупные учреждения LLM, такие как OpenAI, DeFi и т. д., я сомневаюсь, что они в авангарде. Вы на передовой.
Например, OpenAI очень хорошо подходит для обучения больших языковых моделей Transformer. Если в статье предлагается какой-то другой метод обучения, обсуждение в нашей Slack-группе внутри OpenAI будет выглядеть так: о да, кто-то пробовал это два с половиной года, и это не сработало, нам этот метод не интересен. Очень хорошо разбирается во всех тонкостях. Но когда вышла новая статья AI Agents, мы очень заинтересовались и подумали, что это очень круто, потому что наша команда не потратила на это пять лет, мы не знаем ничего больше, чем вы, мы работаем со всеми вами. Люди соревнуются вместе. Это причина думать, что вы находитесь в авангарде того, что могут делать агенты ИИ.
Посмотреть Оригинал
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Соучредитель OpenAI Карпати поделился: агентам ИИ может потребоваться 10 лет, чтобы действительно начать работать
Организовать: Твиттер-аккаунт "@GPTDAOCN"
Недавно Андрей Карпати, соучредитель OpenAI, выступил с короткой речью на мероприятии для разработчиков, рассказав о своем внутреннем взгляде и взглядах OpenAI на AI Agents (агенты искусственного интеллекта).
Андрей Карпатий сравнил трудности разработки ИИ-агентов в прошлом с новыми возможностями, открывающимися под новыми технологическими инструментами, и не забыл высмеять свою работу в Tesla за то, что его «отвлекал автопилот». Он считает автономное вождение и виртуальную реальность примерами плохих агентов ИИ.
Для новых возможностей Андрей Карпати считает, что настал момент снова вернуться к нейробиологии и искать в ней вдохновения — точно так же, как это было в первые дни глубокого обучения.
С другой стороны, Андрей Карпати считает, что обычные люди, предприниматели и гики имеют больше преимуществ, чем такие компании, как OpenAI, в создании агентов ИИ.Все сейчас находятся в состоянии равной конкуренции, поэтому он с нетерпением ждет результатов в этом отношении.
Всем привет. Меня пригласили сказать несколько мотивационных слов на тему ИИ-агентов.
Я думаю, что агенты ИИ в некотором роде мне близки, позвольте мне начать с истории, это очень ранняя история OpenAI, OpenAI, может быть, всего дюжина человек в то время, примерно в 2016 году, в то время. Тенденция на самом деле RL Agents ( Агенты обучения с подкреплением). Все были очень заинтересованы в создании агентов, но в то время это было в основном основано на играх, и волнение было вокруг игровых компаний, таких как Atari, и мой проект в OpenAI пытался сфокусировать агентов RL на клавиатурах, а мышь используется на компьютере. , а не игра. Я хочу сделать их более полезными и сделать много работы, проект называется World of Bits. Несколько коллег и я закончили тем, что опубликовали статью.
Это не удивительная статья, потому что она на самом деле основана на методах обучения с подкреплением RL. Наши веб-страницы очень просты и позволяют людям бронировать авиабилеты, заказывать еду и так далее. Ничто из этого, очевидно, не сработает, потому что технология не была готова, и было бы неразумно делать это в то время. Факты доказали, что мы должны полностью забыть об агентах ИИ и заняться языковыми моделями.
Мы вернулись сюда спустя пять лет, и я немного отвлекся на автономное вождение, но сейчас, когда ИИ-агенты снова круты, наш инструментарий совсем другой, и то, как мы подходим к этим проблемам, совсем другое. Фактически, все вы работаете над агентами ИИ, но вы можете не использовать какие-либо методы обучения с подкреплением. Это безумие, я не думаю, что мы бы предвидели это. Это было слишком весело.
Позвольте мне немного поговорить о том, почему ИИ-агенты так популярны. Думаю, многим ясно, что AGI (искусственный общий интеллект) будет в полной мере использовать возможности агентов ИИ, причем не одного, а многих. Возможно, появятся организации или цивилизации цифровых сущностей, что, на мой взгляд, очень вдохновляет, даже немного безумно. Тем не менее, я также хочу бросить немного холодной воды на это. Я думаю, что существует целый класс задач, которые легко вообразить, легко построить, легко продемонстрировать, но очень сложно создать продукт. В эту категорию попадают многие вещи, я думаю, автономное вождение является примером.
Автономное вождение легко представить и легко создать демонстрацию автомобиля, объезжающего квартал, но потребовалось десятилетие, чтобы превратить это в продукт. Точно так же, я думаю, то же самое и с виртуальной реальностью: потребуется десятилетие, чтобы она заработала.
Я думаю, что то же самое в некоторой степени верно и для агентов ИИ. Легко вообразить сценарии для этого, и это очень увлекательно, но я думаю, что если вы в этом участвуете, вы должны инвестировать десятилетие в это, чтобы действительно работать.
Еще одна вещь, которую я хочу сказать, это то, что я думаю, что сейчас интересно вернуться к нейронаукам и снова вдохновиться ими, ранние дни глубокого обучения были вдохновлены нейробиологией. Очень интересно подумать об отношениях между ними, особенно я думаю, что многие люди смотрят на языковые модели как на часть решения, но как построить полноценную цифровую сущность, обладающую всеми когнитивными способностями человека? Ясно, что все мы согласны с тем, что нам нужна какая-то базовая система, чтобы планировать, думать и размышлять о том, что мы делаем, и именно здесь в игру вступает нейробиология.
Например, очень важен гиппокамп: что в ИИ-агентах играет роль гиппокампа, который используется для хранения памяти, извлечения меток и т. д.? У нас есть общее представление о том, как построить зрительную и слуховую кору, но есть много вещей, которые мы не знаем, что это означает в агентах ИИ. Как выглядит визуальная игра в AI Agents? Что является эквивалентом таламуса, местонахождения подсознания, в агентах ИИ? Это очень интересно.
Сегодня я принес с собой книгу по неврологии «Мозг и поведение» Дэвида Иглмана, которую я нашел очень интересной и поучительной. Черпая интересные идеи из нейронауки, как мы это делали в первые дни, когда мы проектировали отдельные нейроны, нам, вероятно, следует повторить это сегодня.
Наконец, я хотел бы закончить несколько слов ободрения. Интересно, но не очевидно, что агенты ИИ, которые вы создаете (имеется в виду живая аудитория), на самом деле находятся в авангарде возможностей современных агентов ИИ.Все крупные учреждения LLM, такие как OpenAI, DeFi и т. д., я сомневаюсь, что они в авангарде. Вы на передовой.
Например, OpenAI очень хорошо подходит для обучения больших языковых моделей Transformer. Если в статье предлагается какой-то другой метод обучения, обсуждение в нашей Slack-группе внутри OpenAI будет выглядеть так: о да, кто-то пробовал это два с половиной года, и это не сработало, нам этот метод не интересен. Очень хорошо разбирается во всех тонкостях. Но когда вышла новая статья AI Agents, мы очень заинтересовались и подумали, что это очень круто, потому что наша команда не потратила на это пять лет, мы не знаем ничего больше, чем вы, мы работаем со всеми вами. Люди соревнуются вместе. Это причина думать, что вы находитесь в авангарде того, что могут делать агенты ИИ.