Нещодавно Андрій Карпаті, співзасновник OpenAI, виступив з короткою промовою на заході для розробників, розповівши про свої погляди та погляди OpenAI на AI Agents (агенти штучного інтелекту).
Андрій Карпаті порівняв труднощі у розробці AI-агентів у минулому з новими можливостями, розкритими за допомогою нових технологічних інструментів, і не забув висміяти свою роботу в Tesla через те, що його «відволікає автопілот». Він вважає автономне водіння та VR прикладами поганих агентів ШІ.
Щоб отримати нові можливості, Андрій Карпаті вважає, що настав час знову повернутися до нейронауки та шукати в ній натхнення — як це було на початку глибокого навчання.
З іншого боку, Андрій Карпаті вважає, що звичайні люди, підприємці та гіки мають більше переваг у створенні AI-агентів, ніж такі компанії, як OpenAI.Наразі всі перебувають у стані рівної конкуренції, тому він з нетерпінням чекає результатів у цьому відношенні.
Нижче наведено повний текст цього спільного доступу:
Привіт всім. Мене запросили сказати кілька мотиваційних слів на тему агентів ШІ.
Я думаю, що AI Agents у певному сенсі мені близький, дозвольте мені почати з історії, це дуже рання історія OpenAI, OpenAI, можливо, лише десяток людей на той час, десь у 2016 році, на той час тенденція насправді полягає в RL Agents ( Reinforcement Learning Agents). Усі були дуже зацікавлені у створенні агентів, але в той час це було здебільшого засноване на іграх, ажіотаж був навколо ігрових компаній, таких як Atari, і мій проект в OpenAI намагався зосередити RL агентів на клавіатурах і миша використовувалася на комп’ютері , а не гра. Я хочу зробити їх кориснішими і зробити багато роботи, проект називається World of Bits. Ми з кількома колегами опублікували статтю.
Це не дивовижний документ, тому що він насправді заснований на методах навчання з підкріпленням RL. Наші веб-сторінки дуже прості та дозволяють людям забронювати авіаквиток або замовити їжу тощо. Нічого з цього, очевидно, не спрацювало, оскільки технологія не була готова, і було б нерозумно робити це в той час. Факти довели, що ми повинні повністю забути про агентів штучного інтелекту і займатися мовними моделями.
Ми повернулися сюди п’ять років потому, і мене трохи відволікало автономне водіння, але тепер, коли агенти штучного інтелекту знову круті, наш інструментарій зовсім інший, і спосіб, яким ми підходимо до цих проблем, зовсім інший. Насправді ви всі працюєте над агентами ШІ, але, можливо, не використовуєте жодних методів навчання з підкріпленням. Це божевілля, я не думаю, що ми б передбачили це. Це було просто дуже весело.
Дозвольте мені поговорити про те, чому агенти ШІ такі популярні. Я думаю, багатьом зрозуміло, що AGI (штучний загальний інтелект) повною мірою скористається можливостями агентів AI, не одного, а багатьох. Можливо, будуть організації чи цивілізації цифрових сутностей, що, на мою думку, дуже надихає, навіть трохи божевільно. Однак я також хочу облити це холодною водою. Я думаю, що є цілий клас проблем, які легко уявити, легко побудувати, легко продемонструвати, але дуже важко створити продукт. Багато речей підпадають під цю категорію, я думаю, що автономне водіння є прикладом.
Автономне водіння легко уявити, і легко створити демонстрацію автомобіля, що об’їжджає квартал, але знадобилося десятиліття, щоб перетворити це на продукт. Так само, я думаю, що те ж саме стосується віртуальної реальності, знадобиться десятиліття, щоб вона запрацювала.
Я вважаю, що певною мірою те саме стосується агентів ШІ. Легко уявити сценарії для цього, і це дуже захоплююче, але я думаю, якщо ви в цьому берете участь, вам слід інвестувати в це десятиліття, щоб справді спрацювало.
Інша річ, яку я хочу сказати, це те, що я вважаю, що зараз цікаво повернутися до нейронауки і знову надихнутися нею в певному сенсі, перші дні глибокого навчання були натхненні нейронаукою. Дуже цікаво подумати про зв’язок між ними, особливо я думаю, що багато людей дивляться на мовні моделі як на частину рішення, але як побудувати повну цифрову сутність, яка має всі когнітивні можливості людини? Зрозуміло, що всі ми погоджуємося, що нам потрібна якась базова система, щоб планувати, думати та розмірковувати над тим, що ми робимо, і тут у гру вступає нейронаука.
Наприклад, дуже важливий гіпокамп. Що в AI Agents виконує роль гіпокампу, який використовується для зберігання пам’яті, пошуку позначок тощо? Ми маємо загальне уявлення про те, як побудувати зорову та слухову кори, але є багато речей, які ми не знаємо, що це означає в агентах ШІ. Наприклад, як виглядає візуальна гра в AI Agents? Що є еквівалентом таламуса, розташування підсвідомості, в AI Agents? Це дуже цікаво.
Насправді сьогодні я прихопив із собою книгу з нейронауки «Мозок і поведінка» Девіда Іглмана, яка мені здалася дуже цікавою та пізнавальною. Взявши цікаве натхнення в нейронауці, як ми робили в перші дні, коли ми створювали окремі нейрони, нам, ймовірно, слід повторити це сьогодні.
Насамкінець я хотів би закінчити словами підбадьорення. Цікава, але неочевидна річ, полягає в тому, що створені вами агенти штучного інтелекту (що стосується живої аудиторії) насправді є передовими можливостями сучасних агентів штучного інтелекту.Усі великі установи LLM, такі як OpenAI, DeFi тощо, я сумніваюся, що вони на передовій. Ви на передовій.
Наприклад, OpenAI дуже добре навчає великі мовні моделі Transformer. Якщо документ пропонує якийсь інший метод навчання, обговорення в нашій групі Slack всередині OpenAI буде схоже на те, що хтось пробував це два з половиною роки, але це не спрацювало, ми не зацікавлені в цьому методі Чудове розуміння тонкощів. Але коли вийшла нова стаття про агентів штучного інтелекту, ми були дуже зацікавлені та подумали, що це дуже круто, тому що наша команда не витратила на це п’ять років, ми не знаємо нічого більше, ніж ви, ми працюємо з усіма вами. Люди змагаються разом. Це причина вважати, що ви в авангарді того, що можуть зробити агенти ШІ.
Переглянути оригінал
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Співзасновник OpenAI Karpathy поділився: агентам ШІ може знадобитися 10 років, щоб по-справжньому запрацювати
Упорядкувати: акаунт у Twitter "@GPTDAOCN"
Нещодавно Андрій Карпаті, співзасновник OpenAI, виступив з короткою промовою на заході для розробників, розповівши про свої погляди та погляди OpenAI на AI Agents (агенти штучного інтелекту).
Андрій Карпаті порівняв труднощі у розробці AI-агентів у минулому з новими можливостями, розкритими за допомогою нових технологічних інструментів, і не забув висміяти свою роботу в Tesla через те, що його «відволікає автопілот». Він вважає автономне водіння та VR прикладами поганих агентів ШІ.
Щоб отримати нові можливості, Андрій Карпаті вважає, що настав час знову повернутися до нейронауки та шукати в ній натхнення — як це було на початку глибокого навчання.
З іншого боку, Андрій Карпаті вважає, що звичайні люди, підприємці та гіки мають більше переваг у створенні AI-агентів, ніж такі компанії, як OpenAI.Наразі всі перебувають у стані рівної конкуренції, тому він з нетерпінням чекає результатів у цьому відношенні.
Привіт всім. Мене запросили сказати кілька мотиваційних слів на тему агентів ШІ.
Я думаю, що AI Agents у певному сенсі мені близький, дозвольте мені почати з історії, це дуже рання історія OpenAI, OpenAI, можливо, лише десяток людей на той час, десь у 2016 році, на той час тенденція насправді полягає в RL Agents ( Reinforcement Learning Agents). Усі були дуже зацікавлені у створенні агентів, але в той час це було здебільшого засноване на іграх, ажіотаж був навколо ігрових компаній, таких як Atari, і мій проект в OpenAI намагався зосередити RL агентів на клавіатурах і миша використовувалася на комп’ютері , а не гра. Я хочу зробити їх кориснішими і зробити багато роботи, проект називається World of Bits. Ми з кількома колегами опублікували статтю.
Це не дивовижний документ, тому що він насправді заснований на методах навчання з підкріпленням RL. Наші веб-сторінки дуже прості та дозволяють людям забронювати авіаквиток або замовити їжу тощо. Нічого з цього, очевидно, не спрацювало, оскільки технологія не була готова, і було б нерозумно робити це в той час. Факти довели, що ми повинні повністю забути про агентів штучного інтелекту і займатися мовними моделями.
Ми повернулися сюди п’ять років потому, і мене трохи відволікало автономне водіння, але тепер, коли агенти штучного інтелекту знову круті, наш інструментарій зовсім інший, і спосіб, яким ми підходимо до цих проблем, зовсім інший. Насправді ви всі працюєте над агентами ШІ, але, можливо, не використовуєте жодних методів навчання з підкріпленням. Це божевілля, я не думаю, що ми б передбачили це. Це було просто дуже весело.
Дозвольте мені поговорити про те, чому агенти ШІ такі популярні. Я думаю, багатьом зрозуміло, що AGI (штучний загальний інтелект) повною мірою скористається можливостями агентів AI, не одного, а багатьох. Можливо, будуть організації чи цивілізації цифрових сутностей, що, на мою думку, дуже надихає, навіть трохи божевільно. Однак я також хочу облити це холодною водою. Я думаю, що є цілий клас проблем, які легко уявити, легко побудувати, легко продемонструвати, але дуже важко створити продукт. Багато речей підпадають під цю категорію, я думаю, що автономне водіння є прикладом.
Автономне водіння легко уявити, і легко створити демонстрацію автомобіля, що об’їжджає квартал, але знадобилося десятиліття, щоб перетворити це на продукт. Так само, я думаю, що те ж саме стосується віртуальної реальності, знадобиться десятиліття, щоб вона запрацювала.
Я вважаю, що певною мірою те саме стосується агентів ШІ. Легко уявити сценарії для цього, і це дуже захоплююче, але я думаю, якщо ви в цьому берете участь, вам слід інвестувати в це десятиліття, щоб справді спрацювало.
Інша річ, яку я хочу сказати, це те, що я вважаю, що зараз цікаво повернутися до нейронауки і знову надихнутися нею в певному сенсі, перші дні глибокого навчання були натхненні нейронаукою. Дуже цікаво подумати про зв’язок між ними, особливо я думаю, що багато людей дивляться на мовні моделі як на частину рішення, але як побудувати повну цифрову сутність, яка має всі когнітивні можливості людини? Зрозуміло, що всі ми погоджуємося, що нам потрібна якась базова система, щоб планувати, думати та розмірковувати над тим, що ми робимо, і тут у гру вступає нейронаука.
Наприклад, дуже важливий гіпокамп. Що в AI Agents виконує роль гіпокампу, який використовується для зберігання пам’яті, пошуку позначок тощо? Ми маємо загальне уявлення про те, як побудувати зорову та слухову кори, але є багато речей, які ми не знаємо, що це означає в агентах ШІ. Наприклад, як виглядає візуальна гра в AI Agents? Що є еквівалентом таламуса, розташування підсвідомості, в AI Agents? Це дуже цікаво.
Насправді сьогодні я прихопив із собою книгу з нейронауки «Мозок і поведінка» Девіда Іглмана, яка мені здалася дуже цікавою та пізнавальною. Взявши цікаве натхнення в нейронауці, як ми робили в перші дні, коли ми створювали окремі нейрони, нам, ймовірно, слід повторити це сьогодні.
Насамкінець я хотів би закінчити словами підбадьорення. Цікава, але неочевидна річ, полягає в тому, що створені вами агенти штучного інтелекту (що стосується живої аудиторії) насправді є передовими можливостями сучасних агентів штучного інтелекту.Усі великі установи LLM, такі як OpenAI, DeFi тощо, я сумніваюся, що вони на передовій. Ви на передовій.
Наприклад, OpenAI дуже добре навчає великі мовні моделі Transformer. Якщо документ пропонує якийсь інший метод навчання, обговорення в нашій групі Slack всередині OpenAI буде схоже на те, що хтось пробував це два з половиною роки, але це не спрацювало, ми не зацікавлені в цьому методі Чудове розуміння тонкощів. Але коли вийшла нова стаття про агентів штучного інтелекту, ми були дуже зацікавлені та подумали, що це дуже круто, тому що наша команда не витратила на це п’ять років, ми не знаємо нічого більше, ніж ви, ми працюємо з усіма вами. Люди змагаються разом. Це причина вважати, що ви в авангарді того, що можуть зробити агенти ШІ.