Засновник OpenAI: Ми дуже прагне до правди

Джерело: China Entrepreneur Magazine

Організація｜Wu Ying

Джерело зображення: створено інструментом Unbounded AI

24 липня генеральний директор OpenAI Сем Альтман (Sam Altman, далі «Альтман») запустив багаторічний криптовалютний проект WorldCoin, який знову привернув широку увагу. Альтман, як він стверджує, наполегливо працює над кращим життям людей у світі ШІ.

Три місяці тому Сем Альтман і співзасновник OpenAI Грег Брокман (Greg Brockman, далі «Брокман») погодилися на інтерв'ю для американського подкасту. Під час інтерв’ю двоє ключових діячів OpenAI пояснили свої погляди на штучний інтелект. Крім того, вони також обговорили вплив штучного інтелекту на різні галузі, питання безпеки та план інвестування поза ШІ.

Коли вони пояснили бачення OpenAI, вони погодилися, що хочуть розробити AGI (загальний штучний інтелект), який буде корисним і безпечним для всього людства. Щодо гаряче обговорюваних питань безпеки штучного інтелекту, вони також визнали ризики та сказали, що наполегливо працюють, щоб їх подолати. Крім того, вони також говорили про інвестиції в інших сферах, наприклад, Альтмана особливо цікавить галузь чистої енергетики, а Брокмана — медицина та освіта.

Ось основні моменти інтерв’ю:

1. Ми наполегливо працюємо над розробкою корисного та безпечного загального штучного інтелекту для всього людства.

2. По суті, ми хочемо надати цю технологію кожному, усунути бар’єри для створення, виконання нових завдань і підштовхнути людей вирішувати проблеми, які їх справді цікавлять.

3. Ми більше не просто зупиняємося на етапі володіння примітивними знаннями, а переходимо до другого етапу, керуючи машиною для виконання завдань, які ми їй ставимо, і діємо відповідно до соціальних цінностей.

4. Ми створили культуру справжньої уваги до деталей і намагання зробити їх правильними, що приваблює дуже ретельні інженерні та наукові дослідження з боку тих, хто хоче працювати таким чином.

5. Я вважаю, що надлишок і чиста енергія може принести користь іншим чином, ніж просто вирішення кліматичної кризи, і що інвестиції в енергетику важливіші, ніж інвестиції в будь-який інший внесок, який я можу придумати. Фінансування фундаментальної зміни вартості придбання енергії – чудова річ.

6. ШІ — це інструмент підвищення продуктивності для кожного, який зробить наших найкращих вчених кращими та просуватиме наукові дослідження.

На які галузі вплине ШІ в найближчі 3-10 років

**Модератор:**Почнемо з найпростіших питань. Чи можете ви коротко представити, яка місія вашого OpenAI? Яка мета всіх ваших рішень? **Альтман: Ми наполегливо працюємо над розробкою корисного та безпечного загального штучного інтелекту для всіх людей. **Це безпрецедентний проект, я знаю, як важко це зробити, ми зробимо багато помилок на цьому шляху, але це той напрямок, якого ми дотримуємося. Я твердо вірю, що штучний інтелект стане найбільш трансформаційною технологією, яка коли-небудь була розроблена людьми, у певному сенсі він допоможе нам розвивати всі майбутні технології, а майбутнє світле.

Брокман: Приблизно 8 років тому, коли ми запустили OpenAI, я справді вірив, що штучний інтелект з’явиться, і знав, що для цього знадобиться багато часу, але думав, що у нас є можливість вплинути на це технологія Я дуже радий своїй роботі. Наше бачення полягає в тому, що AGI є корисним для всього людства, і ми намагаємося досягти цієї мети різними способами.

На початку ми мали цей ідеал, але ми не знали, як поєднати його з практичними діями. Після років наполегливої роботи ми зрозуміли, як побудувати систему, яка дійсно працює, і як інтегрувати наші цінності в цю систему. Протягом останніх кількох місяців ми були раді, що наша технологія повільно стає основною, і що люди починають пожинати переваги нашої технології. **Ця технологія все ще перебуває на ранніх стадіях, і ще багато чого потрібно зробити, але ми твердо переконані, що кожен має бути залучений і мати можливість висловитися. ** З’ясувати, як насправді досягти ефективного глобального управління, так само важливо, як і розвиток технологій.

Модератор: Близько 1 мільярда людей у світі належать до середнього класу з кращими економічними умовами. Вони також вільно використовують штучний інтелект для роботи та навчання. Тож як штучний інтелект може принести користь решті 7 мільярдів людей?

**Брокман: Важливою особливістю розробленого нами штучного інтелекту є те, що немає обмежень доступу, і кожен може отримати доступ і використовувати цю технологію, вводити свої переваги та відгуки в систему та використовувати її для покращення свого життя, тобто початковий намір нашої розробки цієї технології. **

Зараз є багато питань, як ця технологія працюватиме. Наша компанія має особливу структуру, вона є некомерційною організацією, тому, якщо капітал сильно зосереджений в OpenAI, він не буде належати акціонерам, а належатиме компанії та, зрештою, розподілятиметься по всьому світу. Коли прибуток розподіляється по всьому світу, UBI (універсальний базовий дохід) можна вважати таким чином і розподіляти ресурси. **По суті, ми хочемо надати цю технологію кожному, усунути бар’єри для створення, виконання нових завдань і спонукати людей вирішувати проблеми, які їх справді цікавлять. **

**Альтман: Будь-яке справді стійке економічне зростання відбувається завдяки технологічному прогресу, а соціально-політичне управління та культура можуть допомогти нам досягти технологічного прогресу. ** Тому ми просуваємося, як допомогти іншим 7 мільярдам людей. У майбутньому наші технології підуть далі. Я вірю, що технології є ключем до покращення якості життя для кожного.

**Модератор:**Яку допомогу ШІ може надати у сфері освіти?

**Брокман:**Якби я не заснував компанію зі штучним інтелектом, я б заснував компанію з навчання програмуванню. Лише уявіть, якщо майбутнє може дати дітям вчителя, який дійсно їх розуміє, знадобиться час, щоб познайомитися з ними, знає, як їх мотивувати, і цей учитель доступний 24/7 безкоштовно, чи не так звучить дуже добре.

Ви можете поглянути на такі заклади, як Khan Academy [некомерційний навчальний заклад], вони справді почали використовувати GPT-4 і впроваджувати його в класі, і вони з’ясували, як спрямувати цю технологію, щоб вона стала корисним наставником. Якби діти попросили його «допомогти мені з домашнім завданням», він відповів би «ні, я не можу цього зробити». А також намагаємося з’ясувати, чим цікавляться діти, і як справді мотивувати їх робити більше, і зараз ми підходимо до того, як отримати від цього максимум.

**Модератор:**Багато людей можуть сказати, що зараз існує Khan Academy, і є ще багато онлайн-курсів, але те, що ви висунули, це лише ідеї, а реальних продуктів немає. Як ви вважаєте, ваша продукція ще потрібна неосвіченим людям?

Брокман: Зараз ми отримуємо освіту через тих розумних людей, які навчають нас знанням і методам вирішення проблем. У майбутньому, якщо з’явиться машина, яка буде розумнішою за людей, чи стане це зручнішим . **Ми розробили багато віртуальних помічників, як-от Alexa (розумний помічник, запущений Amazon) і Siri (помічник зі штучним інтелектом, запущений Apple), але для вирішення деяких проблем, які вимагають мислення, цього все ще недостатньо , нам потрібні більш передові технології, щоб покращити нашу здатність мислити та вирішувати проблеми. **

Безсумнівно, такі функції, як GPT-4, бачили всі. **Ми більше не просто залишаємося на етапі володіння оригінальними знаннями, а переходимо до другого етапу, керуючи машиною для виконання завдань, які ми призначили, і відповідно до Social цінності діють. **Усі ці технології наразі досліджуються та розробляються нами. Наступний етап тестування технології та продукту відбудеться протягом наступних кількох років, оскільки використання технології продовжує розширюватися.

**Модератор:**На які галузі вплине ШІ в найближчі 3-10 років?

Брокман: Я думаю, що цю технологію можна застосувати в юридичній галузі, і вона може принести багато переваг, надаючи юридичні послуги. Моєю улюбленою послугою від GPT-3 є інструмент під назвою Augrented, який допомагає орендарям, які отримують повідомлення про виселення, розібратися в питаннях договору. Оскільки в цій демографії є багато людей, які не обов’язково мають доступ до адвоката, ця технологія може допомогти їм робити те, чого вони інакше не змогли б. Це один із дуже ефективних випадків використання, які ми бачили.

Модератор: Зараз на ринку є приказка, що штучний інтелект покращує людський інтелект. Наприклад, GPT-4 можна використовувати для написання книги. Що ви думаєте про це?

Альтман: Я дуже згоден з цим твердженням, і це напрямок, який ми робимо все можливе для просування. Я побачив твіт, який мене вразив: **Хтось сказав, що ніколи не думав, що буде співіснувати з таким потужним інтелектом, як GPT-4. Ви опинитеся глибоко в царстві AGI, і виявляється, що цілком можливо створити ШІ, який справді добре посилює людську волю та робить нас сильнішими. **Це зробить нашу роботу ефективнішою та кращою. Більше того, виявляється, людям це дуже подобається. Для мене найбільше задоволення від **OpenAI полягає в тому, що люди люблять його продукти та отримують від них усілякі несподівані переваги. **

"Ми дуже працелюбна організація"

Модератор: Коли ваша команда OpenAI досліджує та розробляє такі продукти штучного інтелекту, як ChatGPT, чи були ви сюрпризи?

**Брокман: Перший сюрприз сягає 2017 року. У той час ми підготували цю статтю під назвою «Емоційні нейрони без контролю», але вона не привернула особливої уваги. Але це для нас справжній прорив, і нам дійсно потрібно продовжувати цю парадигму. **Ми навчили модель передбачати наступного персонажа в огляді Amazon, і вона змогла дізнатися, де іменники, а де дієслова, але що ще більш дивно, вона навчилася найсучаснішого аналізу настроїв і класифікації, які може визначити позитивний чи негативний ваш коментар. Ми ніколи не повідомляли машині значення цих мов, вона якось це зрозуміла, виконуючи це завдання. **Машинне навчання не є досконалим, нам ще попереду довгий шлях, поки що на початку, але ми можемо почати вирішувати проблеми. **

Для мене дуже важливо дозволити більшій кількості людей відчути радість програмування. Люди, які ніколи раніше не програмували, можуть увійти в поле, а ті, хто вже є хорошими програмістами, можуть виконувати більш творчу діяльність. Досягнення цих умінь і рівня може пришвидшити наш робочий процес кодування.

Модератор: Чи можете ви розповісти про те, як пришвидшити кодування?

Брокман: Під час процесу кодування ми витрачаємо багато часу на те, щоб запам’ятати, які саме бібліотеки виконують те, що ви шукаєте, як їх реалізувати та які параметри. А ви хочете створити систему чи програму, це складне завдання, попередній Copilot (допоміжний інструмент програмування) — це просто шаблон, вони лише назустріч. Зараз модель починає вдосконалюватися, і якщо ви мало знаєте про певну мову програмування або якщо ви не знаєте певного набору бібліотек, модель із задоволенням це забезпечить. Цікава річ у GPT-4 полягає в тому, що він може вказати, де кодування неправильне, і ці повідомлення про помилки іноді є загадковими, і вам потрібно копатися в пошуках відповідей, наприклад, переглядати різні веб-сайти, намагаючись зібрати з чогось іншого люди сказали, тепер GPT-4 може допомогти вам вирішити ці проблеми.

**Модератор:**Альтман, яке ви були здивування?

Альтман: Я процитую цитату Ноама Шазіра (засновника Character.AI): «Ми не пояснюємо, чому ці архітектури, здається, працюють, ми приписуємо ці результати милості Бога». Для мене це A тема, що повторюється, **Я вважаю себе емпіриком, я вважаю, що якщо щось працює, чим більше ви це робите, тим краще буде. ** «Афективні нейрони без контролю», про які Грег щойно згадав, були дуже великою несподіванкою, і тепер деякі речі, які робить GPT-4, починають пояснювати, чому ШІ повинен працювати. Я повністю вірю в штучний інтелект і думаю, що він далеко зайде. **Перед тим, як ми запустили OpenAI, я був вражений, коли побачив результати AlexNet (конволюційної нейронної мережі). **

Модератор: Маючи лише кілька сотень людей, ви перевершили рівень, якого може досягти лише найбільша у світі технологічна компанія. Це потребує багато наполегливої роботи та трохи удачі. Мені цікаво знати, що спонукає вас досягти цієї мети? Чи є в OpenAI ключові лідери?

**Альтман: Ми робимо багато речей, деякі навмисно, деякі на щастя. Одним із важливих факторів є те, що ми вибудували культуру справжньої уваги до деталей і намагання зробити їх правильними, залучаючи дуже ретельні інженерні та наукові дослідження тих, хто хоче працювати таким чином. Ще одна причина полягає в тому, що я вважаю, що ми дуже прагнемо до правди, знаходимо те, що працює, і робимо більше. **

Коли ми започаткували OpenAI, ми відрізнялися від інших дослідників штучного інтелекту, які існували в цій галузі, у них були інші системи заохочення, і речі, які слід було розглянути, були розпорошеними, і ми взяли на себе дуже зосереджений ризик, роблячи те, що на той час вважалося неймовірним. Ми вклали більшість наших ресурсів у цей проект, і, незважаючи на ризики, ми ретельно вивчили його та впевнені, що зможемо досягти результатів.

**Брокман:**Моя ідея полягає в тому, щоб почати з «перших принципів». У перші дні Ілля (головний науковий співробітник OpenAI) дебатував зі мною по годині або близько того щодня. Наприклад, у нас була довга дискусія про те, кого нам найняти, чи варто найняти традиційного доктора філософії з машинного навчання, чи нам найняти інженера-програміста, який ніколи цим не займався, чи когось посередині? Для кожного рішення ми повинні бачити його наслідки, а потім продовжуватимемо вивчати та оновлювати.

Ми не можемо знати все наперед, але ми можемо вчитися на практиці. Так само, як OpenAI-Five, який ми розробили та продовжуємо розширювати його масштаби, в ігровій конкуренції Dota2 він зовсім не відстає. (Примітка: OpenAI-Five, штучний інтелект, який може грати в ігри Dota2, Dota2 — це багатокористувацька онлайн-гра на бойовій арені з великою кількістю фанатичних шанувальників. У 2018 році вони кинули виклик команді чемпіонів світу OG team з усіх сил.)

Це наша перша система, яка дійсно масштабується, і система стає кращою щотижня, оскільки ми використовуємо в ній більше обчислювальної потужності. Наша мета полягає в тому, щоб вичерпати простір існуючих алгоритмів, щоб ми могли розробляти нові алгоритми, що ми дійсно хочемо зробити. Коли ви намагаєтеся рухатися в цьому напрямку, інший напрямок тягне вас вперед і каже, що це працює. ** Реагувати на те, що ми бачимо перед собою, постійно оновлювати, повертати, змінювати, дуже важливо з технічної точки зору. **

Альтман: Коли ми розширювали проект OpenAI-Five, практично ніхто не думав, що він буде успішним. Той факт, що ви можете докласти будь-яку кількість обчислень до системи штучного інтелекту, щоб досягти бажаного рівня інтелекту, і це охоплює неймовірний діапазон обчислень та інтелекту, це як дивовижне наукове відкриття.

Брокман: Ми також розглядали алгоритмічні досягнення, поєднуючи найкращі системи з найкращими алгоритмами, і народилися такі системи, як GPT-4. **Коли ми думаємо про цю проблему, ми розуміємо, що якщо вся інформація графічного процесора вводиться в ланцюжок поставок нового алгоритму або навіть завантажується в великомасштабну систему обробки даних, то це великий проект і жодна компанія не зможе зробити це сама. У певному сенсі, це фактично людський проект, який залучає багато компаній. **

«Штучний інтелект — інструмент продуктивності для всіх»

Модератор: Альтман, хтось написав вам твіт: «Наступне, що ви збираєтеся сказати, це те, що ми повинні регулювати штучний інтелект». Ви відповідаєте: «Так, ми повинні регулювати штучний інтелект». Розумно». чи думаєте ви про багатьох людей, які кажуть: «Ви, хлопці, рухаєтеся надто швидко», що ви думаєте про регулювання, глобальне управління чи залучення талантів?

Альтман: Я розумію хвилювання та страх кожного. Люди бояться швидкості технологічних змін. Ми також погоджуємося діяти обережно та посилювати регулювання штучного інтелекту, але немає сенсу зупиняти дослідження.

**Що нам дійсно потрібно зробити, це з’ясувати, які регулятивні підходи, правила та стандарти безпеки справді працюють у контексті безладної реальності. Швидкість, з якою змінюється світ, має бути відносно постійною, а не створювати AGI таємно, а потім у якийсь момент негайно оприлюднювати його. **Інституції не стають чудовими за одну ніч, вони повинні поступово ставати частиною технологічного розвитку, надавати критичний зворотній зв’язок науковим дослідженням, повідомляти нам, коли допускаються дурні помилки, визначати сфери великої користі та потенційної шкоди, робити помилки та вчитися на них коли ризик нижчий за очікуваний.

Брокман: Ми дійсно намагаємося це зрозуміти. **Коли ми засновували OpenAI, ми дійсно думали про те, як розробити безпечний AGI, який визначає, чи принесе він користь всьому людству. Тут є дві проблеми: одна – це технічна безпека, а інша – соціальна безпека. Необхідно забезпечити безпечне використання технологій штучного інтелекту. **

Я відносно технічний, тому зосереджуся на вирішенні першої проблеми. Ми розпочали розгортання протягом останніх чотирьох чи п’яти років, і коли GPT-3 має проблеми, ми виправляємо його так, як GPT-3 розповсюджувався, використовуючи фільтри та втручання не на рівні моделі. Тепер, коли наша технологія дозріває, щоб фактично мати можливість втручатися на рівні моделі, GPT-4 може автоматично розуміти результати в моделі, тому він дуже добре виконує фільтрацію безпеки.

Модератор: Одним із закидів штучного інтелекту є використання енергії. Альтман, ви думаєте, що в майбутньому буде не лише нескінченний інтелект, але й нескінченна енергія, ви вклали значні кошти в Helion Energy (компанію, що займається виробництвом чистої енергії), чи можете ви сказати, чому ви інвестували в це і яких результатів очікуєте?

Альтман: Я не думаю, що в майбутньому ШІ буде нескінченний інтелект чи енергія. Я думаю, що це має бути падіння цін і збільшення багатих продуктів. Ми не можемо досягти цього рівня нескінченності. Я вважаю цю енергетичну критику систем ШІ вульгарною. **Я вважаю, що надлишок і чиста енергія має інші переваги, ніж просто вирішення кліматичної кризи, і що інвестиції в енергію є важливішою річчю, ніж інвестиції в будь-який інший внесок, який я можу придумати. Фінансування фундаментальної зміни вартості придбання енергії – чудова річ. **Helion працює над цим, і я сподіваюся почути хороші новини наступного року.

**Модератор: **Брокман Ми розуміємо, що ви інвестуєте в деякі компанії в галузі охорони здоров’я та розробки ліків. Що ви думаєте?

Брокман: В рамках OpenAI є фонд, який інвестує в деякі технологічні стартапи. Такі стартапи, як Ambience Healthcare (компанія штучного інтелекту в галузі медицини), насправді намагаються застосувати ШІ до реальної медичної діяльності. Навіть Microsoft починає впроваджувати свою стратегію штучного інтелекту в галузі охорони здоров’я через Nuance (компанію програмного забезпечення штучного інтелекту). Якщо подумати про те, з якими проблемами стикаються лікарі, багато з них адміністративні. Обоє моїх батьків були лікарями, і я чув усі історії про те, як їх змушували використовувати iPad для спілкування з пацієнтами. **Ми переходимо у світ, де ми можемо переглядати миттєві стенограми Nuance інформації про лікаря та отримувати нотатки лікаря після факту, зменшуючи обсяг зусиль для пояснення лікаря родині пацієнта та дозволяючи лікарю справді зосередитися на догляд за пацієнтом. **

Ми вже бачили переваги людей, які використовують ChatGPT для відвідування лікаря в Twitter. Ще одна людина через ChatGPT врятувала життя своєму псу. Повідомлялося, що він звернувся до ветеринара, але ветеринар не надав йому своєчасної допомоги. Користувачі мережі з тривогою завантажили медичну документацію в ChatGPT. Однак ChatGPT досить впевнений у тому, що «я не ветеринар, вам потрібно поговорити з ветеринаром». Однак йому також дали кілька порад і пояснень, які додали йому впевненості піти до другого ветеринара. Я думаю, що це дійсно цікавий приклад, тому що він справді вказує на проблему того, як ми хочемо, щоб ШІ втрутився. Люди дуже залежні від лікарів у галузі медицини, але люди також роблять помилки, і перший лікар прийняв неправильне рішення, яке могло мати фатальні наслідки. Тож з’ясовувати, як отримати належний нагляд з боку потрібних людей.

Модератор: Ви інвестуєте в компанії, які використовують вашу платформу через OpenAI, чи зміниться це? Чи будуть інші компанії використовувати ваш API (інтерфейс виклику програми)? Цікаво дізнатися, який найкращий спосіб використовувати ШІ, щоб покращити всі галузі?

Альтман: Зараз ми бачимо, що люди скрізь викликають API OpenAI, і оскільки модель стає дедалі розумнішою, можливості продуктів і послуг можна постійно вдосконалювати, тому ми можемо впевнено відповісти на це запитання, і ця ситуація буде продовжувати.

**Модератор:**Що, на вашу думку, принесе використання штучного інтелекту або сучасної технології штучного інтелекту для наукових досліджень протягом 3-10 років?

**Брокман:**Геній китайської математики Теренс Тао нещодавно сказав, що GPT-4 прискорив його швидкість. Теренс Тао — відомий математик. Він сказав, що використання GPT-4 для написання запитів на фінансування в деклараціях проектів може принести велику допомогу та вирішити деякі нудні завдання. Насправді люди щодня витрачають багато часу та енергії на монотонні та повторювані завдання. Найрозумніші люди у світі витрачають стільки свого часу на цю не надто творчу роботу, що це така трата. ШІ може допомогти їм вирішити ці неважливі виснажливі завдання, звільнивши людей робити справді цінні речі, і вони зможуть досягти більшого.

**Альтман: Так, я вважаю ШІ — це інструмент підвищення продуктивності для всіх, який зробить наших найкращих вчених кращими та просуватиме наукові дослідження. **Зрештою, ці системи можуть допомогти нам зберігати більше знань, ніж людський мозок, і відкривати нові зв’язки, нові ідеї тощо.