Діалог: Чжан Пен, Лі Чжіфей
Планування: Вей Шицзе, Лі Шіюн
Джерело зображення: створено Unbounded AI
Тридцять років тому, коли Інтернет був лише зародковим і навіть персональні комп’ютери були рідкісним явищем, один автор технологій розпочав власний передовий роумінг у всіх сферах життя того часу. Спілкуючись з деякими з найяскравіших умів світу, він бачив частину майбутнього, кульмінацією якого стане книга «Поза контролем» (1994). Поки більше десяти років потому, коли настала ера мобільного Інтернету та смартфонів, люди з подивом виявили, що останні концепції «глобального інформаційного взаємозв’язку, розподілених систем, цифрової валюти, хмарних обчислень тощо» давно були передбачені цим книга.
Технічним автором є Кевін Келлі, також відомий як KK. Засновник журналу "Wired", технологічний оглядач і "пророк". У 2010 році була запущена китайська версія «Поза контролем», і KK також почав серію візитів до Китаю, і поступово став знайомим китайцям.
Стоячи на сьогоднішньому вузлі, загальний штучний інтелект (AGI) проростає, і революція часу ось-ось розпочнеться, що ледь помітно перегукується з пророцтвом у книзі «Поза контролем». У той час К. К. передбачив, що люди з часом об’єднаються з машинами, «машини стають біологічними, а організми створюються». За його власними словами, «Поза контролем» говорив лише про одне, а саме про те, як створити «складну систему» — роботів, штучний інтелект (ШІ) тощо можна розглядати як складні системи, і він вважає, що ця ідея застосовний і сьогодні.
Нещодавно ми розмовляли з KK разом із Лі Чжіфеєм, засновником і генеральним директором великої модельної стартап-компанії Going out to ask.
Перший розглядається з практичної точки зору технологій і бізнесу, а другий — з абстрактної точки зору людей, історії та навіть Всесвіту, обговорюючи зростання, вплив і загрозу штучного інтелекту. Це скоріше «наукова фантастика» та «фантастична» дискусія. Ми знову намагаємося «передбачити» майбутнє людини та штучного інтелекту.
Обидва стверджують, що вперше в історії людства сучасний штучний інтелект набув схожих на життя форм. Лі Чжіфей сказав, що нинішній ШІ вже еквівалентний IQ людської дитини та має справжні загальні інтелектуальні здібності, такі як знання, логіка, міркування та планування. І KK вірить, що як «життя на основі кремнію» штучний інтелект буде таким же адаптивним, як і люди, і зможе навчатися та розвиватися самостійно.
Дуже схожим чином вони обидва сприймають технологічний оптимізм. KK вважає, що штучний інтелект не зробить людей безробітними, він лише зробить людей більш ефективними та звільнить їх від «огидних» робіт. Здається, штучний інтелект збільшує прірву між багатими та бідними, але він, швидше за все, досягне чесності та справедливості, зробивши пиріг більшим і кращим, як і будь-яка технологічна зміна в історії людства. З точки зору впливу на бізнес, це розширить можливості окремих осіб, малих і середніх компаній і великих компаній одночасно.
Як сказано в назві книги «Поза контролем», Кевін Келлі вважає, що для того, щоб краще отримати потужність ШІ, люди повинні дозволити частинам ШІ «вийти з-під контролю». Зрештою, ChatGPT народився в стані «виходу», який вийшов з-під контролю з боку людини. І він, і Лі Чжіфей вважають, що нинішній інтелект штучного інтелекту все ще незрілий, і люди повинні продовжувати відпускати, а не передчасно та надмірно контролювати (наглядати). Останнє може придушити інновації в зародку.
Якщо розглядати довше, якщо одного дня штучний інтелект справді стане суперформою життя, як люди мають з цим ладнати?
І наукова фантастика, і фільми малюють похмуре майбутнє, яке часто закінчується пробудженням ШІ, щоб вбивати людей. Але Кевін Келлі вважає, що це прояв відсутності у людини фантазії. Невдачу завжди легше уявити, ніж успіх, і це також спокусливо для історій. Що стосується майбутнього, то неважко уявити переваги та цінність штучного інтелекту.
Його припущення полягає в тому, що ШІ можна розглядати як «штучного прибульця», і люди зможуть використовувати мудрість ШІ для вирішення власних проблем і досягнення певного ступеня «контролю». Лі Чжіфей вважає, що як «предки» ШІ люди згодом зіллються з ШІ замість того, щоб контролювати його.
Щодо того, чи справдиться це пророцтво, це залежить від світу через 5000 днів.
Подаємо повний текст розмови:
01 Навіть якщо OpenAI не створив ChatGPT, інші компанії незабаром зроблять це
**Чжан Пен: Незалежно від Китаю чи Сполучених Штатів, останнім часом люди обговорюють великі моделі. Як ви ставитесь до цієї хвилі технологічних змін у великих моделях? Ви будете дуже шоковані? **
Кевін Келлі: Штучний інтелект (ШІ) існує десятиліттями. Великий стрибок уперед стався, коли моделі ШІ почали використовувати нейронні мережі та глибоке навчання, і вони ставали все більшими й більшими. Близько 4-5 років тому він почав виробляти дуже великі моделі трансформерів (моделі глибокого навчання з механізмом самоуважності). За останні два роки він почав взаємодіяти з великими мовними моделями.
Насправді останнім часом велика зміна в ШІ полягає не в його здатності, і його продуктивність у цьому відношенні не набагато краща. **Що дійсно змінилося в штучному інтелекті останнім часом, так це те, що він дозволяє нам мати розмовний інтерфейс користувача, який може фактично спілкуватися зі штучним інтелектом (природною) мовою. До цього людям потрібно було отримати багато знань з програмування та бути дуже досвідченими, щоб використовувати ШІ. Але тепер раптом усі використовують ШІ. Це справді захоплююча частина. **
Лі Чжіфей: Я погоджуюся з тим, що сказав КК, головною зміною в поточній моделі великої мови є покращення можливостей взаємодії природної мови. Це справді те, що відчувають багато звичайних людей, і саме завдяки цьому ChatGPT сьогодні має такий великий соціальний вплив.
Але я вважаю, що сьогодні також існує багато варіацій у можливостях великих моделей, і саме ця варіація робить можливою їх природну взаємодію. Тому що для реалізації природної взаємодії ШІ повинен мати міцні знання, здатність розуміти, володіти мовою, міркувати та планувати тощо. ШІ повинен мати прорив у цих базових можливостях, щоб досягти взаємодії природної мови.
І я думаю, що здатність великих моделей у майбутньому буде не лише природною мовною взаємодією. Такі речі, як написання програм, процеси автоматизації підприємств і автоматизація роботів, не є інтерактивними, але вони стануть можливими в майбутньому.
**Чжан Пен: Я цілком згоден, що здатність штучного інтелекту краще спілкуватися з людьми призведе до зміни парадигми в технологіях і бізнесі. Якщо ChatGPT — це друга крива розвитку ШІ, його поява неминуча чи випадкова? **
**Кевін Келлі:**ChatGPT здатний перевершити всі очікування. **Я не думаю, що ніхто очікував цього, включаючи людей у сфері ШІ. Насправді більшість дослідників не знають, як працює ChatGPT, і вони намагаються його вдосконалити, але це важко, оскільки вони не знають, як це працює. Тому поява ChatGPT була випадковістю. **
Хоча ChatGPT дуже дивує, ми також бачимо його обмеження. **Основним обмеженням є те, що модель навчалася на середньостатистичному вмісті, створеному людьми, тому вона, як правило, дає середні результати. І ми часто хочемо не середнього, а чогось вище середнього. **Це важко зробити.
По-друге, ці моделі оптимізовані для правдоподібності, а не для точності. Тому, як зробити їх більш точними, є серйозною проблемою, з якою зараз стикаються всі.
Лі Чжіфей: Я думаю, що поява ChatGPT випадкова в короткостроковій перспективі, але неминуча в довгостроковій. Можна сказати, що OpenAI створив ChatGPT наприкінці минулого року випадково, але навіть якщо він цього не зробив, інші компанії скоро це зроблять. **
Це повторювалося незліченну кількість разів в історії технологій. Беручи приклад глибокого навчання, AlexNet був першим, хто створив анотації зображень у 2012 році, але в той час багато команд із сильними переконаннями та інженерними можливостями також робили це.Якщо AlexNet не встигне, це зроблять інші. Крім того, у 2017 році Google створила трансформатор, щоб вирішити проблеми низької масштабованості моделей послідовності, таких як RNN і LSTM. Якщо Google не встигне, це зроблять інші команди.
**Тепло народження ChatGPT полягає в тому, що трансформатор уже дуже зрілий, і ми маємо потужну обчислювальну потужність для навчання масивних даних Інтернету. Усі необхідні елементи ChatGPT уже доступні, і його народження неминуче. **Просто OpenAI зібрав це найкраще на той момент.
**Чжан Пен: Говорячи про неминучість і випадковість, я згадав слово, яке останнім часом було дуже популярним, «виникнення». У «Поза контролем» КК це слово зустрічалося щонайменше 88. Як розуміти значення цього слова сьогодні? **
Кевін Келлі: З англійської точки зору, «виникнення» — це термін, який стосується поведінки системи, цілої групи взаємопов’язаних речей, таких як Інтернет, роботи, тіла, екосистеми чи навіть цілі Світ, поведінка якого не міститься в поведінці якоїсь окремої частини. Наприклад, вулик може запам’ятовувати речі, що перевищують час життя однієї бджоли, тому сам вулик має поведінку, здатність і силу, яких немає у окремих частин. Ми називаємо це «появою».
Подібним чином, велика частина штучного інтелекту, який генерується, також є «новою». Оскільки в моделі немає жодного місця, яке б пояснювало, звідки вона взялася, потрібні всі частини, щоб працювати разом, щоб створити цю нову здатність. Подібно до того, як у нашому мозку немає «думки», «думка» «виходить» із усього нейрона. **Такі речі, як мислення, еволюція та навчання, можуть «виникати» з системи.
**Лі Чжіфей:**Я розумію «виникнення» з книги «Складність», де йдеться про «більше є різним» і «більше є різним». Як у старій китайській приказці, «кількісні зміни ведуть до якісних». Вперше велика модель заговорила про «виникнення» в статті, опублікованій Стенфордом і Google наприкінці минулого року. За допомогою експериментів вони виявили, що при збільшенні розміру великої моделі, коли досягається певна критична точка, вона раптово «виникає» в певній якості.
Тепер я відчуваю, що слово «поява» насправді вживається надмірно. Оскільки ми не можемо пояснити, звідки походить здатність великої моделі, ми називаємо це «виникненням». Це слово неможливо пояснити чи змінити, і воно не допомагає нам тренувати та застосовувати велику модель. Тепер усі більше не вивчають «виникнення», а більше досліджують кількісний зв’язок між кількістю параметрів великої моделі та кінцевою продуктивністю, що може бути більш корисним для нас, щоб зрозуміти та контролювати велику модель.
**Чжан Пен: Чи можемо ми зрозуміти, що «поява» призведе до «втрати контролю»? **
Кевін Келлі: Це розуміння не зовсім вірне. Звичайно, він матиме «неконтрольовані частини», якщо ви хочете мати можливість використовувати силу «виникаючої» поведінки, можливо, вам доведеться терпіти деякі речі поза вашим контролем. Зараз наше розуміння та контроль над цим може бути недостатнім для ШІ, але це насправді необхідно для досягнення оптимальних результатів.
Але в той же час ми не можемо дозволити всьому «вийти з-під контролю», ми повинні здійснювати певний ступінь «контролю», тобто направляти і управляти штучним інтелектом. Знову ж таки, ми не хочемо бути надто обмеженими, але певний рівень контролю має бути досягнутий. Хоча ми, швидше за все, ніколи не матимемо повного контролю над ними, особливо з більш потужним штучним інтелектом, ми, ймовірно, ніколи повністю не зрозуміємо, як вони працюють. Це компроміс.
**Чжан Пен: Минуло багато років відтоді, як ви написали книгу «Поза контролем». На сьогоднішній момент у поєднанні з цією хвилею революції ШІ, чи вважаєте ви, що є якась частина «Поза контролем», яка варта повторне калібрування? **
Кевін Келлі: Мені здається, я не надто багато говорив про штучний інтелект і неконтрольованість у книзі «Поза контролем», насправді в основному говорилося про те, як перетворити прості речі на складні. Є щось, що називається архітектурою підсистеми Родні Брукса, де згадується, що ви можете створити складного робота, вставивши в нього частини інтелекту. Процес, який призводить до ускладнення, полягає в тому, що ви накладаєте речі поверх речей, які вже працюють. (Теорія архітектури Брукса передбачає, що поведінка вищого рівня повинна містити поведінку нижчого рівня).
**Як комаха, навіть якщо ви відріжете їй голову, вона все одно може ходити, тому що функція ходьби частково завершена. Подібно до того, як наш мозок має ядро, яке відповідає за дихання та інші вегетативні функції, ми додаємо більше рівнів складності поверх нього. Ця ідея актуальна й сьогодні, коли люди створюють роботів і штучний інтелект і намагаються зробити їх складнішими. **Насправді це єдине, про що я говорю в «Поза контролем», і я думаю, що суть все ще стоїть.
**Чжан Пен: Пам’ятаю, у вас раніше була цікава перспектива, тобто «припускаючи, що технологія — це своєрідне життя», коли вона з’являється з інтелектом, близьким до людського, чого вона захоче далі? Як це вплине на діловий світ і людське суспільство? **
**Кевін Келлі:**Технології — це те, що я називаю «сьомим царством життя». Ми прискорили еволюцію життя в «суху» сферу, яка більше не потребує «вологого» середовища, але може існувати в кремнії. Ми можемо використовувати свій розум для створення інших схожих на життя технологій. Вони здатні адаптуватися, можуть вчитися та рости.
Я хочу сказати, що технології в основному прагнуть до тих же речей, що й життя. Наприклад, у міру еволюції вони збільшаться в різноманітності, а також стануть більш спеціалізованими та специфічними. Наше тіло має 52 різні типи клітин, включаючи клітини серця, кісток і кісток. Ми також створимо спеціалізовані ШІ, які будуть виконувати конкретні завдання, такі як переклад мови, генерація зображень і автономне водіння. **Крім того, технології стануть складнішими, як життя, що очевидно.
Зрештою, технології також будуть «взаємовигідними та симбіотичними», як життя. Життя розвинулося настільки складно, що воно контактувало лише з іншим життям, а не з неживим матеріалом. Як бактерії у вашому кишечнику. Вони оточені лише іншими живими клітинами. ** У майбутньому також з’являться деякі ШІ, які не призначені для людей, а призначені для обслуговування інших ШІ. Наприклад, будуть штучні інтелекти, призначені для підтримки інших штучних інтелектів, які спілкуються лише з іншими штучними інтелектами. **
**Лі Чжіфей:**Я хочу пояснити зв’язок між ШІ та життям з точки зору інженера. Кілька років тому багато людей завжди запитували мене: «Скільки років IQ Alphago (першої комп’ютерної програми, яка перемогла чемпіона світу з Го)?» Тоді мені не подобалися такі питання, тому що я міг не відповідай. У той час, хоча ШІ міг грати в Go і мав високий IQ, він не міг вести розмови природною мовою, як 3-річна дитина. На той час його механізм кардинально відрізнявся від людського.
Але сьогодні я особливо люблю порівнювати ШІ з дитиною. Я вважаю, що суть полягає в тому, що сьогоднішній ШІ вже володіє справжніми здібностями загального інтелекту, якими володіють діти, такими як знання, логіка, міркування, планування тощо. **Тож я хочу сказати, що сьогоднішній ШІ більше схожий на живе тіло. Він має IQ 5-річної дитини та знання професора коледжу, а також новонародженої дитини, залежно від того, чи бачив він дані. **
Виходячи з цього розуміння, я думаю, що нам потрібно переосмислити, чого насправді хоче ШІ. У 5-річної дитини спочатку відбувається самоочищення, а потім самовідтворення та співпраця. Я сам не маю хорошої відповіді на це запитання.
02 Протягом наступних 5000 днів ми пройдемо через вузький і терміновий перехідний період
**Чжан Пен: Коли можливості штучного інтелекту швидко зростають, багато звичайних людей відчувають тривогу та страх, що вони втратять конкурентоспроможність. Чи є у КК якісь думки та пропозиції з цього приводу? **
**Кевін Келлі:**Хоча технологія штучного інтелекту розроблялася протягом 20 років, люди вважають, що вона досягла успіху за одну ніч, і стурбовані темпами її зростання та можливостями. **Ми завжди схильні уявляти найгірші сценарії, а не найкращі. Я думаю, що один із способів впоратися з тривогою щодо змін – це озирнутися назад. Насправді люди мали такий вид тривоги в минулому, але ніколи не в найгіршому випадку, який ми собі уявляли. Ймовірно, так буде і цього разу. **
Найкращий спосіб, який я знайшов, щоб впоратися зі своїми тривогами, це спробувати використати їх. Я вважаю, що більшість занепокоєння походить від тих, хто не використовував ШІ, і вони зберігають відчуття дистанції до ШІ. Насправді, як тільки вони почнуть пробувати і використовувати його, вони побачать, що ШІ має як переваги, обмеження, так і шкоду. Це зменшить їхню тривожність.
Лі Чжіфей: Якщо AGI не станеться сьогодні, це станеться завтра. Оскільки його неможливо зупинити, ви повинні прийняти і зрозуміти це. Зараз для мене AGI є розумним партнером. Я буду говорити з ним про багато проблем. Його знання дуже вичерпні, і він може дати мені пораду з широкої та всебічної точки зору. Я думаю, що це може бути хорошою формою сприйняття ШІ людиною.
У той же час ми бачимо, що сьогоднішнім великим моделям все ще бракує деяких критичних можливостей справжнього AGI. Наприклад, здатність до логічних міркувань і планування складних завдань.Якщо ви хочете, щоб ШІ розбирав кроки і досягав мети на основі певної мети, це зараз не так добре.
**Чжан Пен: KK також є творцем контенту. Яка, на вашу думку, кінцева цінність творців, яких не можна замінити ШІ в епоху ШІ? **
Кевін Келлі: У своїх роботах я використовував штучний інтелект та інші інструменти. Я не думаю, що хтось втратить роботу через ШІ. **Тому що я не можу знайти жодного прикладу, щоб художник втратив роботу через ШІ. Це уявний страх, проблема, якої не існує. Працевлаштування, ймовірно, є найменш серйозною проблемою, пов’язаною з ШІ. **
Я хочу сказати, що те, що зникло, може бути вашою посадовою інструкцією, якою ви насправді займаєтеся, може змінитися. ** Деякі люди помітили, що 50% їхньої роботи може виконувати штучний інтелект, тоді як інші 50% будуть розширені та посилені ШІ. **Тож у майбутньому для половини роботи більше не будуть потрібні люди, а решту 50% роботи люди зможуть виконувати краще. Зазвичай це шаблон, який ми побачимо.
**Звичайно, певні види роботи зникають, як-от замовлення їжі та підрахунок грошей як касир. Ми не хочемо, щоб люди виконували цю роботу, тому вони точно зникнуть, і вони повинні зникнути. **
**Чжан Пен: Як ви оцінюєте конкурентоспроможність молодих і старих в епоху ШІ? **
Кевін Келлі: Літні люди мають багато переваг, вони добре поінформовані та досвідчені. У молоді теж багато переваг, бо вона не знає, що неможливо. Я не думаю, що хтось є більш конкурентоспроможним, ніж хто.
Я б сказав, що молоді люди сьогодні часто говорять про те, що вони є вихідцями з цифрових технологій і мають перевагу над технологіями. Але через стрімкий розвиток штучного інтелекту та іншого, молоді люди вчора можуть бути аборигенами, а завтра бути «старими». Незалежно від того, молодий ти чи старий, кожен є «новачком» у новій епосі і повинен продовжувати швидко навчатися новому протягом усього життя.
**Чжан Пен: Чи призведе це до змін у розриві між багатими та бідними? Тобто, чи будуть люди, які використовуватимуть штучний інтелект у майбутньому, більш продуктивними та конкурентоспроможними? **
Кевін Келлі: Так, розрив у багатстві збільшиться. **Я думаю, що з часом ваша здатність працювати зі штучним інтелектом може стати важливішою за те, чи йдете ви в коледж чи ні. Можливо, метою коледжу буде навчити вас працювати зі штучним інтелектом. Для дуже амбітних людей, якщо вони навчаться використовувати штучний інтелект, їх зарплата матиме велике значення. **
Однак, оскільки штучний інтелект поширюється по всьому світу, у майбутньому ми досягнемо рівного доступу до штучного інтелекту в усьому світі, як і рівного доступу до освіти. Я знаю друзів, які керують великими компаніями в США, і вони наймають співробітників, які працюють віддалено, за умови, що вони можуть, досвід роботи не має значення. Тому багато людей, які працюють у Південній Америці та Африці, отримуватимуть зарплату за американськими стандартами. Вони зароблять більше грошей, ніж за інших обставин.
**Чжан Пен: Швидкий розвиток технологій може спричинити нерівність і несправедливість у соціальній сфері. Як нам знайти баланс між розвитком і чесністю та справедливістю? **
Кевін Келлі: Я думаю, що ми можемо знайти баланс між прогресом і справедливістю. Насправді, я вважаю, що значна частина прогресу полягає в розподілі капіталу.
У порівнянні з тим, що було сотні років тому, світ був дуже несправедливим. Ти народився рабом, кріпаком чи селянином, і далі цього не було жодного шансу. Але завдяки прогресу ми тепер маємо більш рівноправний і справедливий світ. Я вважаю, що розвиток технологій може збільшити справедливість, хоча це може бути не реалізовано, це можливо.
**Лі Чжіфей:**З точки зору інженера,**якщо ви дивитеся на справедливість з кінцевої точки і сподіваєтеся, що всі мають однаковий рівень багатства та здібностей, то це безумовно призведе до дедалі більшої несправедливості. Але якщо поглянути на справедливість із початкової точки, наприклад, зробити інструменти ШІ доступними для всіх, це може бути кращим для досягнення справедливості. **
**Чжан Пен: Зараз ми бачимо, що в деяких компаніях, таких як Midjourney, компанія Vincent graph, дюжина людей може генерувати річний дохід у сотні мільйонів доларів. Чи можемо ми зрозуміти, що ШІ кардинально змінив продуктивність? Чи стануть у результаті майбутні компанії меншими та меншими? **
Кевін Келлі: Дивовижна сила, якою зараз володіють Інтернет і штучний інтелект, може одночасно розширити можливості як окремих осіб, так і великих корпорацій середнього розміру. Це полегшує окремим особам володіння компанією, тож ми побачимо багато нових компаній, які є лише ШІ та кількома людьми. Але в той же час ми також бачили, як деякі компанії стали більшими завдяки існуванню штучного інтелекту, і навіть збільшили чисельність на мільйон людей.
**Тож ми не збираємося раптово переходити у світ компаній лише з однією чи двома людьми, цього не станеться. Водночас ми принесемо користь не лише великим компаніям. У цьому краса штучного інтелекту, він може принести користь і розширити можливості для всіх. **
Лі Чжіфей: Я думаю, що ефект довгого хвоста та ефект Метью ставатимуть усе більш очевидними.
З одного боку, хвіст буде ставати все довшим, і буде з'являтися все більше маленьких компаній, які самі по собі стануть цілісною системою. З іншого боку, коли велика компанія має потужні можливості штучного інтелекту, її організаційна сила стане сильнішою. Раніше він міг організувати лише 1000 людей, але тепер він може організувати 10 000, 100 000 або 1 мільйон людей. Наприклад, індустрія доставки їжі в Китаї покладається на повний набір систем автоматизації для організації величезної групи пасажирів.
**Чжан Пен: Зараз штучний інтелект також є найактуальнішою темою в Кремнієвій долині. Багато підприємців думають про бізнес-інновації з великими моделями як основою. У КК є якісь зауваження з цього приводу? **
Кевін Келлі: Це нагадує мені перші дні Інтернету. Коли вперше з’явився Інтернет, усі компанії раптом зрозуміли, що їм потрібно вийти в Інтернет. І тепер кожна компанія використовує переваги розмовного інтерфейсу штучного інтелекту, запроваджуючи великі мовні моделі та штучний інтелект для ведення бізнесу. Одним із прикладів є Wendy's, модний фаст-фуд, де гамбургери, які тепер використовують розмовний інтерфейс, що дозволяє клієнтам замовляти їжу в машині та спілкуватися з автоматом.
Крім того, є деякі абсолютно нові послуги та ідеї, які ще не з’явилися. Я не знаю точних цифр, але я точно знаю, що сотні мільярдів доларів зараз надходять у цей простір. Найчастіше більшість із них, ймовірно, не будуть успішними, але достатньо їх буде. Протягом наступних трьох років ми побачимо досить дивовижні речі, а також деякі абсолютно нові компанії, які можуть стати дійсно великими.
**Чжан Пен: За останні 5000 днів KK зробив багато правильних прогнозів і має перспективне розуміння багатьох основних напрямків. Нещодавно ви передбачили, що наступні 5000 днів стануть одним із найбільш критичних періодів в історії людства. Де ключ до цього вузла? У якому напрямку веде людство на роздоріжжі? **
Кевін Келлі: Крім штучного інтелекту, у світі відбувається багато інших речей. Ми стикаємося з проблемою зміни клімату, на горизонті з’являється генна інженерія, легко уявити штучний інтелект принизливим, легко побачити, як стеження стає повсюдним, і ми втрачаємо контроль. Ми стикаємося з багатьма викликами та можливостями в глобальному масштабі.
**Це вузький і терміновий перехідний період, і ми повинні його пройти. **Я думаю, що ми можемо отримати доступ до цього вузького порталу за допомогою електрифікації, електромобілів, альтернативної енергетики та успіху в розробці нової коронної вакцини. Зараз на планеті все ще існує багато політичних протиріч і розбіжностей, але нам потрібні колективні дії, нам потрібно досягти консенсусу в сферах технологій, навколишнього середовища тощо, а також працювати разом для вирішення проблем.
**Це вперше на Землі виникли глобальні культури, глобальні економіки та глобальний вплив на навколишнє середовище. Це також наш шанс стати більш глобальною цивілізацією протягом наступних 5000 днів. **
Лі Чжіфей: КК сказав, що в наступні 5000 днів світ матиме багато інших викликів, окрім ШІ. Я вважаю, що наступні 365 днів також дуже важливі лише з точки зору ШІ. Штучний інтелект пройшов через багато раундів, щоразу люди покладають на нього високі очікування, але він не працює, а потім люди очікують високих значень, і він знову не працює. Я думаю, чи буде сьогоднішня хвиля AGI чимось, що люди в галузі вважають приголомшливим, чи це стане дуже важливою річчю для суспільства, це значною мірою залежить від наступних 365 днів.
Включно з тим, як розробити велику модель, чим більше, тим краще, чи ми повинні додати мультимодальність, чи ми повинні додати рішення тощо? Включно з оглядом на рівень проникнення. На даний момент менше 5% людей у світі можуть використовувати ChatGPT. Як ми можемо збільшити рівень проникнення з 5% до 20%? Як люди повинні впоратися з впливом ШІ на суспільство, включаючи регулювання? Він також включає штучний інтелект на додаток до застосування в таких галузях, як Інтернет, як його слід застосовувати в традиційних галузях, таких як медичне обслуговування, автомобілі та фінанси? тощо
Я думаю, що людям може знадобитися принаймні рік, щоб зробити різні спроби, перш ніж вони зможуть мати більш чітке судження.
03 Звичайні люди не благородні, ми хочемо, щоб ШІ був кращим за звичайних людей
**Чжан Пен: У багатьох випадках люди схильні довіряти технологіям. Наприклад, хтось спить у самокерованій машині та спричинить аварію. Чи є ця тонка довіра до передових технологій людською звичкою? Які наслідки? **
Кевін Келлі: Безпілотні автомобілі не є досконалими, але вони все одно кращі за людей у керуванні. Чи можна довіряти штучному інтелекту? У розмовах із чат-ботами ми виявили, що їхні відповіді були неточними, тому ми не могли повністю їм довіряти. Але я думаю, що незабаром ми почнемо це вирішувати.
Сьогодні більшість людей довіряють своїм калькуляторам. Ви даєте йому цифри, він дає вам відповіді, і ви йому повністю довіряєте. Тож ми знаємо, що машина заслуговує довіри, і це те, над чим можна працювати, щоб покращити. **І упередження щодо штучного інтелекту, оскільки вони навчаються на середніх людях, які є расистами, сексистами, зловмисниками, не є благородними. Ми насправді хочемо, щоб наш ШІ був кращим за людей. **
Подібно до того, як калькулятор кращий за звичайну людину, ви повинні більше покладатися на відповіді, які дає вам калькулятор, ніж звичайна людина. **Довіра — це те, на чому ми повинні зосередитись і над чим працювати, хоча є багато проблем, але врешті-решт я думаю, що ми будемо дуже покладатися на штучний інтелект і машини та довіряти їм. **
**Чжан Пен: Останнім часом багато людей у Сполучених Штатах вважають, що розробка штучного інтелекту надто швидка, і їм слід уповільнити темп або навіть зупинитися та подумати про це. Чи згодні ви з цією думкою? **
Кевін Келлі: Ні, я не підтримую це. Я вважаю, що це оманливе, оманливе і непотрібне. Я не думаю, що це дійсно можливо, і не доцільно.
**Чжан Пен: У більшості науково-фантастичних фільмів або романів про людей штучний інтелект є відносно похмурим персонажем. Це тому, що людям бракує уяви, чи у нас занадто багато неправильної уяви? **
**Кевін Келлі: Голлівуд завжди зображував штучний інтелект антиутопічним, жахливим і небажаним, що, на мою думку, є браком уяви. Тому що це закон Всесвіту, що набагато легше уявити, як щось зазнає невдачі, ніж те, як це вдасться. **Чесно кажучи, людям важко уявити чудовий світ через 100 років, де штучний інтелект буде всюдисущим, дешевим і корисним для людства, навіть якщо ми хочемо жити в цьому світі.
Крім того, ці студії дуже добре розповідають історії, і елементи чудової історії – це конфлікт, катастрофа та деякі сильні елементи. Будь то війни, урагани чи штучний інтелект, який намагається знищити світ. Тому малоймовірно, що ми побачимо райдужне бачення штучного інтелекту в голлівудському фільмі, тому що це не сприяє сюжету, хоча ймовірність існує, але вона дуже мала.
Тому ми не можемо дивитися на штучний інтелект через враження від Голлівуду (фільми). На жаль, так поступає багато людей. Коли справа доходить до штучного інтелекту, вони думають про «Термінатора», «2001 Космічну Одіссею» та «ЇЇ».
Лі Чжіфей: Я думаю, що вся недовіра виникає через незнання. Коли ми стикаємося з новим видом AGI, я не розумію, як з’являються його можливості, чого він хоче і що може зробити. Це основна проблема.
Я думаю, що люди можуть зробити, з одного боку, це краще зрозуміти AGI, а з іншого боку, навчитися дозволяти AGI пояснювати себе чітко. Наприклад, коли він дає вам відповідь, ви дозволяєте йому висловити внутрішній робочий процес і внутрішній монолог. Це може створити міцніше почуття довіри. **
**Чжан Пен: Для KK, здається, що «Дао Де Цзин» Лао-Цзи вас дуже надихнув. Ви згадали, що «найвищий рівень контролю — це поза контролем, а найнижчий — це контролювати все». Що ви думаєте про нещодавнє посилення державного та технологічного регулювання ШІ? **
Кевін Келлі: Я не вважаю, що поточне регулювання є хорошим. Звісно, регулювання важливе й необхідне, воно потрібне для того, щоб усе йшло безперебійно, підтримувати рівні умови та забезпечувати безпеку. Але передчасне регулювання – це страшно. На даний момент проблема полягає в тому, що ми намагаємося регулювати щось, про що ми не дуже добре знаємо, і це зазвичай призводить до катастрофи.
**Лі Чжіфей:**Чому існує нагляд? По суті, це люди, які хвилюються, що негативний вплив AGI переважить позитивний, що він буде надто дієвим і соціально неприйнятним. Але на даному етапі це судження хибне. Тому що сьогодні позитивний вплив AGI повинен бути більшим, ніж його негативний вплив.
По-друге, справжня проблема AGI сьогодні полягає в тому, що він недостатньо потужний. Включаючи здатність до планування, здатність інтегруватися з фізичним світом, здатність до саморозвитку тощо. Хоча ми бачили надію, вона ще дуже далека від реальної реалізації. Ми можемо ніколи туди не потрапити.
Тож я хочу сказати: **Ми не можемо просто побачити тенденцію AGI, а потім різко посилити регулювання. Це може дозволити нам вбити AGI ще до того, як ми цього досягнемо. Нагляд, безумовно, потрібен, але він не повинен бути надмірно зарегульованим. **
**Чжан Пен: Про штучний інтелект говорили багато років, і тепер, здається, він вступає в нову еру. Якщо штучний інтелект справді має шанс стати формою життя з інтелектом, вищим за людський, у майбутньому, чи варто інтегрувати його в людську цивілізацію чи поставити під контроль людини? Який шлях може справді оновити людську цивілізацію? **
**Кевін Келлі: Я вважаю, що існує дуже корисна основа для розуміння штучного інтелекту (ШІ) майбутнього, а не ШІ сьогодні, оскільки їх порівнюють із ШІ наступних 30, 50 або 100 років. , Це недостатньо складно — це розглядати його як штучного прибульця з іншої планети. **
Багато штучного інтелекту будуть такими, яких ми ніколи раніше не бачили, і будуть мислити інакше, ніж люди. Вони будуть такими ж розумними, як Йода (віртуальний персонаж у «Зоряних війнах») або Спок (віртуальний персонаж у «Зоряному шляху»), і навіть у чомусь перевершуватимуть людей. Ми б створили багато різних типів штучних прибульців, поважали б їх і використовували їхній різний інтелект, щоб допомогти нам вирішити складні проблеми, як-от з’ясувати, що насправді таке квантова гравітація.
Але ми не передамо їм управління. Якщо нам не подобається їхня поведінка, ми повертаємо їх назад, закриваємо. Ми можемо позбавити їхньої влади, якщо вважаємо, що вони отримали занадто багато влади. Ми не хочемо, щоб ШІ вирішував нашу долю.
**Li Zhifei:**Поточний AGI схожий на метелика.Отримавши багато поживних речовин від личинок, він завершує власну сублімацію. Це еквівалентно використанню всіх Інтернет-знань людей у минулому для завершення власної трансформації. У майбутньому ШІ точно перевершить людей у багатьох відношеннях. Я думаю, що люди можуть бути предками ШІ, і це цілком щасливо.
KK сказав, що ми повинні ставитися до ШІ як до прибульця, що звучить більше як контроль. **Я думаю, що люди можуть занадто переоцінювати свої здібності або IQ. Ви можете собі уявити, що, наприклад, ще через 50 років серед 100 найпотужніших і найвпливовіших агентів у світі, можливо, лише 20 будуть людьми, а решта 80 – ШІ. Тож я вважаю, що зрештою люди та штучний інтелект мають бути злиттям, а не контролем. **
Переглянути оригінал
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Розмова з Кевіном Келлі: ще занадто рано регулювати штучний інтелект і слід дозволити йому «вийти з-під контролю»
Діалог: Чжан Пен, Лі Чжіфей Планування: Вей Шицзе, Лі Шіюн
Тридцять років тому, коли Інтернет був лише зародковим і навіть персональні комп’ютери були рідкісним явищем, один автор технологій розпочав власний передовий роумінг у всіх сферах життя того часу. Спілкуючись з деякими з найяскравіших умів світу, він бачив частину майбутнього, кульмінацією якого стане книга «Поза контролем» (1994). Поки більше десяти років потому, коли настала ера мобільного Інтернету та смартфонів, люди з подивом виявили, що останні концепції «глобального інформаційного взаємозв’язку, розподілених систем, цифрової валюти, хмарних обчислень тощо» давно були передбачені цим книга.
Технічним автором є Кевін Келлі, також відомий як KK. Засновник журналу "Wired", технологічний оглядач і "пророк". У 2010 році була запущена китайська версія «Поза контролем», і KK також почав серію візитів до Китаю, і поступово став знайомим китайцям.
Стоячи на сьогоднішньому вузлі, загальний штучний інтелект (AGI) проростає, і революція часу ось-ось розпочнеться, що ледь помітно перегукується з пророцтвом у книзі «Поза контролем». У той час К. К. передбачив, що люди з часом об’єднаються з машинами, «машини стають біологічними, а організми створюються». За його власними словами, «Поза контролем» говорив лише про одне, а саме про те, як створити «складну систему» — роботів, штучний інтелект (ШІ) тощо можна розглядати як складні системи, і він вважає, що ця ідея застосовний і сьогодні.
Нещодавно ми розмовляли з KK разом із Лі Чжіфеєм, засновником і генеральним директором великої модельної стартап-компанії Going out to ask.
Перший розглядається з практичної точки зору технологій і бізнесу, а другий — з абстрактної точки зору людей, історії та навіть Всесвіту, обговорюючи зростання, вплив і загрозу штучного інтелекту. Це скоріше «наукова фантастика» та «фантастична» дискусія. Ми знову намагаємося «передбачити» майбутнє людини та штучного інтелекту.
Обидва стверджують, що вперше в історії людства сучасний штучний інтелект набув схожих на життя форм. Лі Чжіфей сказав, що нинішній ШІ вже еквівалентний IQ людської дитини та має справжні загальні інтелектуальні здібності, такі як знання, логіка, міркування та планування. І KK вірить, що як «життя на основі кремнію» штучний інтелект буде таким же адаптивним, як і люди, і зможе навчатися та розвиватися самостійно.
Дуже схожим чином вони обидва сприймають технологічний оптимізм. KK вважає, що штучний інтелект не зробить людей безробітними, він лише зробить людей більш ефективними та звільнить їх від «огидних» робіт. Здається, штучний інтелект збільшує прірву між багатими та бідними, але він, швидше за все, досягне чесності та справедливості, зробивши пиріг більшим і кращим, як і будь-яка технологічна зміна в історії людства. З точки зору впливу на бізнес, це розширить можливості окремих осіб, малих і середніх компаній і великих компаній одночасно.
Як сказано в назві книги «Поза контролем», Кевін Келлі вважає, що для того, щоб краще отримати потужність ШІ, люди повинні дозволити частинам ШІ «вийти з-під контролю». Зрештою, ChatGPT народився в стані «виходу», який вийшов з-під контролю з боку людини. І він, і Лі Чжіфей вважають, що нинішній інтелект штучного інтелекту все ще незрілий, і люди повинні продовжувати відпускати, а не передчасно та надмірно контролювати (наглядати). Останнє може придушити інновації в зародку.
Якщо розглядати довше, якщо одного дня штучний інтелект справді стане суперформою життя, як люди мають з цим ладнати?
І наукова фантастика, і фільми малюють похмуре майбутнє, яке часто закінчується пробудженням ШІ, щоб вбивати людей. Але Кевін Келлі вважає, що це прояв відсутності у людини фантазії. Невдачу завжди легше уявити, ніж успіх, і це також спокусливо для історій. Що стосується майбутнього, то неважко уявити переваги та цінність штучного інтелекту.
Його припущення полягає в тому, що ШІ можна розглядати як «штучного прибульця», і люди зможуть використовувати мудрість ШІ для вирішення власних проблем і досягнення певного ступеня «контролю». Лі Чжіфей вважає, що як «предки» ШІ люди згодом зіллються з ШІ замість того, щоб контролювати його.
Щодо того, чи справдиться це пророцтво, це залежить від світу через 5000 днів.
Подаємо повний текст розмови:
01 Навіть якщо OpenAI не створив ChatGPT, інші компанії незабаром зроблять це
**Чжан Пен: Незалежно від Китаю чи Сполучених Штатів, останнім часом люди обговорюють великі моделі. Як ви ставитесь до цієї хвилі технологічних змін у великих моделях? Ви будете дуже шоковані? **
Кевін Келлі: Штучний інтелект (ШІ) існує десятиліттями. Великий стрибок уперед стався, коли моделі ШІ почали використовувати нейронні мережі та глибоке навчання, і вони ставали все більшими й більшими. Близько 4-5 років тому він почав виробляти дуже великі моделі трансформерів (моделі глибокого навчання з механізмом самоуважності). За останні два роки він почав взаємодіяти з великими мовними моделями.
Насправді останнім часом велика зміна в ШІ полягає не в його здатності, і його продуктивність у цьому відношенні не набагато краща. **Що дійсно змінилося в штучному інтелекті останнім часом, так це те, що він дозволяє нам мати розмовний інтерфейс користувача, який може фактично спілкуватися зі штучним інтелектом (природною) мовою. До цього людям потрібно було отримати багато знань з програмування та бути дуже досвідченими, щоб використовувати ШІ. Але тепер раптом усі використовують ШІ. Це справді захоплююча частина. **
Лі Чжіфей: Я погоджуюся з тим, що сказав КК, головною зміною в поточній моделі великої мови є покращення можливостей взаємодії природної мови. Це справді те, що відчувають багато звичайних людей, і саме завдяки цьому ChatGPT сьогодні має такий великий соціальний вплив.
Але я вважаю, що сьогодні також існує багато варіацій у можливостях великих моделей, і саме ця варіація робить можливою їх природну взаємодію. Тому що для реалізації природної взаємодії ШІ повинен мати міцні знання, здатність розуміти, володіти мовою, міркувати та планувати тощо. ШІ повинен мати прорив у цих базових можливостях, щоб досягти взаємодії природної мови.
І я думаю, що здатність великих моделей у майбутньому буде не лише природною мовною взаємодією. Такі речі, як написання програм, процеси автоматизації підприємств і автоматизація роботів, не є інтерактивними, але вони стануть можливими в майбутньому.
**Чжан Пен: Я цілком згоден, що здатність штучного інтелекту краще спілкуватися з людьми призведе до зміни парадигми в технологіях і бізнесі. Якщо ChatGPT — це друга крива розвитку ШІ, його поява неминуча чи випадкова? **
**Кевін Келлі:**ChatGPT здатний перевершити всі очікування. **Я не думаю, що ніхто очікував цього, включаючи людей у сфері ШІ. Насправді більшість дослідників не знають, як працює ChatGPT, і вони намагаються його вдосконалити, але це важко, оскільки вони не знають, як це працює. Тому поява ChatGPT була випадковістю. **
Хоча ChatGPT дуже дивує, ми також бачимо його обмеження. **Основним обмеженням є те, що модель навчалася на середньостатистичному вмісті, створеному людьми, тому вона, як правило, дає середні результати. І ми часто хочемо не середнього, а чогось вище середнього. **Це важко зробити.
По-друге, ці моделі оптимізовані для правдоподібності, а не для точності. Тому, як зробити їх більш точними, є серйозною проблемою, з якою зараз стикаються всі.
Лі Чжіфей: Я думаю, що поява ChatGPT випадкова в короткостроковій перспективі, але неминуча в довгостроковій. Можна сказати, що OpenAI створив ChatGPT наприкінці минулого року випадково, але навіть якщо він цього не зробив, інші компанії скоро це зроблять. **
Це повторювалося незліченну кількість разів в історії технологій. Беручи приклад глибокого навчання, AlexNet був першим, хто створив анотації зображень у 2012 році, але в той час багато команд із сильними переконаннями та інженерними можливостями також робили це.Якщо AlexNet не встигне, це зроблять інші. Крім того, у 2017 році Google створила трансформатор, щоб вирішити проблеми низької масштабованості моделей послідовності, таких як RNN і LSTM. Якщо Google не встигне, це зроблять інші команди.
**Тепло народження ChatGPT полягає в тому, що трансформатор уже дуже зрілий, і ми маємо потужну обчислювальну потужність для навчання масивних даних Інтернету. Усі необхідні елементи ChatGPT уже доступні, і його народження неминуче. **Просто OpenAI зібрав це найкраще на той момент.
**Чжан Пен: Говорячи про неминучість і випадковість, я згадав слово, яке останнім часом було дуже популярним, «виникнення». У «Поза контролем» КК це слово зустрічалося щонайменше 88. Як розуміти значення цього слова сьогодні? **
Кевін Келлі: З англійської точки зору, «виникнення» — це термін, який стосується поведінки системи, цілої групи взаємопов’язаних речей, таких як Інтернет, роботи, тіла, екосистеми чи навіть цілі Світ, поведінка якого не міститься в поведінці якоїсь окремої частини. Наприклад, вулик може запам’ятовувати речі, що перевищують час життя однієї бджоли, тому сам вулик має поведінку, здатність і силу, яких немає у окремих частин. Ми називаємо це «появою».
Подібним чином, велика частина штучного інтелекту, який генерується, також є «новою». Оскільки в моделі немає жодного місця, яке б пояснювало, звідки вона взялася, потрібні всі частини, щоб працювати разом, щоб створити цю нову здатність. Подібно до того, як у нашому мозку немає «думки», «думка» «виходить» із усього нейрона. **Такі речі, як мислення, еволюція та навчання, можуть «виникати» з системи.
**Лі Чжіфей:**Я розумію «виникнення» з книги «Складність», де йдеться про «більше є різним» і «більше є різним». Як у старій китайській приказці, «кількісні зміни ведуть до якісних». Вперше велика модель заговорила про «виникнення» в статті, опублікованій Стенфордом і Google наприкінці минулого року. За допомогою експериментів вони виявили, що при збільшенні розміру великої моделі, коли досягається певна критична точка, вона раптово «виникає» в певній якості.
Тепер я відчуваю, що слово «поява» насправді вживається надмірно. Оскільки ми не можемо пояснити, звідки походить здатність великої моделі, ми називаємо це «виникненням». Це слово неможливо пояснити чи змінити, і воно не допомагає нам тренувати та застосовувати велику модель. Тепер усі більше не вивчають «виникнення», а більше досліджують кількісний зв’язок між кількістю параметрів великої моделі та кінцевою продуктивністю, що може бути більш корисним для нас, щоб зрозуміти та контролювати велику модель.
**Чжан Пен: Чи можемо ми зрозуміти, що «поява» призведе до «втрати контролю»? **
Кевін Келлі: Це розуміння не зовсім вірне. Звичайно, він матиме «неконтрольовані частини», якщо ви хочете мати можливість використовувати силу «виникаючої» поведінки, можливо, вам доведеться терпіти деякі речі поза вашим контролем. Зараз наше розуміння та контроль над цим може бути недостатнім для ШІ, але це насправді необхідно для досягнення оптимальних результатів.
Але в той же час ми не можемо дозволити всьому «вийти з-під контролю», ми повинні здійснювати певний ступінь «контролю», тобто направляти і управляти штучним інтелектом. Знову ж таки, ми не хочемо бути надто обмеженими, але певний рівень контролю має бути досягнутий. Хоча ми, швидше за все, ніколи не матимемо повного контролю над ними, особливо з більш потужним штучним інтелектом, ми, ймовірно, ніколи повністю не зрозуміємо, як вони працюють. Це компроміс.
**Чжан Пен: Минуло багато років відтоді, як ви написали книгу «Поза контролем». На сьогоднішній момент у поєднанні з цією хвилею революції ШІ, чи вважаєте ви, що є якась частина «Поза контролем», яка варта повторне калібрування? **
Кевін Келлі: Мені здається, я не надто багато говорив про штучний інтелект і неконтрольованість у книзі «Поза контролем», насправді в основному говорилося про те, як перетворити прості речі на складні. Є щось, що називається архітектурою підсистеми Родні Брукса, де згадується, що ви можете створити складного робота, вставивши в нього частини інтелекту. Процес, який призводить до ускладнення, полягає в тому, що ви накладаєте речі поверх речей, які вже працюють. (Теорія архітектури Брукса передбачає, що поведінка вищого рівня повинна містити поведінку нижчого рівня).
**Як комаха, навіть якщо ви відріжете їй голову, вона все одно може ходити, тому що функція ходьби частково завершена. Подібно до того, як наш мозок має ядро, яке відповідає за дихання та інші вегетативні функції, ми додаємо більше рівнів складності поверх нього. Ця ідея актуальна й сьогодні, коли люди створюють роботів і штучний інтелект і намагаються зробити їх складнішими. **Насправді це єдине, про що я говорю в «Поза контролем», і я думаю, що суть все ще стоїть.
**Чжан Пен: Пам’ятаю, у вас раніше була цікава перспектива, тобто «припускаючи, що технологія — це своєрідне життя», коли вона з’являється з інтелектом, близьким до людського, чого вона захоче далі? Як це вплине на діловий світ і людське суспільство? **
**Кевін Келлі:**Технології — це те, що я називаю «сьомим царством життя». Ми прискорили еволюцію життя в «суху» сферу, яка більше не потребує «вологого» середовища, але може існувати в кремнії. Ми можемо використовувати свій розум для створення інших схожих на життя технологій. Вони здатні адаптуватися, можуть вчитися та рости.
Я хочу сказати, що технології в основному прагнуть до тих же речей, що й життя. Наприклад, у міру еволюції вони збільшаться в різноманітності, а також стануть більш спеціалізованими та специфічними. Наше тіло має 52 різні типи клітин, включаючи клітини серця, кісток і кісток. Ми також створимо спеціалізовані ШІ, які будуть виконувати конкретні завдання, такі як переклад мови, генерація зображень і автономне водіння. **Крім того, технології стануть складнішими, як життя, що очевидно.
Зрештою, технології також будуть «взаємовигідними та симбіотичними», як життя. Життя розвинулося настільки складно, що воно контактувало лише з іншим життям, а не з неживим матеріалом. Як бактерії у вашому кишечнику. Вони оточені лише іншими живими клітинами. ** У майбутньому також з’являться деякі ШІ, які не призначені для людей, а призначені для обслуговування інших ШІ. Наприклад, будуть штучні інтелекти, призначені для підтримки інших штучних інтелектів, які спілкуються лише з іншими штучними інтелектами. **
**Лі Чжіфей:**Я хочу пояснити зв’язок між ШІ та життям з точки зору інженера. Кілька років тому багато людей завжди запитували мене: «Скільки років IQ Alphago (першої комп’ютерної програми, яка перемогла чемпіона світу з Го)?» Тоді мені не подобалися такі питання, тому що я міг не відповідай. У той час, хоча ШІ міг грати в Go і мав високий IQ, він не міг вести розмови природною мовою, як 3-річна дитина. На той час його механізм кардинально відрізнявся від людського.
Але сьогодні я особливо люблю порівнювати ШІ з дитиною. Я вважаю, що суть полягає в тому, що сьогоднішній ШІ вже володіє справжніми здібностями загального інтелекту, якими володіють діти, такими як знання, логіка, міркування, планування тощо. **Тож я хочу сказати, що сьогоднішній ШІ більше схожий на живе тіло. Він має IQ 5-річної дитини та знання професора коледжу, а також новонародженої дитини, залежно від того, чи бачив він дані. **
Виходячи з цього розуміння, я думаю, що нам потрібно переосмислити, чого насправді хоче ШІ. У 5-річної дитини спочатку відбувається самоочищення, а потім самовідтворення та співпраця. Я сам не маю хорошої відповіді на це запитання.
02 Протягом наступних 5000 днів ми пройдемо через вузький і терміновий перехідний період
**Чжан Пен: Коли можливості штучного інтелекту швидко зростають, багато звичайних людей відчувають тривогу та страх, що вони втратять конкурентоспроможність. Чи є у КК якісь думки та пропозиції з цього приводу? **
**Кевін Келлі:**Хоча технологія штучного інтелекту розроблялася протягом 20 років, люди вважають, що вона досягла успіху за одну ніч, і стурбовані темпами її зростання та можливостями. **Ми завжди схильні уявляти найгірші сценарії, а не найкращі. Я думаю, що один із способів впоратися з тривогою щодо змін – це озирнутися назад. Насправді люди мали такий вид тривоги в минулому, але ніколи не в найгіршому випадку, який ми собі уявляли. Ймовірно, так буде і цього разу. **
Найкращий спосіб, який я знайшов, щоб впоратися зі своїми тривогами, це спробувати використати їх. Я вважаю, що більшість занепокоєння походить від тих, хто не використовував ШІ, і вони зберігають відчуття дистанції до ШІ. Насправді, як тільки вони почнуть пробувати і використовувати його, вони побачать, що ШІ має як переваги, обмеження, так і шкоду. Це зменшить їхню тривожність.
Лі Чжіфей: Якщо AGI не станеться сьогодні, це станеться завтра. Оскільки його неможливо зупинити, ви повинні прийняти і зрозуміти це. Зараз для мене AGI є розумним партнером. Я буду говорити з ним про багато проблем. Його знання дуже вичерпні, і він може дати мені пораду з широкої та всебічної точки зору. Я думаю, що це може бути хорошою формою сприйняття ШІ людиною.
У той же час ми бачимо, що сьогоднішнім великим моделям все ще бракує деяких критичних можливостей справжнього AGI. Наприклад, здатність до логічних міркувань і планування складних завдань.Якщо ви хочете, щоб ШІ розбирав кроки і досягав мети на основі певної мети, це зараз не так добре.
**Чжан Пен: KK також є творцем контенту. Яка, на вашу думку, кінцева цінність творців, яких не можна замінити ШІ в епоху ШІ? **
Кевін Келлі: У своїх роботах я використовував штучний інтелект та інші інструменти. Я не думаю, що хтось втратить роботу через ШІ. **Тому що я не можу знайти жодного прикладу, щоб художник втратив роботу через ШІ. Це уявний страх, проблема, якої не існує. Працевлаштування, ймовірно, є найменш серйозною проблемою, пов’язаною з ШІ. **
Я хочу сказати, що те, що зникло, може бути вашою посадовою інструкцією, якою ви насправді займаєтеся, може змінитися. ** Деякі люди помітили, що 50% їхньої роботи може виконувати штучний інтелект, тоді як інші 50% будуть розширені та посилені ШІ. **Тож у майбутньому для половини роботи більше не будуть потрібні люди, а решту 50% роботи люди зможуть виконувати краще. Зазвичай це шаблон, який ми побачимо.
**Звичайно, певні види роботи зникають, як-от замовлення їжі та підрахунок грошей як касир. Ми не хочемо, щоб люди виконували цю роботу, тому вони точно зникнуть, і вони повинні зникнути. **
**Чжан Пен: Як ви оцінюєте конкурентоспроможність молодих і старих в епоху ШІ? **
Кевін Келлі: Літні люди мають багато переваг, вони добре поінформовані та досвідчені. У молоді теж багато переваг, бо вона не знає, що неможливо. Я не думаю, що хтось є більш конкурентоспроможним, ніж хто.
Я б сказав, що молоді люди сьогодні часто говорять про те, що вони є вихідцями з цифрових технологій і мають перевагу над технологіями. Але через стрімкий розвиток штучного інтелекту та іншого, молоді люди вчора можуть бути аборигенами, а завтра бути «старими». Незалежно від того, молодий ти чи старий, кожен є «новачком» у новій епосі і повинен продовжувати швидко навчатися новому протягом усього життя.
**Чжан Пен: Чи призведе це до змін у розриві між багатими та бідними? Тобто, чи будуть люди, які використовуватимуть штучний інтелект у майбутньому, більш продуктивними та конкурентоспроможними? **
Кевін Келлі: Так, розрив у багатстві збільшиться. **Я думаю, що з часом ваша здатність працювати зі штучним інтелектом може стати важливішою за те, чи йдете ви в коледж чи ні. Можливо, метою коледжу буде навчити вас працювати зі штучним інтелектом. Для дуже амбітних людей, якщо вони навчаться використовувати штучний інтелект, їх зарплата матиме велике значення. **
Однак, оскільки штучний інтелект поширюється по всьому світу, у майбутньому ми досягнемо рівного доступу до штучного інтелекту в усьому світі, як і рівного доступу до освіти. Я знаю друзів, які керують великими компаніями в США, і вони наймають співробітників, які працюють віддалено, за умови, що вони можуть, досвід роботи не має значення. Тому багато людей, які працюють у Південній Америці та Африці, отримуватимуть зарплату за американськими стандартами. Вони зароблять більше грошей, ніж за інших обставин.
**Чжан Пен: Швидкий розвиток технологій може спричинити нерівність і несправедливість у соціальній сфері. Як нам знайти баланс між розвитком і чесністю та справедливістю? **
Кевін Келлі: Я думаю, що ми можемо знайти баланс між прогресом і справедливістю. Насправді, я вважаю, що значна частина прогресу полягає в розподілі капіталу.
У порівнянні з тим, що було сотні років тому, світ був дуже несправедливим. Ти народився рабом, кріпаком чи селянином, і далі цього не було жодного шансу. Але завдяки прогресу ми тепер маємо більш рівноправний і справедливий світ. Я вважаю, що розвиток технологій може збільшити справедливість, хоча це може бути не реалізовано, це можливо.
**Лі Чжіфей:**З точки зору інженера,**якщо ви дивитеся на справедливість з кінцевої точки і сподіваєтеся, що всі мають однаковий рівень багатства та здібностей, то це безумовно призведе до дедалі більшої несправедливості. Але якщо поглянути на справедливість із початкової точки, наприклад, зробити інструменти ШІ доступними для всіх, це може бути кращим для досягнення справедливості. **
**Чжан Пен: Зараз ми бачимо, що в деяких компаніях, таких як Midjourney, компанія Vincent graph, дюжина людей може генерувати річний дохід у сотні мільйонів доларів. Чи можемо ми зрозуміти, що ШІ кардинально змінив продуктивність? Чи стануть у результаті майбутні компанії меншими та меншими? **
Кевін Келлі: Дивовижна сила, якою зараз володіють Інтернет і штучний інтелект, може одночасно розширити можливості як окремих осіб, так і великих корпорацій середнього розміру. Це полегшує окремим особам володіння компанією, тож ми побачимо багато нових компаній, які є лише ШІ та кількома людьми. Але в той же час ми також бачили, як деякі компанії стали більшими завдяки існуванню штучного інтелекту, і навіть збільшили чисельність на мільйон людей.
**Тож ми не збираємося раптово переходити у світ компаній лише з однією чи двома людьми, цього не станеться. Водночас ми принесемо користь не лише великим компаніям. У цьому краса штучного інтелекту, він може принести користь і розширити можливості для всіх. **
Лі Чжіфей: Я думаю, що ефект довгого хвоста та ефект Метью ставатимуть усе більш очевидними.
З одного боку, хвіст буде ставати все довшим, і буде з'являтися все більше маленьких компаній, які самі по собі стануть цілісною системою. З іншого боку, коли велика компанія має потужні можливості штучного інтелекту, її організаційна сила стане сильнішою. Раніше він міг організувати лише 1000 людей, але тепер він може організувати 10 000, 100 000 або 1 мільйон людей. Наприклад, індустрія доставки їжі в Китаї покладається на повний набір систем автоматизації для організації величезної групи пасажирів.
**Чжан Пен: Зараз штучний інтелект також є найактуальнішою темою в Кремнієвій долині. Багато підприємців думають про бізнес-інновації з великими моделями як основою. У КК є якісь зауваження з цього приводу? **
Кевін Келлі: Це нагадує мені перші дні Інтернету. Коли вперше з’явився Інтернет, усі компанії раптом зрозуміли, що їм потрібно вийти в Інтернет. І тепер кожна компанія використовує переваги розмовного інтерфейсу штучного інтелекту, запроваджуючи великі мовні моделі та штучний інтелект для ведення бізнесу. Одним із прикладів є Wendy's, модний фаст-фуд, де гамбургери, які тепер використовують розмовний інтерфейс, що дозволяє клієнтам замовляти їжу в машині та спілкуватися з автоматом.
Крім того, є деякі абсолютно нові послуги та ідеї, які ще не з’явилися. Я не знаю точних цифр, але я точно знаю, що сотні мільярдів доларів зараз надходять у цей простір. Найчастіше більшість із них, ймовірно, не будуть успішними, але достатньо їх буде. Протягом наступних трьох років ми побачимо досить дивовижні речі, а також деякі абсолютно нові компанії, які можуть стати дійсно великими.
**Чжан Пен: За останні 5000 днів KK зробив багато правильних прогнозів і має перспективне розуміння багатьох основних напрямків. Нещодавно ви передбачили, що наступні 5000 днів стануть одним із найбільш критичних періодів в історії людства. Де ключ до цього вузла? У якому напрямку веде людство на роздоріжжі? **
Кевін Келлі: Крім штучного інтелекту, у світі відбувається багато інших речей. Ми стикаємося з проблемою зміни клімату, на горизонті з’являється генна інженерія, легко уявити штучний інтелект принизливим, легко побачити, як стеження стає повсюдним, і ми втрачаємо контроль. Ми стикаємося з багатьма викликами та можливостями в глобальному масштабі.
**Це вузький і терміновий перехідний період, і ми повинні його пройти. **Я думаю, що ми можемо отримати доступ до цього вузького порталу за допомогою електрифікації, електромобілів, альтернативної енергетики та успіху в розробці нової коронної вакцини. Зараз на планеті все ще існує багато політичних протиріч і розбіжностей, але нам потрібні колективні дії, нам потрібно досягти консенсусу в сферах технологій, навколишнього середовища тощо, а також працювати разом для вирішення проблем.
**Це вперше на Землі виникли глобальні культури, глобальні економіки та глобальний вплив на навколишнє середовище. Це також наш шанс стати більш глобальною цивілізацією протягом наступних 5000 днів. **
Лі Чжіфей: КК сказав, що в наступні 5000 днів світ матиме багато інших викликів, окрім ШІ. Я вважаю, що наступні 365 днів також дуже важливі лише з точки зору ШІ. Штучний інтелект пройшов через багато раундів, щоразу люди покладають на нього високі очікування, але він не працює, а потім люди очікують високих значень, і він знову не працює. Я думаю, чи буде сьогоднішня хвиля AGI чимось, що люди в галузі вважають приголомшливим, чи це стане дуже важливою річчю для суспільства, це значною мірою залежить від наступних 365 днів.
Включно з тим, як розробити велику модель, чим більше, тим краще, чи ми повинні додати мультимодальність, чи ми повинні додати рішення тощо? Включно з оглядом на рівень проникнення. На даний момент менше 5% людей у світі можуть використовувати ChatGPT. Як ми можемо збільшити рівень проникнення з 5% до 20%? Як люди повинні впоратися з впливом ШІ на суспільство, включаючи регулювання? Він також включає штучний інтелект на додаток до застосування в таких галузях, як Інтернет, як його слід застосовувати в традиційних галузях, таких як медичне обслуговування, автомобілі та фінанси? тощо
Я думаю, що людям може знадобитися принаймні рік, щоб зробити різні спроби, перш ніж вони зможуть мати більш чітке судження.
03 Звичайні люди не благородні, ми хочемо, щоб ШІ був кращим за звичайних людей
**Чжан Пен: У багатьох випадках люди схильні довіряти технологіям. Наприклад, хтось спить у самокерованій машині та спричинить аварію. Чи є ця тонка довіра до передових технологій людською звичкою? Які наслідки? **
Кевін Келлі: Безпілотні автомобілі не є досконалими, але вони все одно кращі за людей у керуванні. Чи можна довіряти штучному інтелекту? У розмовах із чат-ботами ми виявили, що їхні відповіді були неточними, тому ми не могли повністю їм довіряти. Але я думаю, що незабаром ми почнемо це вирішувати.
Сьогодні більшість людей довіряють своїм калькуляторам. Ви даєте йому цифри, він дає вам відповіді, і ви йому повністю довіряєте. Тож ми знаємо, що машина заслуговує довіри, і це те, над чим можна працювати, щоб покращити. **І упередження щодо штучного інтелекту, оскільки вони навчаються на середніх людях, які є расистами, сексистами, зловмисниками, не є благородними. Ми насправді хочемо, щоб наш ШІ був кращим за людей. **
Подібно до того, як калькулятор кращий за звичайну людину, ви повинні більше покладатися на відповіді, які дає вам калькулятор, ніж звичайна людина. **Довіра — це те, на чому ми повинні зосередитись і над чим працювати, хоча є багато проблем, але врешті-решт я думаю, що ми будемо дуже покладатися на штучний інтелект і машини та довіряти їм. **
**Чжан Пен: Останнім часом багато людей у Сполучених Штатах вважають, що розробка штучного інтелекту надто швидка, і їм слід уповільнити темп або навіть зупинитися та подумати про це. Чи згодні ви з цією думкою? **
Кевін Келлі: Ні, я не підтримую це. Я вважаю, що це оманливе, оманливе і непотрібне. Я не думаю, що це дійсно можливо, і не доцільно.
**Чжан Пен: У більшості науково-фантастичних фільмів або романів про людей штучний інтелект є відносно похмурим персонажем. Це тому, що людям бракує уяви, чи у нас занадто багато неправильної уяви? **
**Кевін Келлі: Голлівуд завжди зображував штучний інтелект антиутопічним, жахливим і небажаним, що, на мою думку, є браком уяви. Тому що це закон Всесвіту, що набагато легше уявити, як щось зазнає невдачі, ніж те, як це вдасться. **Чесно кажучи, людям важко уявити чудовий світ через 100 років, де штучний інтелект буде всюдисущим, дешевим і корисним для людства, навіть якщо ми хочемо жити в цьому світі.
Крім того, ці студії дуже добре розповідають історії, і елементи чудової історії – це конфлікт, катастрофа та деякі сильні елементи. Будь то війни, урагани чи штучний інтелект, який намагається знищити світ. Тому малоймовірно, що ми побачимо райдужне бачення штучного інтелекту в голлівудському фільмі, тому що це не сприяє сюжету, хоча ймовірність існує, але вона дуже мала.
Тому ми не можемо дивитися на штучний інтелект через враження від Голлівуду (фільми). На жаль, так поступає багато людей. Коли справа доходить до штучного інтелекту, вони думають про «Термінатора», «2001 Космічну Одіссею» та «ЇЇ».
Лі Чжіфей: Я думаю, що вся недовіра виникає через незнання. Коли ми стикаємося з новим видом AGI, я не розумію, як з’являються його можливості, чого він хоче і що може зробити. Це основна проблема.
Я думаю, що люди можуть зробити, з одного боку, це краще зрозуміти AGI, а з іншого боку, навчитися дозволяти AGI пояснювати себе чітко. Наприклад, коли він дає вам відповідь, ви дозволяєте йому висловити внутрішній робочий процес і внутрішній монолог. Це може створити міцніше почуття довіри. **
**Чжан Пен: Для KK, здається, що «Дао Де Цзин» Лао-Цзи вас дуже надихнув. Ви згадали, що «найвищий рівень контролю — це поза контролем, а найнижчий — це контролювати все». Що ви думаєте про нещодавнє посилення державного та технологічного регулювання ШІ? **
Кевін Келлі: Я не вважаю, що поточне регулювання є хорошим. Звісно, регулювання важливе й необхідне, воно потрібне для того, щоб усе йшло безперебійно, підтримувати рівні умови та забезпечувати безпеку. Але передчасне регулювання – це страшно. На даний момент проблема полягає в тому, що ми намагаємося регулювати щось, про що ми не дуже добре знаємо, і це зазвичай призводить до катастрофи.
**Лі Чжіфей:**Чому існує нагляд? По суті, це люди, які хвилюються, що негативний вплив AGI переважить позитивний, що він буде надто дієвим і соціально неприйнятним. Але на даному етапі це судження хибне. Тому що сьогодні позитивний вплив AGI повинен бути більшим, ніж його негативний вплив.
По-друге, справжня проблема AGI сьогодні полягає в тому, що він недостатньо потужний. Включаючи здатність до планування, здатність інтегруватися з фізичним світом, здатність до саморозвитку тощо. Хоча ми бачили надію, вона ще дуже далека від реальної реалізації. Ми можемо ніколи туди не потрапити.
Тож я хочу сказати: **Ми не можемо просто побачити тенденцію AGI, а потім різко посилити регулювання. Це може дозволити нам вбити AGI ще до того, як ми цього досягнемо. Нагляд, безумовно, потрібен, але він не повинен бути надмірно зарегульованим. **
**Чжан Пен: Про штучний інтелект говорили багато років, і тепер, здається, він вступає в нову еру. Якщо штучний інтелект справді має шанс стати формою життя з інтелектом, вищим за людський, у майбутньому, чи варто інтегрувати його в людську цивілізацію чи поставити під контроль людини? Який шлях може справді оновити людську цивілізацію? **
**Кевін Келлі: Я вважаю, що існує дуже корисна основа для розуміння штучного інтелекту (ШІ) майбутнього, а не ШІ сьогодні, оскільки їх порівнюють із ШІ наступних 30, 50 або 100 років. , Це недостатньо складно — це розглядати його як штучного прибульця з іншої планети. **
Багато штучного інтелекту будуть такими, яких ми ніколи раніше не бачили, і будуть мислити інакше, ніж люди. Вони будуть такими ж розумними, як Йода (віртуальний персонаж у «Зоряних війнах») або Спок (віртуальний персонаж у «Зоряному шляху»), і навіть у чомусь перевершуватимуть людей. Ми б створили багато різних типів штучних прибульців, поважали б їх і використовували їхній різний інтелект, щоб допомогти нам вирішити складні проблеми, як-от з’ясувати, що насправді таке квантова гравітація.
Але ми не передамо їм управління. Якщо нам не подобається їхня поведінка, ми повертаємо їх назад, закриваємо. Ми можемо позбавити їхньої влади, якщо вважаємо, що вони отримали занадто багато влади. Ми не хочемо, щоб ШІ вирішував нашу долю.
**Li Zhifei:**Поточний AGI схожий на метелика.Отримавши багато поживних речовин від личинок, він завершує власну сублімацію. Це еквівалентно використанню всіх Інтернет-знань людей у минулому для завершення власної трансформації. У майбутньому ШІ точно перевершить людей у багатьох відношеннях. Я думаю, що люди можуть бути предками ШІ, і це цілком щасливо.
KK сказав, що ми повинні ставитися до ШІ як до прибульця, що звучить більше як контроль. **Я думаю, що люди можуть занадто переоцінювати свої здібності або IQ. Ви можете собі уявити, що, наприклад, ще через 50 років серед 100 найпотужніших і найвпливовіших агентів у світі, можливо, лише 20 будуть людьми, а решта 80 – ШІ. Тож я вважаю, що зрештою люди та штучний інтелект мають бути злиттям, а не контролем. **