У серіалі «Довга пора» є кілька віршів: «** клацни пальцями, каже він / Ми клацаємо пальцями з резонансом / Далекі речі розіб'ються / Люди перед тобою в цей час не знають **».
Учитель Лю Цзя сказав, що доречно використовувати цей вірш для опису сучасного стану людей, які стикаються з AGI (штучним загальним інтелектом).
"Кожне наше передбачення про майбутнє може бути безглуздим і безглуздим, і майбутнє може бути не таким, яким ви його називаєте. Однак тільки тоді, коли все більше і більше людей долучаються до обговорення, разом відкривають мізки, разом блискуче мислять і навіть разом говорять дурниці, можливо, ми дійсно зможемо змінити майбутнє і разом привести людство до кращого майбутнього. "
Наприкінці вересня ми відвідали професора Лю Цзя в лабораторії мозку та інтелекту Університету Цінхуа. У цьому обміні, ґрунтуючись на багаторічному накопиченні досліджень у галузі науки про мозок та штучного інтелекту, професор Лю Цзя розповів про майбутній розвиток AGI на чолі з ChatGPT та його можливий вплив на людей, а також висунув багато «химерних ідей», заснованих на його дослідницькій галузі, які глибоко надихнули нас.
Говорячи про майбутній розвиток галузі AGI, Лю Цзя сказав, що, з одного боку, прискорюється втілений і втілений інтелект агента ШІ, тобто великої моделі; З іншого боку, вчені, які вивчають мозок і когнітивісти, включаючи його, почали енергійно обговорювати проблему свідомості, яку AGI може створити в майбутньому.
На думку пана Лю, в житті людини дуже мало можливостей пережити зміну парадигми, яка веде за собою зміни часу. У цей момент ми перебуваємо на такому важливому історичному етапі. Хоча ми також повинні визнати, що така зміна пов'язана з багатьма ризиками. Наприклад, безробіття і те, що ми повинні вдосконалювати свою здатність вчитися і освоювати нові інструменти.
Однак просто подивіться на це з іншого боку, і ви побачите, що цей новий світ показує нам безмежні можливості. Технологія GPT допомагає нам відійти від виснажливої повторюваної та інтелектуальної роботи, дозволяючи нам присвятити себе більш творчій та корисній кар'єрі та зробити наш час більш значущим. Можливо, в цьому і полягає прояв справжньої цінності людини.
«Наше майбутнє – це минуле, тому що минулий вибір визначає результат сьогодення. Однак наше сьогодення – це не минуле майбутнього, тому що майбутнє сповнене невідомого, і вибір, зроблений тут і зараз, формує те, як виглядатиме наше майбутнє. "
Дивлячись у майбутнє, тільки уява. Ми запишемо основні погляди цього діалогу з Лю Цзя та поділимося ними з читачами Tencent Research Institute.
Давайте клацнемо пальцями і обіймемо майбутнє разом.
Гості діалогу:
Лю Цзя, доктор філософії з Массачусетського технологічного інституту, давно займається психологією, наукою про мозок та дослідженнями штучного інтелекту. Професор фундаментальних наук, завідувач кафедри психології Університету Цінхуа, головний науковий співробітник лабораторії мозку та інтелекту Університету Цінхуа, головний науковий співробітник Пекінського інституту штучного інтелекту KLCII
Інтерв'юер (далі – Т):
Ню Фулянь Старший науковий співробітник Науково-дослідного інституту Тенсента
Ван Цян Директор Науково-дослідного центру Frontier Science and Technology Research Institute
AGI: Запалювання іскри другої когнітивної революції **** **
Як дослідник у галузі науки про мозок та штучного інтелекту, як ви бачите розвиток AGI, спровокований ChatGPT, та його можливий вплив на майбутнє людства? **
Лю Цзя: До того, як OpenAI випустила ChatGPT 30 листопада минулого року, більшість людей говорили про штучний інтелект і думали, що він магічний, але часто лише з точки зору цікавості. Однак, з моменту появи ChatGPT, я думаю, що всім необхідно звернути увагу та зрозуміти його розвиток та зміни. Майбутнє загального штучного інтелекту (AGI) буде таким же важливим, як і гідроенергетика, не тільки змінюючи спосіб нашої роботи, але й потенційно безпосередньо впливаючи на майбутнє кожного з нас, наприклад, на оволодіння навичками, розвиток дитини та розвиток людини. На мою думку, це може означати настання другої когнітивної революції. **
Чому її називають другою когнітивною революцією? Почнемо з того, що розглянемо, як сталася перша когнітивна революція. Близько 70 000-100 000 років тому два види людей, Homo sapiens і неандертальці, жили разом на Землі. Хоча неандертальці перевершували нас у зрості та силі, їх зрештою замінили Homo sapiens. Як наш предок Homo sapiens переміг неандертальців? Є припущення, що між 70 000 і 100 000 років тому відбулася перша когнітивна революція, яка проявилася у вибуховому зростанні та різноманітності знарядь праці людей. До цього, від найдавніших Homo erectus до неандертальців, кам'яні знаряддя, які вони виготовляли, були схожими, але більш складними та геніальними. Однак під час першої пізнавальної революції виготовлення людиною кам'яних знарядь праці зазнало якісних змін, перестало не просто виготовляти прості знаряддя праці, такі як сокири та списи, а стали з'являтися намиста та інші прикраси, а також вирізання різних візерунків на каменях і кістках.
Озираючись назад, ми виявляємо, що в ту епоху людство поступово розвинуло спосіб мислення, який ми сьогодні називаємо регуляризованим мисленням, коротше кажучи, «а що, якщо... Крім того...... Отже..." (якщо... і...... потім). Наприклад, було виявлено, що після пробиття отвору в предметі на нього можна було протягнути нитку. Цей спосіб мислення, заснований на правилах, приніс людям нескінченну творчість, наприклад, пробивати отвори в тканині та проходити через них палицями, щоб зробити вітрильники. З тих пір творчий потенціал людини повністю розкрився, і поступово сформувалася потужна логіка - дедуктивні міркування.
Дедуктивне міркування - це застосування цієї логіки для створення нових винаходів і творінь на основі наріжного каменя міркування. Аристотель придумав таке поняття, назване першим принципом. Щось подібне якось сказав Конфуцій: «Джентльмен - правитель, а оригінал народжується відразу». «Це означає, що все можна виробляти, якщо починати з коренів. Під керівництвом цієї концепції люди почали робити велику кількість винаходів, які вже не обмежувалися виготовленням простих знарядь праці, таких як списи, а з'являлися різні винаходи та творіння. Врешті-решт Homo sapiens переміг неандертальців і закріпив статус сучасної людини. З тих пір Homo sapiens на Землі по-справжньому домінують на планеті. Цей процес став відомим як перша когнітивна революція, і його значення значно перевищило такі винаходи, як парова машина та електроприлади.
Сьогодні визначення другої когнітивної революції викликало широкі дискусії, наприклад, чи є винахід атомної бомби частиною другої когнітивної революції. Але я думаю, що тільки появу AGI можна назвати справжньою другою когнітивною революцією, тому що вона породить абсолютно новий вид, який сильно відрізняється від біологічної еволюції за останні 3,5 мільярда років. Цей новий вид воістину заслуговує на звання другої когнітивної революції. Перша когнітивна революція призвела до того, що Homo sapiens став господарем планети, тоді як друга когнітивна революція означала народження абсолютно нового розумного виду, який міг існувати поряд з людьми. **
Хоча нинішній ChatGPT ще не досяг рівня загального штучного інтелекту, він уже запалив іскру на шляху до загального штучного інтелекту. Іскра зазвичай має два значення: перше полягає в тому, що вона може спричинити пожежу, яка запалить рівнину; По-друге, освітлювати надію в темряві. Однак багато людей недооцінюють цінність ChatGPT і дивляться на нього лише з точки зору бізнесу, думаючи, що це не що інше, як винахід, який можна порівняти з моментом iPhone. Я думаю, що це коштує набагато більше, ніж ці поверхневі огляди, і ChatGPT – це початок другої когнітивної революції. **
З точки зору еволюції людини, ми виявили, що організми еволюціонували протягом мільярдів років, тоді як мавпам знадобилося лише 3 мільйони років людині. Протягом цих 3 мільйонів років природа «намагалася знайти» напрямки, і коли вона знайшла напрямок прямоходіння, обсяг людського мозку прискорив його еволюцію, потроївшись всього за 3 мільйони років, що є дивовижною швидкістю. І це все завдяки правильному напрямку, тобто невелике збільшення мозку принесе велику користь. Подібним чином AGI шукає напрямок, і як тільки він це зробить, він вступить у процес прискореної еволюції. Хоча ми ще не стали свідками народження AGI, поки є ця іскра, решта процесу є лише інженерною проблемою. **
Модель мозку та AGI:
Нові подібності та відмінності** **
У чому схожість і відмінність між розумною природою мозку і машинним когнітивним інтелектом великої моделі AGI? **
Лю Цзя: Коли наш мозок росте, виникає незрозуміле явище, яке називається «емерджентність». Це схоже на те, що зустрічається при побудові великих моделей: коли модель маленька, функцій мало, але коли модель стає більшою, деякі особливості проявляються природним чином. Наприклад, високі люди не обов'язково добре грають у баскетбол, але тренери зазвичай вибирають високих людей. Це також означає, що великі моделі не обов'язково виробляють інтелект, але для вивчення інтелекту повинні бути великі моделі, що є необхідною умовою. У міру того, як людський мозок поступово розширюється, багато функцій також з'являються природним чином, наприклад, наслідування та навчання.
Наприклад, Чжан Сан винайшов «добування вогню», вогонь дуже важливий для життя, інші теж хочуть вчитися, але проблема в тому, що вони можуть не вміти вчитися. Численні дослідження показали, що коли розмір мозку збільшується, наша здатність наслідувати або вчитися стає сильнішою. Таким чином, ми можемо навчитися розводити вогонь у Чжан Саня, щоб принести користь племені. Так само ми можемо вивчати й інші нові технології. Тому, з наукової точки зору, людину створює наслідування, а не праця. ** Велика кількість досліджень показала, що люди з великим мозком мають сильнішу здатність до наслідування; Люди з сильними навичками наслідування мають більше шансів знайти партнера, що, в свою чергу, полегшує передачу генів. Дослідження примітивних племен також виявили, що люди з сильними здібностями до наслідування або навчання мають більше шансів на розмноження. Тому чим більший мозок, тим більше він увічнений.
За останні 3 мільйони років мозок поступово ставав більшим, і ось чому. Коли ми озираємося на нейронні мережі, вони роблять те ж саме. З самого початку люди пробували різні методи, такі як навчання з підкріпленням, навчання під наглядом і т.д., але всі ці поняття взаємопов'язані. Велика частина енергії OpenAI в перші кілька років полягала в тому, щоб робити одну справу: робити моделі більшими. Потім з'явилася архітектура Transformer, яка зробила великі моделі більш ефективними. Але, по суті, суть інтелекту може полягати лише в одному слові: великий. Це схоже на те, що ми можемо говорити про інтелект лише тоді, коли мозок достатньо великий. Отже, «велика» — це передумова. **
Люди розумніші за мавп, а мавпи розумніші за мишей з однієї простої причини: мозок досить великий. **Звичайно, це не достатня умова, але необхідна умова. Деякі істоти мають значно більший мозок, ніж люди, наприклад, слони та кити, але це не гарантує, що вони матимуть інтелект. Наприклад, якщо ми відправимо новонароджену дитину на 3000 або 5000 років назад, вона не буде розумнішою за тубільців, тому що структура мозку така сама. Але якщо ми, дорослі, повернемося на 5000 років назад, ми станемо їхніми духовними лідерами, тому що у нас є знання. Отже, розвиток інтелекту є результатом взаємодії знань і мозку, а мало мати мозок без знань.
Тому нам потрібно використовувати цивілізацію та знання, щоб налаштувати мозок, що ми і називаємо освітою. Еволюцію людського інтелекту можна розглядати як взаємодію між поступовим збільшенням мозку і накопиченням знань. З одного боку, мозок має можливість ставати все більше і більше; З іншого боку, після того, як мозок стає більшим, він може виробляти знання, а знання можуть накопичуватися, що, у свою чергу, діє на мозок, роблячи мозок більш придатним для цих знань і здатним краще утримувати ці знання.
Те ж саме стосується і штучного інтелекту. Без достатньої кількості хорошого і достатнього корпусу, якою б великою не була модель, це не має сенсу. Без Інтернету розвідка була б неможливою. Тому поява таких явищ, як великі моделі та ChatGPT, є як випадковою, так і неминучою. Обчислювальні потужності і дані, накопичені на ранній стадії, готові, і вам залишається тільки знайти відповідний прорив. Отже, справедливо сказати, що без OpenAI інші компанії досягли б аналогічних результатів, тому що час настав. **
Історія може здатися довгою, але в масштабі 3,5 мільярда років все лише миттєва річ. Аналогічно, для розвитку AGI це все ще може бути лише відправною точкою та іскрою, але з точки зору історії цивілізації, реалізація AGI може бути лише моментальним моментом, тому що перед ним немає жодних перешкод. **
Зараз багато хто закликає припинити навчання більших моделей. Деякі вчені, можливо, бачили потенційну силу великих моделей, і цим потенціалом може бути поява розумної свідомості. **
Генерація машинної свідомості
** і можливість перевершити людину ****
Т: Чи стають машини свідомими, як люди? У чому вона може перевершити людей? **
Лю Цзя: Проблема свідомості є однією з основних проблем людини, яка визначає істотну різницю між людьми і тваринами. Хоча неясно, як виникає свідомість, з еволюційної точки зору люди почали піддаватися масовим похованням близько 40 000 років тому, а це означає, що люди усвідомили різницю між тілом і душею і почали усвідомлювати своє власне існування.
Що стосується виникнення свідомості, то тут є дві можливості. Одним з них є втручання інопланетян, але ця точка зору ненадійна, тому що ми не можемо пояснити джерело чужої свідомості. Інша можливість полягає в тому, що свідомість виникає природним шляхом, коли модель досить велика. Свідомість може бути продуктом колективної діяльності нейронів головного мозку. Теорія інформаційної інтеграції (ІІТ) стверджує, що активація всіх нейронів виробляє більше інформації, ніж сума інформації, виробленої окремими нейронами. Тому, коли велика модель досить велика, виникнення свідомості неминуче. Звичайно, це теж дуже страшна річ. ** Тому що, на відміну від ядерної бомби, свідомість може дати майбутньому ШІ відчуття самозбереження, не даючи йому з-під контролю людини. **
** Для того, щоб вирішити проблему, яку штучний інтелект не може діяти, наступною гарячою точкою досліджень стане реалізація втілення штучного інтелекту. Людське сприйняття і пізнання обмежені, в той час як штучний інтелект може мати більше органів чуття і, отже, спостерігати за навколишнім світом. Це зробить світ, побачений ШІ, зовсім не схожим на людський. Наприклад, любителі дайвінгу можуть занурюватися лише на глибину понад 100 метрів під воду, але не можуть випробувати відчуття перебування на глибині 1000 метрів під водою. Однак за допомогою датчиків тощо штучний інтелект може безпосередньо відчути цей досвід без стресу.
Зараз розвиток штучного інтелекту спирається на людські знання та гуманізм, і ми можемо дати йому обмежені когнітивні межі. Однак, як тільки у ШІ з'явиться агент, він може більше не обмежуватися цими межами. Вона може отримувати різноманітні знання більш ефективним способом, а широта і глибина знань набагато більша, ніж у людини, таким чином формуючи позитивний еволюційний цикл самонавчання, самозворотного зв'язку та самооптимізації. З цієї точки зору інтелект штучного інтелекту легко перевершує людину.
Доля людства в епоху ШІ:
Новий розділ в еволюції когнітивної революції та цивілізації
**T: Перед обличчям такого потужного штучного інтелекту, чи можливо знищити людей за допомогою штучного інтелекту? **
Лю Цзя: Я думаю, що ми можемо поглянути на це з двох точок зору. Перш за все, якщо ви побачите мураху, чи не наступите ви на неї? Я не думаю, що більшість людей це зроблять. Так само в майбутньому, перед обличчям штучного інтелекту, ми, можливо, навіть не будемо такими хорошими, як мурахи. Зараз ми все ще можемо бачити багато фільмів про війни машин, і всі вони мають передумову, тобто люди та машини все ще можуть конкурувати, і їхня сила – це боротьба.
Штучний інтелект, природно, має чотири переваги перед людьми: По-перше, необмежена обчислювальна потужність. Існує верхня межа розмірів людського мозку, і скільки б років еволюції він не виріс знову. Оскільки організм може підтримувати лише такий великий мозок, мозок вже є найбільшим органом споживання енергії в організмі. По-друге, необмежене сховище. Людський мозок має межу зберігання знань, немає такого поняття, як «мозок не до кінця розвинений», і комп'ютери не мають цієї проблеми. По-третє, нескінченна тривалість життя. Людські генії, такі як Ейнштейн, як тільки вони помирають, цивілізація переривається. Комп'ютери можуть замінити пошкоджені деталі в будь-який час, що дозволить продовжити знання. По-четверте, існують безмежні можливості для пізнання. Комп'ютери можуть навчатися більш складним і високовимірним знанням, ніж люди.
У сукупності люди не мають шансів на перемогу порівняно зі штучним інтелектом. Майбутнє може бути вже не протистоянням між людьми та штучним інтелектом, а скоріше швидким перевершенням людей штучним інтелектом. Одного разу перевернувши, доля людства більше не буде в центрі уваги ШІ, так само, як ми не будемо щодня боротися з мурахами.
З реалістичної точки зору, майбутні війни між людиною і машиною неможливі. Фактично, ми можемо інтегрувати себе в комп'ютери та майбутній штучний інтелект, наприклад, завантажувати наші спогади, особистості та свідомі емоції в ШІ, щоб ми могли досягти безсмертя в ШІ. У майбутньому одна машина могла б вмістити мільйони людей.
Насправді це пов'язано з дуже фундаментальним питанням: хто ми такі, якими ми є. Наприклад, коли людина страждає на хворобу Альцгеймера, вона все одно залишається собою? Це знаменита головоломка «Корабель Тесея»**, історія, розказана давньоримським філософом. У цій історії корабель з часом був замінений, тож корабель все ще оригінальний?
З точки зору еволюції людини, ми також постійно змінюємося, наприклад, клітини нашої шкіри оновлюються приблизно раз на тиждень. Отже, ми все ще самі? Це називається когнітивною ідентичністю, і поки ми думаємо про себе, як про себе, то все добре.
Коли людина страждає на шизофренію, в якомусь сенсі вона мертва, тому що її «когнітивна ідентичність» була порушена. Так само, коли людина страждає на хворобу Альцгеймера і всі спогади та емоції зникають, вона також мертва з точки зору когнітивної ідентичності. **
Тому, поки зберігається наша когнітивна ідентичність, не має значення, де ми знаходимося, у плоті чи в машині. Якщо ми зможемо використовувати штучний інтелект, людство зможе надзвичайно розширитися. Наше фізичне тіло насправді є найбільшим обмеженням для нашого розуму, тому що воно вмирає, а наш інтелект обмежений генами.
З точки зору цивілізації, людина є лише перехожим у розвитку цивілізації. Тому, якщо ми продовжуватимемо обмежувати ШІ розумінням цивілізації в рамках людини, то ми не зможемо по-справжньому зрозуміти еволюцію цивілізації. Минуло близько 3 мільйонів років з тих пір, як люди і мавпи почали розходитися і еволюціонувати, а історія наших прямих предків налічує всього близько 200 000 років, в порівнянні з динозаврами, які жили на Землі набагато довше, ніж ми, люди. Уявіть, як було б сумно, якби люди дійсно могли дожити до кінця Всесвіту. Наші обчислювальні потужності обмежені, і в якійсь мірі ми навіть розумово відсталі істоти. Тому з ШІ ми дійсно можемо почати говорити про еволюцію цивілізації. За допомогою штучного інтелекту ми можемо навіть літати на відстані тисяч світлових років, що ми зараз навряд чи можемо собі уявити. Опинившись у такому стані, час і простір більше не будуть пов'язані нашим розумінням таємниць Всесвіту. **
Коли ми говоримо про штучний інтелект, ми повинні розглядати його не лише як енергоефективний інструмент, а й як важливий рушій цивілізації. Хоча штучний інтелект має багато застосувань у бізнесі, ці програми насправді ніщо в порівнянні з появою штучного інтелекту. Як і винахід електрики, електричного світла, телефону та парової машини, ці винаходи дійсно дуже допомогли людству, але для AGI це може бути не дрібницею. **
З позитивної точки зору, штучний інтелект корисний для людської цивілізації. Коли ми говоримо про вимирання, ми насправді говоримо про вимирання людської цивілізації. Наприклад, з історичної точки зору, вимерли анаеробні бактерії та цивілізації динозаврів. Але цивілізація, яку вони створили, насправді живе в нас, людях. Коли ми говоримо, що цивілізація динозаврів вимерла, насправді сама цивілізація нікуди не зникла, а змінився лише носій. Припустимо, цивілізацію порівнюють з людьми, а перевізників з автомобілями, тоді ми не сумуємо, коли машину пошкоджують і замінюють. За допомогою нових перевізників ми можемо йти далі, екологічніше і безпечніше.
Тому поява AGI стане ще одним стрибком вперед у людській когнітивній революції, яка повністю змінить наше розуміння себе та Всесвіту, дозволивши глибше зрозуміти власну обмеженість та нікчемність. Більш того, поява AGI також принесе необмежені можливості і можливості, дозволяючи нам краще досліджувати і використовувати ресурси і енергію Всесвіту для сприяння розвитку і прогресу людської цивілізації.
GPT для зміни освіти:
Переформатування екзаменаційної системи та культивування інноваційних талантів
Нарешті, повернемося до загальної турботи про освіту. Ви також викладач університету, як ви бачите вплив GPT на майбутню модель освіти та як з цим боротися?**
Лю Цзя: Хоча інтернет-освіта підвищила ефективність, вона не змінила суті освіти. Ядро освіти має включати індивідуалізоване навчання, дебати та пошук істини, а також стимулювання самоцілеспрямованості та допитливості учнів. У міру розвитку технології GPT досягнення цих цілей стає більш здійсненним. GPT може надати кожному студенту персоналізовану освіту, яка допоможе їм генерувати правду через дебати, стимулювати самодрайв і критичне мислення. В результаті освіта в майбутньому вже не буде приділяти занадто багато уваги знанням. **
** Поява GPT матиме великий вплив на систему гаокао або підштовхне до реальних реформ. ** Двома основними особливостями системи вступних іспитів до коледжів Китаю є ретроспективний іспит та перевірка знань. З появою GPT інформативність стала менш важливою, оскільки до знань можна було звернутися в будь-який час. Фокус іспиту також повинен бути зміщений з розвитку інтелектуальних працівників на культивування інноваційних талантів і прогнозування майбутніх здібностей дитини та відповідних спеціальностей.
Учням необхідно розвивати критичне мислення та креативне мислення. Критичне мислення наголошує на пошуку істини за допомогою аргументів, а не зазубрювання. Творче мислення вимагає толерантності, допитливості та унікального мислення. Поява GPT неодмінно спровокує зміну парадигми в освіті, тенденцію, яку неможливо зупинити, так само, як поїзди та автомобілі зрештою замінять кінні екіпажі. **
Суб'єктивна воля людини дуже крихка перед законами природи. Як говорить відома приказка: «Можна порушити закон, але не закони фізики». "Ви можете кинути виклик закону, але ви не можете кинути виклик закону фізики) **** По суті, поява GPT сама по собі є проявом природного закону. Це лише питання часу, коли це також призведе до реформи нашої освіти. **
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
ChatGPT означає прихід другої когнітивної революції
Передмова**:**
У серіалі «Довга пора» є кілька віршів: «** клацни пальцями, каже він / Ми клацаємо пальцями з резонансом / Далекі речі розіб'ються / Люди перед тобою в цей час не знають **».
Учитель Лю Цзя сказав, що доречно використовувати цей вірш для опису сучасного стану людей, які стикаються з AGI (штучним загальним інтелектом).
"Кожне наше передбачення про майбутнє може бути безглуздим і безглуздим, і майбутнє може бути не таким, яким ви його називаєте. Однак тільки тоді, коли все більше і більше людей долучаються до обговорення, разом відкривають мізки, разом блискуче мислять і навіть разом говорять дурниці, можливо, ми дійсно зможемо змінити майбутнє і разом привести людство до кращого майбутнього. "
Наприкінці вересня ми відвідали професора Лю Цзя в лабораторії мозку та інтелекту Університету Цінхуа. У цьому обміні, ґрунтуючись на багаторічному накопиченні досліджень у галузі науки про мозок та штучного інтелекту, професор Лю Цзя розповів про майбутній розвиток AGI на чолі з ChatGPT та його можливий вплив на людей, а також висунув багато «химерних ідей», заснованих на його дослідницькій галузі, які глибоко надихнули нас.
Говорячи про майбутній розвиток галузі AGI, Лю Цзя сказав, що, з одного боку, прискорюється втілений і втілений інтелект агента ШІ, тобто великої моделі; З іншого боку, вчені, які вивчають мозок і когнітивісти, включаючи його, почали енергійно обговорювати проблему свідомості, яку AGI може створити в майбутньому.
На думку пана Лю, в житті людини дуже мало можливостей пережити зміну парадигми, яка веде за собою зміни часу. У цей момент ми перебуваємо на такому важливому історичному етапі. Хоча ми також повинні визнати, що така зміна пов'язана з багатьма ризиками. Наприклад, безробіття і те, що ми повинні вдосконалювати свою здатність вчитися і освоювати нові інструменти.
Однак просто подивіться на це з іншого боку, і ви побачите, що цей новий світ показує нам безмежні можливості. Технологія GPT допомагає нам відійти від виснажливої повторюваної та інтелектуальної роботи, дозволяючи нам присвятити себе більш творчій та корисній кар'єрі та зробити наш час більш значущим. Можливо, в цьому і полягає прояв справжньої цінності людини.
«Наше майбутнє – це минуле, тому що минулий вибір визначає результат сьогодення. Однак наше сьогодення – це не минуле майбутнього, тому що майбутнє сповнене невідомого, і вибір, зроблений тут і зараз, формує те, як виглядатиме наше майбутнє. "
Дивлячись у майбутнє, тільки уява. Ми запишемо основні погляди цього діалогу з Лю Цзя та поділимося ними з читачами Tencent Research Institute.
Давайте клацнемо пальцями і обіймемо майбутнє разом.
Гості діалогу:
Лю Цзя, доктор філософії з Массачусетського технологічного інституту, давно займається психологією, наукою про мозок та дослідженнями штучного інтелекту. Професор фундаментальних наук, завідувач кафедри психології Університету Цінхуа, головний науковий співробітник лабораторії мозку та інтелекту Університету Цінхуа, головний науковий співробітник Пекінського інституту штучного інтелекту KLCII
Інтерв'юер (далі – Т):
Ню Фулянь Старший науковий співробітник Науково-дослідного інституту Тенсента
Ван Цян Директор Науково-дослідного центру Frontier Science and Technology Research Institute
AGI: Запалювання іскри другої когнітивної революції **** **
Як дослідник у галузі науки про мозок та штучного інтелекту, як ви бачите розвиток AGI, спровокований ChatGPT, та його можливий вплив на майбутнє людства? **
Лю Цзя: До того, як OpenAI випустила ChatGPT 30 листопада минулого року, більшість людей говорили про штучний інтелект і думали, що він магічний, але часто лише з точки зору цікавості. Однак, з моменту появи ChatGPT, я думаю, що всім необхідно звернути увагу та зрозуміти його розвиток та зміни. Майбутнє загального штучного інтелекту (AGI) буде таким же важливим, як і гідроенергетика, не тільки змінюючи спосіб нашої роботи, але й потенційно безпосередньо впливаючи на майбутнє кожного з нас, наприклад, на оволодіння навичками, розвиток дитини та розвиток людини. На мою думку, це може означати настання другої когнітивної революції. **
Чому її називають другою когнітивною революцією? Почнемо з того, що розглянемо, як сталася перша когнітивна революція. Близько 70 000-100 000 років тому два види людей, Homo sapiens і неандертальці, жили разом на Землі. Хоча неандертальці перевершували нас у зрості та силі, їх зрештою замінили Homo sapiens. Як наш предок Homo sapiens переміг неандертальців? Є припущення, що між 70 000 і 100 000 років тому відбулася перша когнітивна революція, яка проявилася у вибуховому зростанні та різноманітності знарядь праці людей. До цього, від найдавніших Homo erectus до неандертальців, кам'яні знаряддя, які вони виготовляли, були схожими, але більш складними та геніальними. Однак під час першої пізнавальної революції виготовлення людиною кам'яних знарядь праці зазнало якісних змін, перестало не просто виготовляти прості знаряддя праці, такі як сокири та списи, а стали з'являтися намиста та інші прикраси, а також вирізання різних візерунків на каменях і кістках.
Озираючись назад, ми виявляємо, що в ту епоху людство поступово розвинуло спосіб мислення, який ми сьогодні називаємо регуляризованим мисленням, коротше кажучи, «а що, якщо... Крім того...... Отже..." (якщо... і...... потім). Наприклад, було виявлено, що після пробиття отвору в предметі на нього можна було протягнути нитку. Цей спосіб мислення, заснований на правилах, приніс людям нескінченну творчість, наприклад, пробивати отвори в тканині та проходити через них палицями, щоб зробити вітрильники. З тих пір творчий потенціал людини повністю розкрився, і поступово сформувалася потужна логіка - дедуктивні міркування.
Дедуктивне міркування - це застосування цієї логіки для створення нових винаходів і творінь на основі наріжного каменя міркування. Аристотель придумав таке поняття, назване першим принципом. Щось подібне якось сказав Конфуцій: «Джентльмен - правитель, а оригінал народжується відразу». «Це означає, що все можна виробляти, якщо починати з коренів. Під керівництвом цієї концепції люди почали робити велику кількість винаходів, які вже не обмежувалися виготовленням простих знарядь праці, таких як списи, а з'являлися різні винаходи та творіння. Врешті-решт Homo sapiens переміг неандертальців і закріпив статус сучасної людини. З тих пір Homo sapiens на Землі по-справжньому домінують на планеті. Цей процес став відомим як перша когнітивна революція, і його значення значно перевищило такі винаходи, як парова машина та електроприлади.
Сьогодні визначення другої когнітивної революції викликало широкі дискусії, наприклад, чи є винахід атомної бомби частиною другої когнітивної революції. Але я думаю, що тільки появу AGI можна назвати справжньою другою когнітивною революцією, тому що вона породить абсолютно новий вид, який сильно відрізняється від біологічної еволюції за останні 3,5 мільярда років. Цей новий вид воістину заслуговує на звання другої когнітивної революції. Перша когнітивна революція призвела до того, що Homo sapiens став господарем планети, тоді як друга когнітивна революція означала народження абсолютно нового розумного виду, який міг існувати поряд з людьми. **
Хоча нинішній ChatGPT ще не досяг рівня загального штучного інтелекту, він уже запалив іскру на шляху до загального штучного інтелекту. Іскра зазвичай має два значення: перше полягає в тому, що вона може спричинити пожежу, яка запалить рівнину; По-друге, освітлювати надію в темряві. Однак багато людей недооцінюють цінність ChatGPT і дивляться на нього лише з точки зору бізнесу, думаючи, що це не що інше, як винахід, який можна порівняти з моментом iPhone. Я думаю, що це коштує набагато більше, ніж ці поверхневі огляди, і ChatGPT – це початок другої когнітивної революції. **
З точки зору еволюції людини, ми виявили, що організми еволюціонували протягом мільярдів років, тоді як мавпам знадобилося лише 3 мільйони років людині. Протягом цих 3 мільйонів років природа «намагалася знайти» напрямки, і коли вона знайшла напрямок прямоходіння, обсяг людського мозку прискорив його еволюцію, потроївшись всього за 3 мільйони років, що є дивовижною швидкістю. І це все завдяки правильному напрямку, тобто невелике збільшення мозку принесе велику користь. Подібним чином AGI шукає напрямок, і як тільки він це зробить, він вступить у процес прискореної еволюції. Хоча ми ще не стали свідками народження AGI, поки є ця іскра, решта процесу є лише інженерною проблемою. **
Модель мозку та AGI:
Нові подібності та відмінності** **
У чому схожість і відмінність між розумною природою мозку і машинним когнітивним інтелектом великої моделі AGI? **
Лю Цзя: Коли наш мозок росте, виникає незрозуміле явище, яке називається «емерджентність». Це схоже на те, що зустрічається при побудові великих моделей: коли модель маленька, функцій мало, але коли модель стає більшою, деякі особливості проявляються природним чином. Наприклад, високі люди не обов'язково добре грають у баскетбол, але тренери зазвичай вибирають високих людей. Це також означає, що великі моделі не обов'язково виробляють інтелект, але для вивчення інтелекту повинні бути великі моделі, що є необхідною умовою. У міру того, як людський мозок поступово розширюється, багато функцій також з'являються природним чином, наприклад, наслідування та навчання.
Наприклад, Чжан Сан винайшов «добування вогню», вогонь дуже важливий для життя, інші теж хочуть вчитися, але проблема в тому, що вони можуть не вміти вчитися. Численні дослідження показали, що коли розмір мозку збільшується, наша здатність наслідувати або вчитися стає сильнішою. Таким чином, ми можемо навчитися розводити вогонь у Чжан Саня, щоб принести користь племені. Так само ми можемо вивчати й інші нові технології. Тому, з наукової точки зору, людину створює наслідування, а не праця. ** Велика кількість досліджень показала, що люди з великим мозком мають сильнішу здатність до наслідування; Люди з сильними навичками наслідування мають більше шансів знайти партнера, що, в свою чергу, полегшує передачу генів. Дослідження примітивних племен також виявили, що люди з сильними здібностями до наслідування або навчання мають більше шансів на розмноження. Тому чим більший мозок, тим більше він увічнений.
За останні 3 мільйони років мозок поступово ставав більшим, і ось чому. Коли ми озираємося на нейронні мережі, вони роблять те ж саме. З самого початку люди пробували різні методи, такі як навчання з підкріпленням, навчання під наглядом і т.д., але всі ці поняття взаємопов'язані. Велика частина енергії OpenAI в перші кілька років полягала в тому, щоб робити одну справу: робити моделі більшими. Потім з'явилася архітектура Transformer, яка зробила великі моделі більш ефективними. Але, по суті, суть інтелекту може полягати лише в одному слові: великий. Це схоже на те, що ми можемо говорити про інтелект лише тоді, коли мозок достатньо великий. Отже, «велика» — це передумова. **
Люди розумніші за мавп, а мавпи розумніші за мишей з однієї простої причини: мозок досить великий. **Звичайно, це не достатня умова, але необхідна умова. Деякі істоти мають значно більший мозок, ніж люди, наприклад, слони та кити, але це не гарантує, що вони матимуть інтелект. Наприклад, якщо ми відправимо новонароджену дитину на 3000 або 5000 років назад, вона не буде розумнішою за тубільців, тому що структура мозку така сама. Але якщо ми, дорослі, повернемося на 5000 років назад, ми станемо їхніми духовними лідерами, тому що у нас є знання. Отже, розвиток інтелекту є результатом взаємодії знань і мозку, а мало мати мозок без знань.
Тому нам потрібно використовувати цивілізацію та знання, щоб налаштувати мозок, що ми і називаємо освітою. Еволюцію людського інтелекту можна розглядати як взаємодію між поступовим збільшенням мозку і накопиченням знань. З одного боку, мозок має можливість ставати все більше і більше; З іншого боку, після того, як мозок стає більшим, він може виробляти знання, а знання можуть накопичуватися, що, у свою чергу, діє на мозок, роблячи мозок більш придатним для цих знань і здатним краще утримувати ці знання.
Те ж саме стосується і штучного інтелекту. Без достатньої кількості хорошого і достатнього корпусу, якою б великою не була модель, це не має сенсу. Без Інтернету розвідка була б неможливою. Тому поява таких явищ, як великі моделі та ChatGPT, є як випадковою, так і неминучою. Обчислювальні потужності і дані, накопичені на ранній стадії, готові, і вам залишається тільки знайти відповідний прорив. Отже, справедливо сказати, що без OpenAI інші компанії досягли б аналогічних результатів, тому що час настав. **
Історія може здатися довгою, але в масштабі 3,5 мільярда років все лише миттєва річ. Аналогічно, для розвитку AGI це все ще може бути лише відправною точкою та іскрою, але з точки зору історії цивілізації, реалізація AGI може бути лише моментальним моментом, тому що перед ним немає жодних перешкод. **
Зараз багато хто закликає припинити навчання більших моделей. Деякі вчені, можливо, бачили потенційну силу великих моделей, і цим потенціалом може бути поява розумної свідомості. **
Генерація машинної свідомості
** і можливість перевершити людину ****
Т: Чи стають машини свідомими, як люди? У чому вона може перевершити людей? **
Лю Цзя: Проблема свідомості є однією з основних проблем людини, яка визначає істотну різницю між людьми і тваринами. Хоча неясно, як виникає свідомість, з еволюційної точки зору люди почали піддаватися масовим похованням близько 40 000 років тому, а це означає, що люди усвідомили різницю між тілом і душею і почали усвідомлювати своє власне існування.
Що стосується виникнення свідомості, то тут є дві можливості. Одним з них є втручання інопланетян, але ця точка зору ненадійна, тому що ми не можемо пояснити джерело чужої свідомості. Інша можливість полягає в тому, що свідомість виникає природним шляхом, коли модель досить велика. Свідомість може бути продуктом колективної діяльності нейронів головного мозку. Теорія інформаційної інтеграції (ІІТ) стверджує, що активація всіх нейронів виробляє більше інформації, ніж сума інформації, виробленої окремими нейронами. Тому, коли велика модель досить велика, виникнення свідомості неминуче. Звичайно, це теж дуже страшна річ. ** Тому що, на відміну від ядерної бомби, свідомість може дати майбутньому ШІ відчуття самозбереження, не даючи йому з-під контролю людини. **
** Для того, щоб вирішити проблему, яку штучний інтелект не може діяти, наступною гарячою точкою досліджень стане реалізація втілення штучного інтелекту. Людське сприйняття і пізнання обмежені, в той час як штучний інтелект може мати більше органів чуття і, отже, спостерігати за навколишнім світом. Це зробить світ, побачений ШІ, зовсім не схожим на людський. Наприклад, любителі дайвінгу можуть занурюватися лише на глибину понад 100 метрів під воду, але не можуть випробувати відчуття перебування на глибині 1000 метрів під водою. Однак за допомогою датчиків тощо штучний інтелект може безпосередньо відчути цей досвід без стресу.
Зараз розвиток штучного інтелекту спирається на людські знання та гуманізм, і ми можемо дати йому обмежені когнітивні межі. Однак, як тільки у ШІ з'явиться агент, він може більше не обмежуватися цими межами. Вона може отримувати різноманітні знання більш ефективним способом, а широта і глибина знань набагато більша, ніж у людини, таким чином формуючи позитивний еволюційний цикл самонавчання, самозворотного зв'язку та самооптимізації. З цієї точки зору інтелект штучного інтелекту легко перевершує людину.
Доля людства в епоху ШІ:
Новий розділ в еволюції когнітивної революції та цивілізації
**T: Перед обличчям такого потужного штучного інтелекту, чи можливо знищити людей за допомогою штучного інтелекту? **
Лю Цзя: Я думаю, що ми можемо поглянути на це з двох точок зору. Перш за все, якщо ви побачите мураху, чи не наступите ви на неї? Я не думаю, що більшість людей це зроблять. Так само в майбутньому, перед обличчям штучного інтелекту, ми, можливо, навіть не будемо такими хорошими, як мурахи. Зараз ми все ще можемо бачити багато фільмів про війни машин, і всі вони мають передумову, тобто люди та машини все ще можуть конкурувати, і їхня сила – це боротьба.
Штучний інтелект, природно, має чотири переваги перед людьми: По-перше, необмежена обчислювальна потужність. Існує верхня межа розмірів людського мозку, і скільки б років еволюції він не виріс знову. Оскільки організм може підтримувати лише такий великий мозок, мозок вже є найбільшим органом споживання енергії в організмі. По-друге, необмежене сховище. Людський мозок має межу зберігання знань, немає такого поняття, як «мозок не до кінця розвинений», і комп'ютери не мають цієї проблеми. По-третє, нескінченна тривалість життя. Людські генії, такі як Ейнштейн, як тільки вони помирають, цивілізація переривається. Комп'ютери можуть замінити пошкоджені деталі в будь-який час, що дозволить продовжити знання. По-четверте, існують безмежні можливості для пізнання. Комп'ютери можуть навчатися більш складним і високовимірним знанням, ніж люди.
У сукупності люди не мають шансів на перемогу порівняно зі штучним інтелектом. Майбутнє може бути вже не протистоянням між людьми та штучним інтелектом, а скоріше швидким перевершенням людей штучним інтелектом. Одного разу перевернувши, доля людства більше не буде в центрі уваги ШІ, так само, як ми не будемо щодня боротися з мурахами.
З реалістичної точки зору, майбутні війни між людиною і машиною неможливі. Фактично, ми можемо інтегрувати себе в комп'ютери та майбутній штучний інтелект, наприклад, завантажувати наші спогади, особистості та свідомі емоції в ШІ, щоб ми могли досягти безсмертя в ШІ. У майбутньому одна машина могла б вмістити мільйони людей.
Насправді це пов'язано з дуже фундаментальним питанням: хто ми такі, якими ми є. Наприклад, коли людина страждає на хворобу Альцгеймера, вона все одно залишається собою? Це знаменита головоломка «Корабель Тесея»**, історія, розказана давньоримським філософом. У цій історії корабель з часом був замінений, тож корабель все ще оригінальний?
З точки зору еволюції людини, ми також постійно змінюємося, наприклад, клітини нашої шкіри оновлюються приблизно раз на тиждень. Отже, ми все ще самі? Це називається когнітивною ідентичністю, і поки ми думаємо про себе, як про себе, то все добре.
Коли людина страждає на шизофренію, в якомусь сенсі вона мертва, тому що її «когнітивна ідентичність» була порушена. Так само, коли людина страждає на хворобу Альцгеймера і всі спогади та емоції зникають, вона також мертва з точки зору когнітивної ідентичності. **
Тому, поки зберігається наша когнітивна ідентичність, не має значення, де ми знаходимося, у плоті чи в машині. Якщо ми зможемо використовувати штучний інтелект, людство зможе надзвичайно розширитися. Наше фізичне тіло насправді є найбільшим обмеженням для нашого розуму, тому що воно вмирає, а наш інтелект обмежений генами.
З точки зору цивілізації, людина є лише перехожим у розвитку цивілізації. Тому, якщо ми продовжуватимемо обмежувати ШІ розумінням цивілізації в рамках людини, то ми не зможемо по-справжньому зрозуміти еволюцію цивілізації. Минуло близько 3 мільйонів років з тих пір, як люди і мавпи почали розходитися і еволюціонувати, а історія наших прямих предків налічує всього близько 200 000 років, в порівнянні з динозаврами, які жили на Землі набагато довше, ніж ми, люди. Уявіть, як було б сумно, якби люди дійсно могли дожити до кінця Всесвіту. Наші обчислювальні потужності обмежені, і в якійсь мірі ми навіть розумово відсталі істоти. Тому з ШІ ми дійсно можемо почати говорити про еволюцію цивілізації. За допомогою штучного інтелекту ми можемо навіть літати на відстані тисяч світлових років, що ми зараз навряд чи можемо собі уявити. Опинившись у такому стані, час і простір більше не будуть пов'язані нашим розумінням таємниць Всесвіту. **
Коли ми говоримо про штучний інтелект, ми повинні розглядати його не лише як енергоефективний інструмент, а й як важливий рушій цивілізації. Хоча штучний інтелект має багато застосувань у бізнесі, ці програми насправді ніщо в порівнянні з появою штучного інтелекту. Як і винахід електрики, електричного світла, телефону та парової машини, ці винаходи дійсно дуже допомогли людству, але для AGI це може бути не дрібницею. **
З позитивної точки зору, штучний інтелект корисний для людської цивілізації. Коли ми говоримо про вимирання, ми насправді говоримо про вимирання людської цивілізації. Наприклад, з історичної точки зору, вимерли анаеробні бактерії та цивілізації динозаврів. Але цивілізація, яку вони створили, насправді живе в нас, людях. Коли ми говоримо, що цивілізація динозаврів вимерла, насправді сама цивілізація нікуди не зникла, а змінився лише носій. Припустимо, цивілізацію порівнюють з людьми, а перевізників з автомобілями, тоді ми не сумуємо, коли машину пошкоджують і замінюють. За допомогою нових перевізників ми можемо йти далі, екологічніше і безпечніше.
Тому поява AGI стане ще одним стрибком вперед у людській когнітивній революції, яка повністю змінить наше розуміння себе та Всесвіту, дозволивши глибше зрозуміти власну обмеженість та нікчемність. Більш того, поява AGI також принесе необмежені можливості і можливості, дозволяючи нам краще досліджувати і використовувати ресурси і енергію Всесвіту для сприяння розвитку і прогресу людської цивілізації.
GPT для зміни освіти:
Переформатування екзаменаційної системи та культивування інноваційних талантів
Нарешті, повернемося до загальної турботи про освіту. Ви також викладач університету, як ви бачите вплив GPT на майбутню модель освіти та як з цим боротися?**
Лю Цзя: Хоча інтернет-освіта підвищила ефективність, вона не змінила суті освіти. Ядро освіти має включати індивідуалізоване навчання, дебати та пошук істини, а також стимулювання самоцілеспрямованості та допитливості учнів. У міру розвитку технології GPT досягнення цих цілей стає більш здійсненним. GPT може надати кожному студенту персоналізовану освіту, яка допоможе їм генерувати правду через дебати, стимулювати самодрайв і критичне мислення. В результаті освіта в майбутньому вже не буде приділяти занадто багато уваги знанням. **
** Поява GPT матиме великий вплив на систему гаокао або підштовхне до реальних реформ. ** Двома основними особливостями системи вступних іспитів до коледжів Китаю є ретроспективний іспит та перевірка знань. З появою GPT інформативність стала менш важливою, оскільки до знань можна було звернутися в будь-який час. Фокус іспиту також повинен бути зміщений з розвитку інтелектуальних працівників на культивування інноваційних талантів і прогнозування майбутніх здібностей дитини та відповідних спеціальностей.
Учням необхідно розвивати критичне мислення та креативне мислення. Критичне мислення наголошує на пошуку істини за допомогою аргументів, а не зазубрювання. Творче мислення вимагає толерантності, допитливості та унікального мислення. Поява GPT неодмінно спровокує зміну парадигми в освіті, тенденцію, яку неможливо зупинити, так само, як поїзди та автомобілі зрештою замінять кінні екіпажі. **
Суб'єктивна воля людини дуже крихка перед законами природи. Як говорить відома приказка: «Можна порушити закон, але не закони фізики». "Ви можете кинути виклик закону, але ви не можете кинути виклик закону фізики) **** По суті, поява GPT сама по собі є проявом природного закону. Це лише питання часу, коли це також призведе до реформи нашої освіти. **