Примітка редактора: поява штучного інтелекту висунула концепцію «сингулярності» на перший план. Багато людей у Кремнієвій долині вірять, що штучний інтелект повністю змінить людське суспільство. Однак існують також занепокоєння щодо потенційних негативних наслідків штучного інтелекту, включаючи ймовірність того, що він може знищити людство. Ця стаття є підбіркою, в якій автор обговорює концепцію «сингулярності», обговорює хвилювання та занепокоєння Силіконової долини щодо штучного інтелекту, а також підкреслює потенційні переваги та ризики цієї технології.
Джерело зображення: створено Unbounded AI
фокус
Сингулярність, момент, коли технології та штучний інтелект кардинально змінюють світ, — концепція, яка довгоочікувана, але водночас жахає Кремнієву долину.
Хоча існує хвилювання щодо потенційного позитивного впливу штучного інтелекту, існує також занепокоєння, що він може мати катастрофічні наслідки для людства.
*На даний момент велика увага в ШІ та Singularity приділяється розробці великих мовних моделей, але все ще тривають дебати щодо того, чи справді ці моделі представляють експоненціальне зростання інтелекту, обіцяне Singularity.
Десятиліттями Силіконова долина чекала появи нової технології, яка революціонізує спосіб життя людей, економіку та соціальні інститути. Він може об’єднати людей і машини, можливо, створивши безпрецедентні можливості та виклики, а також розділивши історію на дві епохи «до» і «після».
Назву цієї віхи можна назвати «Сингулярність».
Примітка перекладача: «Сингулярність» — це концепція, запропонована американським письменником-фантастом Вернором Вінджем, яка стосується можливої події чи ситуації в майбутньому, тобто інтелект штучного інтелекту перевищує інтелект людини. Рівень інтелекту, тим самим викликаючи вибухові зміни в технологіях і суспільстві, роблячи те, що станеться в майбутньому, важко передбачити та зрозуміти.
Сингулярності можуть виникати кількома способами. Однією з можливостей є те, що люди зробили себе могутнішими, включивши обчислювальну потужність комп’ютерів у свій власний вроджений інтелект. Або комп’ютер може стати настільки складним, що він дійсно зможе мислити, створюючи «глобальний мозок».
Будь-який сценарій принесе різкі експоненціальні зміни, жоден з яких не можна скасувати. Самосвідома надрозумна машина, здатна проектувати, удосконалювати та вдосконалювати себе набагато швидше, ніж будь-яка команда вчених, безумовно, спровокувала б інтелектуальний вибух. Успіхи, досягнуті протягом останніх століть, можуть стати проривними всього за кілька років або навіть місяців. Сингулярність – це катапульта в майбутнє.
Сьогодні штучний інтелект робить безпрецедентні хвилі в технологіях, бізнесі та політиці. Судячи з усіх гіпербол і абсурдів, які випливають із Кремнієвої долини, здається, що це надзвичайно рожеве майбутнє нарешті тут.
Сундар Пічаї, зазвичай стриманий генеральний директор Google, сказав, що «штучний інтелект перевершив вогонь, електрику чи будь-які минулі технологічні досягнення за важливістю та впливом». Інвестор-мільярдер Рейд Хоффман (Reid Hoffman) сказав: «У світі з'явиться безпрецедентна сила, яка підштовхне все людське суспільство вперед». Співзасновник Microsoft Білл Гейтс (Bill Gates) ) заявив, що штучний інтелект «змінить шлях люди працюють, навчаються, подорожують, отримують медичну допомогу та спілкуються один з одним».
Штучний інтелект — це найкращий новий продукт із Кремнієвої долини, здатний надавати надлюдські здібності на вимогу.
Але є також прихована проблема, яку не можна ігнорувати. Це ніби технологічні компанії випускають безпілотні автомобілі з попередженням про те, що вони можуть вибухнути дорогою до Walmart.
У травні цього року Ілон Маск, глава Tesla і Twitter, заявив в інтерв'ю US Consumer News and Business Channel (CNBC): «Появу штучного загального інтелекту називають дивом. Справа в тому, що після цього , буде важко передбачити, що буде далі". Він вважає, що ми відкриємо "вік достатку" (вік достатку), але ризик того, що штучний інтелект "знищить людство", "все ще неприйнятний". ігнорувати ".
У світі технологій найсильнішим прихильником штучного інтелекту є Сем Альтман, генеральний директор американської компанії зі штучного інтелекту OpenAI. Чат-бот стартапу ChatGPT, запущений минулого року, також викликав постійний ентузіазм. Альтман сказав, що штучний інтелект буде «найбільшою силою розширення економічних можливостей і багатства для багатьох».
Однак для Маска, який заснував компанію, що розробляє технологію інтерфейсу мозок-комп’ютер, він також вважає, що критика Маска виправдана.
Нещодавно Альтман підписав спільний відкритий лист, спонсорований некомерційною організацією «Центр безпеки ШІ» (Center for AI Safety). «Запобігання ризику вимирання, спричиненого штучним інтелектом, повинно бути глобальним пріоритетом», нарівні з «пандеміями та ядерною війною», — йдеться в листі. Серед інших підписантів – колеги з компанії OpenAI та інформатики з Microsoft і Google.
Сем Альтман, генеральний директор OpenAI, американської компанії штучного інтелекту, є найбільшим прихильником штучного інтелекту. Джерело зображення: Haiyun Jiang
Апокаліпсис — знайома, навіть популярна тема в Кремнієвій долині. Кілька років тому, здавалося, майже кожен технічний керівник побудував притулок кінця світу десь посеред нічого, добре укомплектований на випадок, якщо він їм знадобиться. У 2016 році Альтман також сказав, що він «запасся зброєю, золотом, йодистим калієм, антибіотиками, батареями, водою, протигазами ЦАХАЛу та побудував величезний притулок у Біг-Сурі, куди можна відразу полетіти». змусили тих, хто пережив технології, відчути себе виправданими, принаймні на деякий час.
Зараз вони готуються до приходу сингулярності.
У зв’язку з цим Балдур Б’ярнасон, автор «Ілюзії інтелекту», сказав: «Вони вважають себе дуже мудрими, але їхні слова більше нагадують 1000 рік нашої ери. Ченці говорять про апокаліпсис. Це трохи тривожно».
Походження "Beyond"
Витоки концепції «сингулярності» можна простежити до піонера інформатики Джона фон Неймана в 1950-х роках. Фон Нейман одного разу передбачив, що «постійне прискорення прогресу технології» призведе до «стрижневої сингулярності в історії людства».
Піонер інформатики Джон фон Нейман. Кредит зображення: Getty Images
Британський математик Ірвінг Джон Гуд також був сильним прихильником цієї точки зору. Він допомагав британському уряду у зламі німецької шифрувальної машини Enigma в Блетчлі-парку (Блетчлі-парк, головне місце, де британський уряд проводив злам кодів під час Другої світової війни). У 1964 році він написав: «Рання конструкція надрозумних машин є ключем до виживання людства».
Коли американський кінорежисер Стенлі Кубрик став режисером зйомок науково-фантастичного фільму «2001: Космічна одіссея», він попросив у Ґуда поради щодо доброго і зловмисного персонажа зі штучним інтелектом ХАЛа, раннього прикладу розмитої межі між інформатикою та наукова фантастика.
Ганс Моравек, ад’юнкт-професор Інституту робототехніки при Університеті Карнегі-Меллона, вважає, що поява Сингулярності не тільки принесе користь живим, але й поверне мертвих до життя.
«У нас буде можливість відтворити минуле та взаємодіяти з ним реальним і миттєвим способом», — пише він у книзі Mind Children: The Future of Robot and Human Intelligence.road.
Підприємець і винахідник Рей Курцвейл також був найбільшим прихильником Сингулярності в останні роки. Курцвейл є автором книг «Епоха розумних машин» у 1990 році та «Сингулярність близько» у 2005 році. Зараз Курцвейл пише книгу «Сингулярність близько».
Він прогнозує, що до кінця цього десятиліття комп’ютери пройдуть тест Тюрінга і їх неможливо буде відрізнити від людей. Ще через п’ятнадцять років настане справжня трансцендентність: «Коли обчислювальна технологія буде інтегрована в нас, наш інтелект значно покращиться, можливо, у сотні разів».
На той час Курцвейлу мало б виповнитися 97 років. За допомогою різних вітамінів і добавок він сподівається, що доживе до настання цієї ери.
Підприємець і винахідник Рей Курцвейл також є найбільшим прихильником Сингулярності. Авторство: Friso Gentsch/Picture Alliance
Деякі критики Сингулярності вважають, що концепція Сингулярності намагається створити систему переконань у сфері програмного забезпечення, схожу на організовану релігійну віру. Підкріплену суворими науковими доказами, її важко бути переконливою.
«Вони всі хочуть безсмертя, але не хочуть вірити в «Бога», — сказав Родні Брукс, колишній директор лабораторії комп’ютерних наук і штучного інтелекту Массачусетського технологічного інституту.
Сьогодні нововведення в суперечці про «Singularity» в основному стосуються великих мовних моделей (LLM), системи штучного інтелекту, яка також лежить в основі розробки чат-ботів. Поговоріть із цими великими мовними моделями, і вони зможуть відповісти на запитання швидко, зв’язно та часто досить висвітлюючі відповіді.
За словами Джеррі Каплана, давнього підприємця зі штучного інтелекту та автора книги «Штучний інтелект: що потрібно знати кожному», «Коли ви задаєте велику модель мови, нарешті, вона розуміє значення запитання, визначає, якою має бути відповідь, а потім представляє відповідайте письмово. Якщо це не визначення загального інтелекту, то що таке?"
Каплан також сказав, що він скептично ставиться до високопрофільних технологій, таких як безпілотні автомобілі та криптовалюти. Так само раніше він скептично ставився до останнього захоплення ШІ, але почав змінювати свою думку щодо ШІ, побачивши потенціал, який він представляє.
«Якщо це не «сингулярність», то це точно так. Це технологія величезного впливу, яка значно просуне людство в мистецтві, науці та знаннях. І, звичайно, це викличе деякі проблеми», — сказав він. додано.
Критики заперечують, що навіть якщо великі мовні моделі досягають вражаючих результатів, це не може зрівнятися з величезним глобальним інтелектом, зображеним Сингулярністю. Частина проблеми з проведенням межі між ажіотажем і реальністю полягає в тому, що принципи й алгоритми, які керують цією технологією, стає все важче розкрити.
OpenAI починався як некомерційна організація з відкритим кодом, але згодом перетворився на комерційне підприємство. Деякі критики зазначають, що OpenAI зараз фактично є «чорною скринькою», і кожному важко зрозуміти його внутрішню роботу. У зв'язку з цим Google і Microsoft також мають низький ступінь розкриття інформації.
Більшість поточних досліджень штучного інтелекту проводяться компаніями, які отримають вигоду від результатів. Попередня версія останньої моделі OpenAI «демонструє кілька інтелектуальних функцій», включаючи «абстрактну здатність, розуміння, візуальну здатність, здатність до кодування» та «здатність розуміти людську мотивацію та емоції».
Райлан Шеффер, докторант з комп’ютерних наук Стенфордського університету, каже, що деякі дослідники штучного інтелекту були неточними в описі «емергентної сили», яку демонструють ці великі мовні моделі. Хоча ці великі мовні моделі мають деякі невідомі та важкоінтерпретовані можливості, ці можливості неочевидні та не присутні в менших версіях мовної моделі.
Шафер і двоє інших колег зі Стенфордського університету, Брандо Міранда та Санмі Коєджо, розглянули це питання в дослідницькій статті, опублікованій у травні, дійшовши висновку, що ця здатність, що виникає, є лише «ілюзією», спричиненою помилками вимірювання, а не збільшенням розміру та складності моделі. . Насправді дослідники можуть бути схильні бачити результати, які вони хочуть бачити.
Безсмертя, безсмертя
У Вашингтоні, Лондоні та Брюсселі законодавці починають усвідомлювати можливості та проблеми, які створює штучний інтелект, і починають обговорювати питання регулювання. Альтман проводить промо-шоу для OpenAI, щоб відмахнутися від перших критиків і водночас назвати свою компанію лідером в епоху Singularity.
Це включає в себе відкритість для регулювання, але конкретна форма регулювання ще не зрозуміла. Тим не менш, у Кремнієвій долині поширена думка, що державні установи неефективні та їм бракує досвіду, щоб ефективно регулювати технологічний сектор, що швидко розвивається.
«Немає нікого в державному відомстві, хто б це правильно розумів», — сказав колишній генеральний директор Google Ерік Шмідт у інформаційному ток-шоу «Знайомство з пресою» на початку цього року. «І висунув ідею саморегулювання штучного інтелекту. «Але галузь має спроможність впроваджувати правила приблизно правильно», — додав він.
Штучний інтелект, як і технологічна сингулярність, розглядається як незворотний у змінах, які він приносить. Альтман і його колеги нещодавно заявили, що "механіми контролю, подібні до глобальної системи регулювання, повинні бути створені для стримування подальшого розвитку штучного інтелекту, але навіть це не може гарантувати успіху". Якщо ви цього не зробите, це має зробити хтось інший це.
Однак про величезні прибутки, отримані від цього, зараз рідко говорять. Незважаючи на поширене уявлення про те, що штучний інтелект — це машина, яка створює необмежене багатство, фактично на цьому отримують прибуток вже багаті люди.
Цього року ринкова вартість Microsoft зросла на 5 трильйонів доларів. Nvidia, яка виробляє чіпи для систем, що працюють зі штучним інтелектом, також нещодавно стала однією з найдорожчих державних компаній у США через різке зростання попиту на чіпи.
«Штучний інтелект — це технологія, яку людське суспільство завжди прагнуло мати», — написав Альтман у Twitter.
Незаперечно, що це справді технологія, на яку чекав світ технологій, і вона прийшла в ідеальний час.
Минулого року Кремнієва долина зазнала подвійного удару звільнень і підвищення процентних ставок, тоді як криптовалюти після періоду підйому та спаду швидко занепали через шахрайство та розчарування, яке послідувало.
«Слідуй за грошима», — каже Чарльз Стросс, співавтор науково-фантастичного роману «Захоплення ботанів», який з гумором описує технологічну унікальність. Стросс також є автором науково-фантастичного роману «Акселерандо», в якому він теж малює більш серйозну і серйозну картину того, як може виглядати життя в майбутньому.
«Реальна можливість полягає в тому, що компанії зможуть замінити програмним забезпеченням багато дефектних, дорогих, нереагуючих блоків обробки інформації, керованих людиною, тим самим зменшуючи витрати та підвищуючи ефективність», — сказав він.
Протягом тривалого часу люди уявляли технологічну сингулярність як подію глобального впливу, яка може повністю підірвати людську когнітивну систему, і сила цієї зміни вражає. Поки що така можливість все ще існує.
Однак, частково через надзвичайну гонитву за корпоративними прибутками в Силіконовій долині сьогодні, це призведе до того, що технологічна унікальність буде використовуватися в першу чергу як інструмент звільнення. У гонитві за ринковою капіталізацією в трильйони доларів дрібні проблеми можна поки що відкласти.
Переглянути оригінал
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
У Кремнієвій долині гаряче обговорюють «особливість» штучного інтелекту: чи настала ера машин, що перевершують людину?
Перше джерело: 36 криптону
Примітка редактора: поява штучного інтелекту висунула концепцію «сингулярності» на перший план. Багато людей у Кремнієвій долині вірять, що штучний інтелект повністю змінить людське суспільство. Однак існують також занепокоєння щодо потенційних негативних наслідків штучного інтелекту, включаючи ймовірність того, що він може знищити людство. Ця стаття є підбіркою, в якій автор обговорює концепцію «сингулярності», обговорює хвилювання та занепокоєння Силіконової долини щодо штучного інтелекту, а також підкреслює потенційні переваги та ризики цієї технології.
Десятиліттями Силіконова долина чекала появи нової технології, яка революціонізує спосіб життя людей, економіку та соціальні інститути. Він може об’єднати людей і машини, можливо, створивши безпрецедентні можливості та виклики, а також розділивши історію на дві епохи «до» і «після».
Назву цієї віхи можна назвати «Сингулярність».
Сингулярності можуть виникати кількома способами. Однією з можливостей є те, що люди зробили себе могутнішими, включивши обчислювальну потужність комп’ютерів у свій власний вроджений інтелект. Або комп’ютер може стати настільки складним, що він дійсно зможе мислити, створюючи «глобальний мозок».
Будь-який сценарій принесе різкі експоненціальні зміни, жоден з яких не можна скасувати. Самосвідома надрозумна машина, здатна проектувати, удосконалювати та вдосконалювати себе набагато швидше, ніж будь-яка команда вчених, безумовно, спровокувала б інтелектуальний вибух. Успіхи, досягнуті протягом останніх століть, можуть стати проривними всього за кілька років або навіть місяців. Сингулярність – це катапульта в майбутнє.
Сьогодні штучний інтелект робить безпрецедентні хвилі в технологіях, бізнесі та політиці. Судячи з усіх гіпербол і абсурдів, які випливають із Кремнієвої долини, здається, що це надзвичайно рожеве майбутнє нарешті тут.
Сундар Пічаї, зазвичай стриманий генеральний директор Google, сказав, що «штучний інтелект перевершив вогонь, електрику чи будь-які минулі технологічні досягнення за важливістю та впливом». Інвестор-мільярдер Рейд Хоффман (Reid Hoffman) сказав: «У світі з'явиться безпрецедентна сила, яка підштовхне все людське суспільство вперед». Співзасновник Microsoft Білл Гейтс (Bill Gates) ) заявив, що штучний інтелект «змінить шлях люди працюють, навчаються, подорожують, отримують медичну допомогу та спілкуються один з одним».
Штучний інтелект — це найкращий новий продукт із Кремнієвої долини, здатний надавати надлюдські здібності на вимогу.
Але є також прихована проблема, яку не можна ігнорувати. Це ніби технологічні компанії випускають безпілотні автомобілі з попередженням про те, що вони можуть вибухнути дорогою до Walmart.
У травні цього року Ілон Маск, глава Tesla і Twitter, заявив в інтерв'ю US Consumer News and Business Channel (CNBC): «Появу штучного загального інтелекту називають дивом. Справа в тому, що після цього , буде важко передбачити, що буде далі". Він вважає, що ми відкриємо "вік достатку" (вік достатку), але ризик того, що штучний інтелект "знищить людство", "все ще неприйнятний". ігнорувати ".
У світі технологій найсильнішим прихильником штучного інтелекту є Сем Альтман, генеральний директор американської компанії зі штучного інтелекту OpenAI. Чат-бот стартапу ChatGPT, запущений минулого року, також викликав постійний ентузіазм. Альтман сказав, що штучний інтелект буде «найбільшою силою розширення економічних можливостей і багатства для багатьох».
Однак для Маска, який заснував компанію, що розробляє технологію інтерфейсу мозок-комп’ютер, він також вважає, що критика Маска виправдана.
Нещодавно Альтман підписав спільний відкритий лист, спонсорований некомерційною організацією «Центр безпеки ШІ» (Center for AI Safety). «Запобігання ризику вимирання, спричиненого штучним інтелектом, повинно бути глобальним пріоритетом», нарівні з «пандеміями та ядерною війною», — йдеться в листі. Серед інших підписантів – колеги з компанії OpenAI та інформатики з Microsoft і Google.
Апокаліпсис — знайома, навіть популярна тема в Кремнієвій долині. Кілька років тому, здавалося, майже кожен технічний керівник побудував притулок кінця світу десь посеред нічого, добре укомплектований на випадок, якщо він їм знадобиться. У 2016 році Альтман також сказав, що він «запасся зброєю, золотом, йодистим калієм, антибіотиками, батареями, водою, протигазами ЦАХАЛу та побудував величезний притулок у Біг-Сурі, куди можна відразу полетіти». змусили тих, хто пережив технології, відчути себе виправданими, принаймні на деякий час.
Зараз вони готуються до приходу сингулярності.
У зв’язку з цим Балдур Б’ярнасон, автор «Ілюзії інтелекту», сказав: «Вони вважають себе дуже мудрими, але їхні слова більше нагадують 1000 рік нашої ери. Ченці говорять про апокаліпсис. Це трохи тривожно».
Походження "Beyond"
Витоки концепції «сингулярності» можна простежити до піонера інформатики Джона фон Неймана в 1950-х роках. Фон Нейман одного разу передбачив, що «постійне прискорення прогресу технології» призведе до «стрижневої сингулярності в історії людства».
Британський математик Ірвінг Джон Гуд також був сильним прихильником цієї точки зору. Він допомагав британському уряду у зламі німецької шифрувальної машини Enigma в Блетчлі-парку (Блетчлі-парк, головне місце, де британський уряд проводив злам кодів під час Другої світової війни). У 1964 році він написав: «Рання конструкція надрозумних машин є ключем до виживання людства».
Коли американський кінорежисер Стенлі Кубрик став режисером зйомок науково-фантастичного фільму «2001: Космічна одіссея», він попросив у Ґуда поради щодо доброго і зловмисного персонажа зі штучним інтелектом ХАЛа, раннього прикладу розмитої межі між інформатикою та наукова фантастика.
Ганс Моравек, ад’юнкт-професор Інституту робототехніки при Університеті Карнегі-Меллона, вважає, що поява Сингулярності не тільки принесе користь живим, але й поверне мертвих до життя.
«У нас буде можливість відтворити минуле та взаємодіяти з ним реальним і миттєвим способом», — пише він у книзі Mind Children: The Future of Robot and Human Intelligence.road.
Підприємець і винахідник Рей Курцвейл також був найбільшим прихильником Сингулярності в останні роки. Курцвейл є автором книг «Епоха розумних машин» у 1990 році та «Сингулярність близько» у 2005 році. Зараз Курцвейл пише книгу «Сингулярність близько».
Він прогнозує, що до кінця цього десятиліття комп’ютери пройдуть тест Тюрінга і їх неможливо буде відрізнити від людей. Ще через п’ятнадцять років настане справжня трансцендентність: «Коли обчислювальна технологія буде інтегрована в нас, наш інтелект значно покращиться, можливо, у сотні разів».
На той час Курцвейлу мало б виповнитися 97 років. За допомогою різних вітамінів і добавок він сподівається, що доживе до настання цієї ери.
Деякі критики Сингулярності вважають, що концепція Сингулярності намагається створити систему переконань у сфері програмного забезпечення, схожу на організовану релігійну віру. Підкріплену суворими науковими доказами, її важко бути переконливою.
«Вони всі хочуть безсмертя, але не хочуть вірити в «Бога», — сказав Родні Брукс, колишній директор лабораторії комп’ютерних наук і штучного інтелекту Массачусетського технологічного інституту.
Сьогодні нововведення в суперечці про «Singularity» в основному стосуються великих мовних моделей (LLM), системи штучного інтелекту, яка також лежить в основі розробки чат-ботів. Поговоріть із цими великими мовними моделями, і вони зможуть відповісти на запитання швидко, зв’язно та часто досить висвітлюючі відповіді.
За словами Джеррі Каплана, давнього підприємця зі штучного інтелекту та автора книги «Штучний інтелект: що потрібно знати кожному», «Коли ви задаєте велику модель мови, нарешті, вона розуміє значення запитання, визначає, якою має бути відповідь, а потім представляє відповідайте письмово. Якщо це не визначення загального інтелекту, то що таке?"
Каплан також сказав, що він скептично ставиться до високопрофільних технологій, таких як безпілотні автомобілі та криптовалюти. Так само раніше він скептично ставився до останнього захоплення ШІ, але почав змінювати свою думку щодо ШІ, побачивши потенціал, який він представляє.
«Якщо це не «сингулярність», то це точно так. Це технологія величезного впливу, яка значно просуне людство в мистецтві, науці та знаннях. І, звичайно, це викличе деякі проблеми», — сказав він. додано.
Критики заперечують, що навіть якщо великі мовні моделі досягають вражаючих результатів, це не може зрівнятися з величезним глобальним інтелектом, зображеним Сингулярністю. Частина проблеми з проведенням межі між ажіотажем і реальністю полягає в тому, що принципи й алгоритми, які керують цією технологією, стає все важче розкрити.
OpenAI починався як некомерційна організація з відкритим кодом, але згодом перетворився на комерційне підприємство. Деякі критики зазначають, що OpenAI зараз фактично є «чорною скринькою», і кожному важко зрозуміти його внутрішню роботу. У зв'язку з цим Google і Microsoft також мають низький ступінь розкриття інформації.
Більшість поточних досліджень штучного інтелекту проводяться компаніями, які отримають вигоду від результатів. Попередня версія останньої моделі OpenAI «демонструє кілька інтелектуальних функцій», включаючи «абстрактну здатність, розуміння, візуальну здатність, здатність до кодування» та «здатність розуміти людську мотивацію та емоції».
Райлан Шеффер, докторант з комп’ютерних наук Стенфордського університету, каже, що деякі дослідники штучного інтелекту були неточними в описі «емергентної сили», яку демонструють ці великі мовні моделі. Хоча ці великі мовні моделі мають деякі невідомі та важкоінтерпретовані можливості, ці можливості неочевидні та не присутні в менших версіях мовної моделі.
Шафер і двоє інших колег зі Стенфордського університету, Брандо Міранда та Санмі Коєджо, розглянули це питання в дослідницькій статті, опублікованій у травні, дійшовши висновку, що ця здатність, що виникає, є лише «ілюзією», спричиненою помилками вимірювання, а не збільшенням розміру та складності моделі. . Насправді дослідники можуть бути схильні бачити результати, які вони хочуть бачити.
Безсмертя, безсмертя
У Вашингтоні, Лондоні та Брюсселі законодавці починають усвідомлювати можливості та проблеми, які створює штучний інтелект, і починають обговорювати питання регулювання. Альтман проводить промо-шоу для OpenAI, щоб відмахнутися від перших критиків і водночас назвати свою компанію лідером в епоху Singularity.
Це включає в себе відкритість для регулювання, але конкретна форма регулювання ще не зрозуміла. Тим не менш, у Кремнієвій долині поширена думка, що державні установи неефективні та їм бракує досвіду, щоб ефективно регулювати технологічний сектор, що швидко розвивається.
«Немає нікого в державному відомстві, хто б це правильно розумів», — сказав колишній генеральний директор Google Ерік Шмідт у інформаційному ток-шоу «Знайомство з пресою» на початку цього року. «І висунув ідею саморегулювання штучного інтелекту. «Але галузь має спроможність впроваджувати правила приблизно правильно», — додав він.
Штучний інтелект, як і технологічна сингулярність, розглядається як незворотний у змінах, які він приносить. Альтман і його колеги нещодавно заявили, що "механіми контролю, подібні до глобальної системи регулювання, повинні бути створені для стримування подальшого розвитку штучного інтелекту, але навіть це не може гарантувати успіху". Якщо ви цього не зробите, це має зробити хтось інший це.
Однак про величезні прибутки, отримані від цього, зараз рідко говорять. Незважаючи на поширене уявлення про те, що штучний інтелект — це машина, яка створює необмежене багатство, фактично на цьому отримують прибуток вже багаті люди.
Цього року ринкова вартість Microsoft зросла на 5 трильйонів доларів. Nvidia, яка виробляє чіпи для систем, що працюють зі штучним інтелектом, також нещодавно стала однією з найдорожчих державних компаній у США через різке зростання попиту на чіпи.
«Штучний інтелект — це технологія, яку людське суспільство завжди прагнуло мати», — написав Альтман у Twitter.
Незаперечно, що це справді технологія, на яку чекав світ технологій, і вона прийшла в ідеальний час.
Минулого року Кремнієва долина зазнала подвійного удару звільнень і підвищення процентних ставок, тоді як криптовалюти після періоду підйому та спаду швидко занепали через шахрайство та розчарування, яке послідувало.
«Слідуй за грошима», — каже Чарльз Стросс, співавтор науково-фантастичного роману «Захоплення ботанів», який з гумором описує технологічну унікальність. Стросс також є автором науково-фантастичного роману «Акселерандо», в якому він теж малює більш серйозну і серйозну картину того, як може виглядати життя в майбутньому.
«Реальна можливість полягає в тому, що компанії зможуть замінити програмним забезпеченням багато дефектних, дорогих, нереагуючих блоків обробки інформації, керованих людиною, тим самим зменшуючи витрати та підвищуючи ефективність», — сказав він.
Протягом тривалого часу люди уявляли технологічну сингулярність як подію глобального впливу, яка може повністю підірвати людську когнітивну систему, і сила цієї зміни вражає. Поки що така можливість все ще існує.
Однак, частково через надзвичайну гонитву за корпоративними прибутками в Силіконовій долині сьогодні, це призведе до того, що технологічна унікальність буде використовуватися в першу чергу як інструмент звільнення. У гонитві за ринковою капіталізацією в трильйони доларів дрібні проблеми можна поки що відкласти.