*Джерело зображення: створено інструментом Unbounded AI
Великі моделі є ілюзорними, і їх прояви різноманітні, наприклад конфлікти з фактами, і їх причин багато, наприклад відсутність відповідних знань або помилки вирівнювання, що залишає ще більше неясних моментів. Але найбільш критичним моментом, пов’язаним із програмою, є не це, а: Схоже, що галюцинації — це те, що неможливо вирішити в короткостроковій перспективі, навіть для OpenAI. Це вимагає подумати про його поточні умови та інваріанти під час його реалізації.Якщо це буде розглянуто як передумови та інваріанти, ви побачите, що, як і люди, ілюзії не всі погані.
З трендом і проти тренду
Ми відкладаємо вертикальну вісь, чи є галюцинації корисними чи шкідливими для продукту, і додаємо відповідальність за проблеми як горизонтальну вісь, щоб сформувати просту систему координат, а потім розміщуємо різних агентів штучного інтелекту в цій системі координат, тоді це, мабуть, виглядає так: це:
Можуть виникнути суперечки щодо позицій різних штучних агентів, але кілька екстремальних значень не повинні бути великою проблемою.
Для Metaverse це гра високого рівня. Незвичайна поведінка персонажів насправді стимулюватиме різноманітність ігрового наративу та стане частиною живлення для збагачення світового контенту. Для консультацій це дуже клопітно. Якщо це використовується поза існуючими рамками медичних знань, тоді стан пацієнта стає серйозним, що не тільки шкідливо, але й має серйозні наслідки. Насправді існує більше речей, схожих на консультації в реальному просторі, зокрема обслуговування клієнтів, податкові консультації тощо.
У статті Пошук інтелектуального маховика: від виснаження даних до мультимодальності до самогенерування ми згадували, що ніхто, крім AlphaGo, не повертав інтелектуальний маховик, і оскільки як тільки маховик обертається, він неминуче створюватиме богів у певних сферах, тому Люди, які стурбовані цією програмою штучного інтелекту, стурбовані тим, де може бути інший розумний маховик, як на малюнку нижче:
Відповідь також можна знайти на діаграмі квадранта вище: чим ближче до напрямку метавсесвіту, тим легше буде. Illusion може створювати нові дані з низькими витратами, а нові дані можна інтегрувати в сцену, яка, у свою чергу, може використовуватися як паливо для приводу маховика. **
Позиція в квадранті є позицією
Позиція в квадранті дуже важлива для впровадження продуктів ШІ.
**Ця позиція значною мірою визначає ваші експлуатаційні витрати і навіть швидкість бігу. І обмеження, з якими він стикається, дуже жорсткі та незмінні. **
У звичайному розумінні ми всі розглядаємо продукти як набір характеристик, виражених у термінах того, що вони можуть і не можуть робити, функціональних параметрів ефективності тощо. На більш просунутому рівні бренд є похідним від естетичних уподобань. Але він не є вичерпним. На глибшому рівні продукт також є точкою конвергенції системи прав, обов’язків і переваг. Це не так очевидно на продуктах зі сторони C, як на стороні B.
У минулому про це рідко згадували, тому що в економічній системі існує лише один вид розумних агентів: люди. Вся економічна система базується на правах, обов'язках і перевагах, які визначаються фізичними та юридичними особами. Але зараз ця система фактично стикається з новими викликами.Розвиток штучного інтелекту спричинив тріщини в цій системі прав і обов’язків, і її робота не працює.
Найпростішим прикладом є автономне водіння, яке часто обговорювалося в минулому. Відбудеться новий і складний перебаланс прав, обов’язків та інтересів між користувачами, виробниками та постачальниками послуг автономного водіння. (Виявилося, що відповідальність за аварії в основному несе користувач. Хто керує автомобілем, несе відповідальність. Це вже не стосується автономного водіння)
**Це буде дуже клопітно, тому що штучний інтелект не є суб’єктом прав та інтересів, але, здається, має нести відповідні обов’язки. Це призводить до того, що кожна компанія підсвідомо намагається використовувати технології для хеджування, створюючи враження, що певних поганих речей можна уникнути.Але насправді це схоже на боротьбу Дон Кіхота з вітряними млинами, що в принципі неможливо. **
Перебалансування прав, обов’язків і переваг користувачів і сторони А фактично визначатиме напрямок розподілу обмежених ресурсів компанії, як естафета. (загальні соціальні витрати, які фактично створюють конкретне місце)
Хіба не соромно робити це, коли вхідні та вихідні дані погані?
Основна причина цього збентеження полягає в тому, що технології не можуть повністю компенсувати права та обов’язки.
Права та обов’язки, які не можуть бути хеджовані
Чому технологія не може повністю компенсувати права та обов’язки?
Це, звичайно, тому, що технології завжди мають процес дозрівання, але найважливіша причина полягає в тому, що в той час як цифрові технології та інтелект роблять проблеми явними, права та обов’язки розширюються. **
Зіткнувшись із чітко представленими чисельними результатами, кожен клієнт захоче вирішувати проблеми без обмежень, і це обмеження було придушене в минулому.
Ми можемо взяти службу обслуговування клієнтів як приклад:
Коли наймають тисячі чи сотні людей для обслуговування клієнтів, сама служба повинна мати проблеми з прибутковістю. Але в цей час практично кожен може прийняти певну кількість помилок. Усі знають, що люди будуть робити помилки. Крім того, непросто знайти персонал обслуговування клієнтів, тому кожен підтримує певну толерантність до цієї норми доходності. Якщо співробітники служби підтримки клієнтів не нададуть належне обслуговування і втратять замовлення, відповідний персонал служби підтримки клієнтів буде звільнено або щонайбільше буде вилучено гроші. Важко відшкодувати збитки, заподіяні обслуговуванням клієнтів.
Коли обслуговування клієнтів було замінено штучним інтелектом, все залишилося як і раніше, але співвідношення влади та відповідальності непомітно змінилося.
Навіть якщо продуктивність штучного інтелекту перевищить рівень попередньої фізичної праці, з точки зору Сторони А, все одно буде достатньо мотивації притягувати компанії, які надають послуги штучного інтелекту, до відповідальності. Технологічні компанії, що стоять за ними, повинні будуть знайти способи зробити органи штучного інтелекту безпомилковими.
Це використання технології для хеджування прав і обов’язків.
**Суть полягає у використанні технологій для вирішення проблем у майже необмежених сферах. З часом це ставало все більш заплутаним, тому що я не міг це зрозуміти. Індустрія штучного інтелекту повторює цю історію з моменту пробудження розумних колонок. **
Фактична ситуація така, що навіть якщо стародавні пошукові системи не помиляються, наприклад, якщо певний тип контенту з’явиться один раз, а потім буде знищений, то такі компанії, як Google і Baidu, помруть незліченну кількість разів.
Однак толерантність до системи влади та відповідальності ** насправді має багато причин. Вона має історію, культуру та бізнес-реальність. Вона дуже жорстка і навряд чи зміниться **. І якщо він не може змінитися, він не дуже підходить для суто штучної сутності. Компроміс, який я можу придумати, - це повернути людину назад, навіть якщо людина нічого не робить і показує себе, вона виконує свої службові обов'язки, їй служить штучне тіло, і вона відповідає за весь результат.
Таким чином, відбір і позиціонування мають вирішальне значення, оскільки сама система повноважень і відповідальності — це вартість, напрямок і задоволеність клієнтів (** «Думати — це проблема, робити — це відповідь» неправильно, Лей Цзюнь сказав, що це неможливо** Просто зробіть це. Кінець старої теми, яка неправильна). Виходячи з передумови, що ілюзія є частиною інтелекту, якщо ви дійсно підете в сферу, де система влади та відповідальності дуже важка, це насправді буде половина результату з половиною зусиль.
Виходячи з цієї точки зору, ми можемо піднятися трохи вище і говорити про модель застосування нових технологій.
Модель застосування нової технології
Обговорюючи модель застосування, давайте спочатку повернемося до самих людей.
Основні підсистеми людської цивілізації: політика, економіка та культура насправді всі створені через повторювані процеси спочатку віртуальності, а потім реальності, а потім реальності та віртуальності. Ще 300 років тому не було поділу влади, свободи, демократії, соціалізму, звісно, не було ні автомобілів, ні швидкісної залізниці, ні велосипедів.
Вони засновані на уяві та певній логічній раціональності, а також на іншій хвилі людей, які знайшли зв’язок між уявою, фізичними законами та бізнес-іграми, і тоді уява стане реальністю. Таким чином у світ з’явилися потяги, електрика, автомобілі, мобільні телефони тощо.
Потім ми поглянемо на 12 лютого 1912 року, коли Пуї зрікся престолу, щоб побачити роль уяви.
Багато продуктів, які справді справді впливають на нас сьогодні, були насправді винайдені до 1912 року. Продукти включають парові двигуни, автомобілі, електрику, пеніцилін, телефони, фотоапарати, батареї тощо. Серед персонажів – Нобель, Едісон, Тесла, Форд тощо. Ці продукти, як правило, не мали успіху після свого народження. Наприклад, парові машини часто вибухали. Колись Едісон в основному атакував змінний струм як небезпечний і легкий для ураження електричним струмом. Проте відносно терпиме середовище дозволило цим продуктам вижити.
**Уявіть собі, якби Цисі та інші вважали, що повернення поїздів заважає фен-шуй предків, тоді не було б такого розмаїття. Використання династією Цін літературної інквізиції та інших методів для придушення думки було дійсно ефективним. Це досягло стабільності, на яку сподівалося певною мірою. Однак, хоча стабільність була дуже хорошою, ефективність усієї системи була дуже низькою. Зречення Пуйі у 1912 р. можна розглядати так. **
Яке просвітлення це дає нам?
**Нові технології доцільніше починати в місцях з низькими загальними соціальними витратами. Чим вільніша система прав і обов’язків, тим нижча вартість проб і помилок, і тим сприятливіше для незрілих продуктів, створених новими технологіями, щоб повернути назад. **
Питання загальних загальних соціальних витрат є дуже складним і не буде обговорюватися тут. (Як уникнути віри в те, що коли з’явиться поїзд, він зруйнує фен-шуй.)
Особам, які є інноваційними суб’єктами, очевидно, необхідно уникати складних систем прав і обов’язків.
Оскільки технологія незріла, якщо ви все ще використовуєте її для страхування від ризиків складних прав і обов’язків, вона точно буде невдячною.
Повертаючись до штучного інтелекту, як би це виглядало, якщо бути більш конкретним?
**На даний момент може не мати вирішального значення те, чи є саме середовище ненадійним. Складна система прав і обов’язків може полегшити генерування грошового потоку. Але згодом це може стати більш критичним. Оскільки основний розумний маховик працює, це справді різниця між 1,01 у 99-му ступені та 0,99 у 99-му ступені. **
Кевін Келлі висловив таку точку зору в «Чого хоче технологія. Навіть якщо переваги технології лише трохи перевищують недоліки, коли вона стає потужнішою, вплив буде дуже значним.
Те саме стосується штучних тіл. Ця невелика різниця може згодом виявитися різницею між тим, чи може розумний маховик обертатися чи ні.
Простіше кажучи, сама модель застосування штучного інтелекту така: **Знайди корисні галюцинації, обмежуй права та обов’язки в менш складних сферах, а потім розвивайся зсередини, а не заохочуй зростання. **
Резюме
**З цієї точки зору, це правда, що ілюзія — це розум, принаймні рушійна сила розумного маховика. **У багатьох випадках саме ілюзія дає нам відчуття інтелекту. Щоб повністю усунути ілюзію та зберегти інтелект, нам дійсно потрібно створити суперунітарне тіло (найвища мудрість Крі). Це дуже добре ідеал. , але я думаю, що якщо припустити, що штучний інтелект не може побудувати повну модель світу, то неможливо усунути цю ілюзію. Тому замість того, щоб очікувати використання технологій для вирішення цієї проблеми, краще переглянути прикладну модель відповідно до прогресу техніки.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Ілюзія — це інтелект: лінія розмежування між трендом і проти трендом у впровадженні ШІ
Джерело: Li Zhiyong
Великі моделі є ілюзорними, і їх прояви різноманітні, наприклад конфлікти з фактами, і їх причин багато, наприклад відсутність відповідних знань або помилки вирівнювання, що залишає ще більше неясних моментів. Але найбільш критичним моментом, пов’язаним із програмою, є не це, а: Схоже, що галюцинації — це те, що неможливо вирішити в короткостроковій перспективі, навіть для OpenAI. Це вимагає подумати про його поточні умови та інваріанти під час його реалізації.Якщо це буде розглянуто як передумови та інваріанти, ви побачите, що, як і люди, ілюзії не всі погані.
З трендом і проти тренду
Ми відкладаємо вертикальну вісь, чи є галюцинації корисними чи шкідливими для продукту, і додаємо відповідальність за проблеми як горизонтальну вісь, щоб сформувати просту систему координат, а потім розміщуємо різних агентів штучного інтелекту в цій системі координат, тоді це, мабуть, виглядає так: це:
Для Metaverse це гра високого рівня. Незвичайна поведінка персонажів насправді стимулюватиме різноманітність ігрового наративу та стане частиною живлення для збагачення світового контенту. Для консультацій це дуже клопітно. Якщо це використовується поза існуючими рамками медичних знань, тоді стан пацієнта стає серйозним, що не тільки шкідливо, але й має серйозні наслідки. Насправді існує більше речей, схожих на консультації в реальному просторі, зокрема обслуговування клієнтів, податкові консультації тощо.
У статті Пошук інтелектуального маховика: від виснаження даних до мультимодальності до самогенерування ми згадували, що ніхто, крім AlphaGo, не повертав інтелектуальний маховик, і оскільки як тільки маховик обертається, він неминуче створюватиме богів у певних сферах, тому Люди, які стурбовані цією програмою штучного інтелекту, стурбовані тим, де може бути інший розумний маховик, як на малюнку нижче:
Позиція в квадранті є позицією
Позиція в квадранті дуже важлива для впровадження продуктів ШІ.
**Ця позиція значною мірою визначає ваші експлуатаційні витрати і навіть швидкість бігу. І обмеження, з якими він стикається, дуже жорсткі та незмінні. **
У звичайному розумінні ми всі розглядаємо продукти як набір характеристик, виражених у термінах того, що вони можуть і не можуть робити, функціональних параметрів ефективності тощо. На більш просунутому рівні бренд є похідним від естетичних уподобань. Але він не є вичерпним. На глибшому рівні продукт також є точкою конвергенції системи прав, обов’язків і переваг. Це не так очевидно на продуктах зі сторони C, як на стороні B.
У минулому про це рідко згадували, тому що в економічній системі існує лише один вид розумних агентів: люди. Вся економічна система базується на правах, обов'язках і перевагах, які визначаються фізичними та юридичними особами. Але зараз ця система фактично стикається з новими викликами.Розвиток штучного інтелекту спричинив тріщини в цій системі прав і обов’язків, і її робота не працює.
Найпростішим прикладом є автономне водіння, яке часто обговорювалося в минулому. Відбудеться новий і складний перебаланс прав, обов’язків та інтересів між користувачами, виробниками та постачальниками послуг автономного водіння. (Виявилося, що відповідальність за аварії в основному несе користувач. Хто керує автомобілем, несе відповідальність. Це вже не стосується автономного водіння)
**Це буде дуже клопітно, тому що штучний інтелект не є суб’єктом прав та інтересів, але, здається, має нести відповідні обов’язки. Це призводить до того, що кожна компанія підсвідомо намагається використовувати технології для хеджування, створюючи враження, що певних поганих речей можна уникнути.Але насправді це схоже на боротьбу Дон Кіхота з вітряними млинами, що в принципі неможливо. **
Перебалансування прав, обов’язків і переваг користувачів і сторони А фактично визначатиме напрямок розподілу обмежених ресурсів компанії, як естафета. (загальні соціальні витрати, які фактично створюють конкретне місце)
Хіба не соромно робити це, коли вхідні та вихідні дані погані?
Основна причина цього збентеження полягає в тому, що технології не можуть повністю компенсувати права та обов’язки.
Права та обов’язки, які не можуть бути хеджовані
Чому технологія не може повністю компенсувати права та обов’язки?
Це, звичайно, тому, що технології завжди мають процес дозрівання, але найважливіша причина полягає в тому, що в той час як цифрові технології та інтелект роблять проблеми явними, права та обов’язки розширюються. **
Зіткнувшись із чітко представленими чисельними результатами, кожен клієнт захоче вирішувати проблеми без обмежень, і це обмеження було придушене в минулому.
Ми можемо взяти службу обслуговування клієнтів як приклад:
Коли обслуговування клієнтів було замінено штучним інтелектом, все залишилося як і раніше, але співвідношення влади та відповідальності непомітно змінилося.
Навіть якщо продуктивність штучного інтелекту перевищить рівень попередньої фізичної праці, з точки зору Сторони А, все одно буде достатньо мотивації притягувати компанії, які надають послуги штучного інтелекту, до відповідальності. Технологічні компанії, що стоять за ними, повинні будуть знайти способи зробити органи штучного інтелекту безпомилковими.
Це використання технології для хеджування прав і обов’язків.
**Суть полягає у використанні технологій для вирішення проблем у майже необмежених сферах. З часом це ставало все більш заплутаним, тому що я не міг це зрозуміти. Індустрія штучного інтелекту повторює цю історію з моменту пробудження розумних колонок. **
Фактична ситуація така, що навіть якщо стародавні пошукові системи не помиляються, наприклад, якщо певний тип контенту з’явиться один раз, а потім буде знищений, то такі компанії, як Google і Baidu, помруть незліченну кількість разів.
Однак толерантність до системи влади та відповідальності ** насправді має багато причин. Вона має історію, культуру та бізнес-реальність. Вона дуже жорстка і навряд чи зміниться **. І якщо він не може змінитися, він не дуже підходить для суто штучної сутності. Компроміс, який я можу придумати, - це повернути людину назад, навіть якщо людина нічого не робить і показує себе, вона виконує свої службові обов'язки, їй служить штучне тіло, і вона відповідає за весь результат.
Таким чином, відбір і позиціонування мають вирішальне значення, оскільки сама система повноважень і відповідальності — це вартість, напрямок і задоволеність клієнтів (** «Думати — це проблема, робити — це відповідь» неправильно, Лей Цзюнь сказав, що це неможливо** Просто зробіть це. Кінець старої теми, яка неправильна). Виходячи з передумови, що ілюзія є частиною інтелекту, якщо ви дійсно підете в сферу, де система влади та відповідальності дуже важка, це насправді буде половина результату з половиною зусиль.
Виходячи з цієї точки зору, ми можемо піднятися трохи вище і говорити про модель застосування нових технологій.
Модель застосування нової технології
Обговорюючи модель застосування, давайте спочатку повернемося до самих людей.
Основні підсистеми людської цивілізації: політика, економіка та культура насправді всі створені через повторювані процеси спочатку віртуальності, а потім реальності, а потім реальності та віртуальності. Ще 300 років тому не було поділу влади, свободи, демократії, соціалізму, звісно, не було ні автомобілів, ні швидкісної залізниці, ні велосипедів.
Вони засновані на уяві та певній логічній раціональності, а також на іншій хвилі людей, які знайшли зв’язок між уявою, фізичними законами та бізнес-іграми, і тоді уява стане реальністю. Таким чином у світ з’явилися потяги, електрика, автомобілі, мобільні телефони тощо.
Потім ми поглянемо на 12 лютого 1912 року, коли Пуї зрікся престолу, щоб побачити роль уяви.
Багато продуктів, які справді справді впливають на нас сьогодні, були насправді винайдені до 1912 року. Продукти включають парові двигуни, автомобілі, електрику, пеніцилін, телефони, фотоапарати, батареї тощо. Серед персонажів – Нобель, Едісон, Тесла, Форд тощо. Ці продукти, як правило, не мали успіху після свого народження. Наприклад, парові машини часто вибухали. Колись Едісон в основному атакував змінний струм як небезпечний і легкий для ураження електричним струмом. Проте відносно терпиме середовище дозволило цим продуктам вижити.
**Уявіть собі, якби Цисі та інші вважали, що повернення поїздів заважає фен-шуй предків, тоді не було б такого розмаїття. Використання династією Цін літературної інквізиції та інших методів для придушення думки було дійсно ефективним. Це досягло стабільності, на яку сподівалося певною мірою. Однак, хоча стабільність була дуже хорошою, ефективність усієї системи була дуже низькою. Зречення Пуйі у 1912 р. можна розглядати так. **
Яке просвітлення це дає нам?
**Нові технології доцільніше починати в місцях з низькими загальними соціальними витратами. Чим вільніша система прав і обов’язків, тим нижча вартість проб і помилок, і тим сприятливіше для незрілих продуктів, створених новими технологіями, щоб повернути назад. **
Питання загальних загальних соціальних витрат є дуже складним і не буде обговорюватися тут. (Як уникнути віри в те, що коли з’явиться поїзд, він зруйнує фен-шуй.)
Особам, які є інноваційними суб’єктами, очевидно, необхідно уникати складних систем прав і обов’язків.
Оскільки технологія незріла, якщо ви все ще використовуєте її для страхування від ризиків складних прав і обов’язків, вона точно буде невдячною.
Повертаючись до штучного інтелекту, як би це виглядало, якщо бути більш конкретним?
**На даний момент може не мати вирішального значення те, чи є саме середовище ненадійним. Складна система прав і обов’язків може полегшити генерування грошового потоку. Але згодом це може стати більш критичним. Оскільки основний розумний маховик працює, це справді різниця між 1,01 у 99-му ступені та 0,99 у 99-му ступені. **
Кевін Келлі висловив таку точку зору в «Чого хоче технологія. Навіть якщо переваги технології лише трохи перевищують недоліки, коли вона стає потужнішою, вплив буде дуже значним.
Те саме стосується штучних тіл. Ця невелика різниця може згодом виявитися різницею між тим, чи може розумний маховик обертатися чи ні.
Простіше кажучи, сама модель застосування штучного інтелекту така: **Знайди корисні галюцинації, обмежуй права та обов’язки в менш складних сферах, а потім розвивайся зсередини, а не заохочуй зростання. **
Резюме
**З цієї точки зору, це правда, що ілюзія — це розум, принаймні рушійна сила розумного маховика. **У багатьох випадках саме ілюзія дає нам відчуття інтелекту. Щоб повністю усунути ілюзію та зберегти інтелект, нам дійсно потрібно створити суперунітарне тіло (найвища мудрість Крі). Це дуже добре ідеал. , але я думаю, що якщо припустити, що штучний інтелект не може побудувати повну модель світу, то неможливо усунути цю ілюзію. Тому замість того, щоб очікувати використання технологій для вирішення цієї проблеми, краще переглянути прикладну модель відповідно до прогресу техніки.