Що б ви зробили, якби могли мати надзвичайне бачення, енергію, удачу та багатство, яке прийшло з цим?
Відповідь Маска: особисто керувати шістьма компаніями, зберігати вогонь людської цивілізації та боротися з небезпечним ШІ.
У середу біограф Маска Уолтер Іссаксон опублікував кілька розділів своєї майбутньої біографії в журналі Time, описуючи постійні страхи та занепокоєння Маска щодо штучного інтелекту протягом більше десяти років, а також його думки про майбутню долю людства. зробив.
Страх перед появою ШІ
Страх Маска перед штучним інтелектом випливає із зустрічі з дослідником ШІ Демісом Хассабісом у 2012 році.
У той час Маск запросив його відвідати фабрику SpaceX і пояснив, що причина, чому він побудував ракету, здатну досягти Марса, полягала в тому, щоб зберегти вогонь людської цивілізації на випадок кінця світу, такого як ядерна війна та падіння астероїда.
Деміс нагадав йому, що до списку кінця світу слід додати ще одну річ - ШІ.Інтелект машин може перевершити людський у майбутньому, і, можливо, захочеться знищити людей.
Маск подумав на хвилину, а потім вирішив, що Деміс правий, і негайно інвестував 5 мільйонів доларів у DeepMind, щоб «моніторити, що він робить».
Через кілька тижнів після цієї розмови Маск представив DeepMind Ларрі Пейджу, старому другу, який знав його більше десяти років і співзасновнику Google, і часто пізно ввечері розмовляв з Пейджем про загрозу ШІ для людей, але останній насміхався над цим.
На святкуванні дня народження Маска в 2013 році між ними зав'язалася бурхлива дискусія. Маск вважає, що якщо не вжити негайних заходів для встановлення гарантій, швидкий розвиток ШІ може знищити людську расу.
Але Пейджа це зовсім не хвилювало. Він запитав: «Якщо одного разу машини перевищать людей інтелектом або навіть свідомістю, яке це має значення?» Це просто наступний етап еволюції. Він звинуватив Маска в тому, що він «спеціаліст», який віддає перевагу своєму виду.
Також Маск щедро зізнався:
"Мені до біса подобається людство, чувак."
OpenAI було засновано, щоб перевірити та збалансувати Google
Наприкінці того ж року новини про те, що Google під керівництвом Пейджа планує придбати DeepMind, дійшли до вух Маска.Він був стурбований тим, що станеться, якщо потужний штучний інтелект опанують такі люди, як Пейдж, яким не байдужі люди.
Тому він залучив свого друга та співзасновника PayPal Люка Носека, намагаючись зібрати гроші, щоб зупинити угоду, але не вдалося, і Google завершила придбання в січні 2014 року. У відповідь на занепокоєння Маска Пейдж погодився сформувати «комітет з безпеки», до якого увійшли Маск і вищезгаданий експерт зі штучного інтелекту Деміс, а також голова Google Ерік Шмідт і співзасновник LinkedIn Рейд Хоффман та інші.
Однак після участі в першому і єдиному засіданні «комітету безпеки» Маск став ще більше недовіряти Пейджу і Google, вважаючи, що всі в комітеті говорять дурниці. Він почав організовувати інтенсивні зустрічі, щоб обговорити, як боротися з Google і сприяти безпеці ШІ.
У травні 2015 року він також мав довгу розмову сам-на-сам із тодішнім президентом США Бараком Обамою, пояснюючи ризики ШІ та запропонувавши президенту регулювати ШІ. Але Обама не прийняв його пропозиції.
Так, засновник OpenAI Сем Альтман з'явився в цей час. Маск і він вважають, що велика кількість конкуруючих систем штучного інтелекту із системою стримувань і противаг безпечніше, ніж мати контрольований ШІ кількома великими компаніями. Під час вечері вони порозумілися і вирішили спільно заснувати некомерційну дослідницьку лабораторію штучного інтелекту та назвати її OpenAI.
Однак у 2018 році, оскільки Tesla також розробляла штучний інтелект для керування своїм програмним забезпеченням для автономного водіння, Маск не зміг залишитися в OpenAI, щоб уникнути потенційного конфлікту інтересів. Він намагався переконати Альтмана об’єднати OpenAI з Tesla, але отримав відмову; крім того, він також був дуже незадоволений поступовою комерціалізацією OpenAI, тому він остаточно порвав з командою OpenAI.
Озираючись на поточний бізнес-ландшафт Маска, кожна компанія представляє своє рішення кризи штучного інтелекту: SpaceX може побудувати Ноїв ковчег, щоб зберегти вогонь цивілізації; Neuralink, компанія, що займається інтерфейсом мозок-комп’ютер, може зробити людські тіла більш гнучкими. Щодня Tesla отримує та обробляє 160 мільярдів кадрів відео з автомобільних камер. Ці реальні дані можна використовувати для навчання «загальному штучному інтелекту (AGI)», а фізичним носієм AGI стане людиноподібний робот Optimus. У нову компанію xAI можна інтегрувати будь-які види ресурсів.
У першій половині цього року хвиля штучного інтелекту на чолі з OpenAI не тільки привернула увагу Маска, але й змусила його більше хвилюватися, що ці системи штучного інтелекту, контрольовані великими компаніями, можуть поширити «вірус пробудження культури» та отруїти уми американців. підлітки; він також Є занепокоєння, що сучасні системи штучного інтелекту, які можуть навчатися самостійно, можуть стати ворожими до людей, і що роботи, навчені на даних Twitter, можуть створювати неправдиву або шахрайську інформацію.
Він не міг дочекатися, щоб увійти, обурюючись, що він заснував і фінансував OpenAI, а тепер його покинули. ШІ — це найбільша буря. Ніхто не любить шторми більше, ніж Маск.
Тому в першій половині року Маск розгорнув шалену атаку на OpenAI і особисто на Альтмана. Альтман міг зрозуміти агресивність Маска. В інтерв'ю він сказав, що хоча Маск поводився як придурок, він вірив у свою правду. стурбовані сферою штучного інтелекту та стурбовані майбутнім людства.
Маск вважає, що займає лідируючу позицію на трасі AGI.
Хоча мені не вдалося наздогнати тенденцію та створити чат-бота зі штучним інтелектом, коли хвиля штучного інтелекту була найгарячішою. Але Маск вважає, що він все ще попереду в змаганні за AGI.
Він вважає, що чат-боти, які можуть лише генерувати текст, мають обмежене застосування, і основна увага приділяється розумним фізичним роботам. З одного боку, Tesla вже має передову технологію автономного водіння та гуманоїдного робота Optimus; з іншого боку, твіти сотень мільйонів користувачів у Twitter та камери на тілі Tesla також дають достатньо даних для розробки AGI.
Тому він упевнений, що зможе створити AGI швидше, ніж OpenAI:
«Реальні можливості штучного інтелекту Tesla недооцінені. Уявіть, якби Tesla та OpenAI мали помінятися завданнями. Їм довелося будувати самокеровані автомобілі, а нам — чат-боти з великою мовною моделлю. Хто виграє? Ми виграємо».
Донедавна Маск все ще думав про те, як зменшити ризики штучного інтелекту та дозволити людській свідомості передаватись із покоління в покоління.
Він вважає, що рівень інтелекту людини стабілізується, а новонароджених стає все менше. У той же час інтелект комп'ютерів зростає в геометричній прогресії, як "закон Мура про стероїди". Біологічна сила розуму блідне в порівнянні з цифровою силою мозку.
Маск вважає, що «момент сингулярності», коли штучний інтелект рухається вперед із неконтрольованою швидкістю й залишає позаду людей, настане раніше, ніж ми думаємо.
«Я не можу просто сидіти і з появою штучного інтелекту, я дещо скептично ставлюсь до того, що варто витрачати стільки часу на роздуми про Twitter. Звичайно, я міг би зробити його найбільшою фінансовою установою у світі. Але я маю лише стільки енергії на день і час, мені не потрібно заробляти більше грошей чи чогось іншого.
То де мені проводити час? Запустіть зореліт. Потрапити на Марс зараз набагато актуальніше. Крім того, мені потрібно зосередитися на безпеці ШІ. Ось чому я хочу створити компанію зі штучним інтелектом. "
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Інсайдерська історія біографії Маска: 10 років тому він хвилювався, що ШІ знищить людство
Автор: Chang Jiashuai, Wall Street News
Що б ви зробили, якби могли мати надзвичайне бачення, енергію, удачу та багатство, яке прийшло з цим?
Відповідь Маска: особисто керувати шістьма компаніями, зберігати вогонь людської цивілізації та боротися з небезпечним ШІ.
У середу біограф Маска Уолтер Іссаксон опублікував кілька розділів своєї майбутньої біографії в журналі Time, описуючи постійні страхи та занепокоєння Маска щодо штучного інтелекту протягом більше десяти років, а також його думки про майбутню долю людства. зробив.
Страх перед появою ШІ
Страх Маска перед штучним інтелектом випливає із зустрічі з дослідником ШІ Демісом Хассабісом у 2012 році.
У той час Маск запросив його відвідати фабрику SpaceX і пояснив, що причина, чому він побудував ракету, здатну досягти Марса, полягала в тому, щоб зберегти вогонь людської цивілізації на випадок кінця світу, такого як ядерна війна та падіння астероїда.
Деміс нагадав йому, що до списку кінця світу слід додати ще одну річ - ШІ.Інтелект машин може перевершити людський у майбутньому, і, можливо, захочеться знищити людей.
Маск подумав на хвилину, а потім вирішив, що Деміс правий, і негайно інвестував 5 мільйонів доларів у DeepMind, щоб «моніторити, що він робить».
Через кілька тижнів після цієї розмови Маск представив DeepMind Ларрі Пейджу, старому другу, який знав його більше десяти років і співзасновнику Google, і часто пізно ввечері розмовляв з Пейджем про загрозу ШІ для людей, але останній насміхався над цим.
На святкуванні дня народження Маска в 2013 році між ними зав'язалася бурхлива дискусія. Маск вважає, що якщо не вжити негайних заходів для встановлення гарантій, швидкий розвиток ШІ може знищити людську расу.
Але Пейджа це зовсім не хвилювало. Він запитав: «Якщо одного разу машини перевищать людей інтелектом або навіть свідомістю, яке це має значення?» Це просто наступний етап еволюції. Він звинуватив Маска в тому, що він «спеціаліст», який віддає перевагу своєму виду.
Також Маск щедро зізнався:
OpenAI було засновано, щоб перевірити та збалансувати Google
Наприкінці того ж року новини про те, що Google під керівництвом Пейджа планує придбати DeepMind, дійшли до вух Маска.Він був стурбований тим, що станеться, якщо потужний штучний інтелект опанують такі люди, як Пейдж, яким не байдужі люди.
Тому він залучив свого друга та співзасновника PayPal Люка Носека, намагаючись зібрати гроші, щоб зупинити угоду, але не вдалося, і Google завершила придбання в січні 2014 року. У відповідь на занепокоєння Маска Пейдж погодився сформувати «комітет з безпеки», до якого увійшли Маск і вищезгаданий експерт зі штучного інтелекту Деміс, а також голова Google Ерік Шмідт і співзасновник LinkedIn Рейд Хоффман та інші.
Однак після участі в першому і єдиному засіданні «комітету безпеки» Маск став ще більше недовіряти Пейджу і Google, вважаючи, що всі в комітеті говорять дурниці. Він почав організовувати інтенсивні зустрічі, щоб обговорити, як боротися з Google і сприяти безпеці ШІ.
У травні 2015 року він також мав довгу розмову сам-на-сам із тодішнім президентом США Бараком Обамою, пояснюючи ризики ШІ та запропонувавши президенту регулювати ШІ. Але Обама не прийняв його пропозиції.
Так, засновник OpenAI Сем Альтман з'явився в цей час. Маск і він вважають, що велика кількість конкуруючих систем штучного інтелекту із системою стримувань і противаг безпечніше, ніж мати контрольований ШІ кількома великими компаніями. Під час вечері вони порозумілися і вирішили спільно заснувати некомерційну дослідницьку лабораторію штучного інтелекту та назвати її OpenAI.
Однак у 2018 році, оскільки Tesla також розробляла штучний інтелект для керування своїм програмним забезпеченням для автономного водіння, Маск не зміг залишитися в OpenAI, щоб уникнути потенційного конфлікту інтересів. Він намагався переконати Альтмана об’єднати OpenAI з Tesla, але отримав відмову; крім того, він також був дуже незадоволений поступовою комерціалізацією OpenAI, тому він остаточно порвав з командою OpenAI.
Озираючись на поточний бізнес-ландшафт Маска, кожна компанія представляє своє рішення кризи штучного інтелекту: SpaceX може побудувати Ноїв ковчег, щоб зберегти вогонь цивілізації; Neuralink, компанія, що займається інтерфейсом мозок-комп’ютер, може зробити людські тіла більш гнучкими. Щодня Tesla отримує та обробляє 160 мільярдів кадрів відео з автомобільних камер. Ці реальні дані можна використовувати для навчання «загальному штучному інтелекту (AGI)», а фізичним носієм AGI стане людиноподібний робот Optimus. У нову компанію xAI можна інтегрувати будь-які види ресурсів.
У першій половині цього року хвиля штучного інтелекту на чолі з OpenAI не тільки привернула увагу Маска, але й змусила його більше хвилюватися, що ці системи штучного інтелекту, контрольовані великими компаніями, можуть поширити «вірус пробудження культури» та отруїти уми американців. підлітки; він також Є занепокоєння, що сучасні системи штучного інтелекту, які можуть навчатися самостійно, можуть стати ворожими до людей, і що роботи, навчені на даних Twitter, можуть створювати неправдиву або шахрайську інформацію.
Він не міг дочекатися, щоб увійти, обурюючись, що він заснував і фінансував OpenAI, а тепер його покинули. ШІ — це найбільша буря. Ніхто не любить шторми більше, ніж Маск.
Тому в першій половині року Маск розгорнув шалену атаку на OpenAI і особисто на Альтмана. Альтман міг зрозуміти агресивність Маска. В інтерв'ю він сказав, що хоча Маск поводився як придурок, він вірив у свою правду. стурбовані сферою штучного інтелекту та стурбовані майбутнім людства.
Маск вважає, що займає лідируючу позицію на трасі AGI.
Хоча мені не вдалося наздогнати тенденцію та створити чат-бота зі штучним інтелектом, коли хвиля штучного інтелекту була найгарячішою. Але Маск вважає, що він все ще попереду в змаганні за AGI.
Він вважає, що чат-боти, які можуть лише генерувати текст, мають обмежене застосування, і основна увага приділяється розумним фізичним роботам. З одного боку, Tesla вже має передову технологію автономного водіння та гуманоїдного робота Optimus; з іншого боку, твіти сотень мільйонів користувачів у Twitter та камери на тілі Tesla також дають достатньо даних для розробки AGI.
Тому він упевнений, що зможе створити AGI швидше, ніж OpenAI:
Донедавна Маск все ще думав про те, як зменшити ризики штучного інтелекту та дозволити людській свідомості передаватись із покоління в покоління.
Він вважає, що рівень інтелекту людини стабілізується, а новонароджених стає все менше. У той же час інтелект комп'ютерів зростає в геометричній прогресії, як "закон Мура про стероїди". Біологічна сила розуму блідне в порівнянні з цифровою силою мозку.
Маск вважає, що «момент сингулярності», коли штучний інтелект рухається вперед із неконтрольованою швидкістю й залишає позаду людей, настане раніше, ніж ми думаємо.