Что бы вы сделали, если бы у вас было необыкновенное видение, энергия, удача и богатство, которое приходит с этим?
Ответ Маска таков: лично руководить шестью компаниями, чтобы сохранить огонь человеческой цивилизации и бороться с опасным ИИ.
В среду биограф Маска Уолтер Иссаксон опубликовал в журнале Time несколько глав своей будущей биографии, описывая постоянные страхи и опасения Маска по поводу ИИ на протяжении более десяти лет, а также его мысли о будущей судьбе человечества. сделал.
Страх перед появлением ИИ
Страх Маска перед искусственным интеллектом возник после встречи с исследователем искусственного интеллекта Демисом Хассабисом в 2012 году.
Тогда Маск пригласил его посетить завод SpaceX и объяснил, что причина, по которой он построил ракету, способную долететь до Марса, заключалась в том, чтобы сохранить огонь человеческой цивилизации в случае конца света, такого как ядерная война или столкновение с астероидом.
Демис напомнил ему, что в список судного дня следует добавить еще одну вещь - искусственный интеллект.
Маск подумал минуту, затем решил, что Демис прав, и немедленно вложил в DeepMind 5 миллионов долларов, чтобы «мониторить, что он делает».
Через несколько недель после этого разговора Маск познакомил DeepMind с Ларри Пейджем, старым другом, который знал его более десяти лет и соучредителем Google, и часто поздно вечером разговаривал с Пейджем об угрозе ИИ для людей, но последний насмехался над этим.
На вечеринке по случаю дня рождения Маска в 2013 году между ними разгорелся жаркий спор. Маск считает, что если не будут приняты немедленные меры по установлению мер безопасности, быстрое развитие искусственного интеллекта может уничтожить человечество.
Но Пейджа это совершенно не заботило, и он спросил в ответ: «Если однажды машины превзойдут людей по интеллекту и даже сознанию, какое это имеет значение?» Это просто следующий этап эволюции. Он обвинил Маска в том, что он «видовиколог», отдающий предпочтение своему собственному виду.
Маск также великодушно признался:
«Мне чертовски нравится человечность, чувак».
OpenAI была основана для проверки и балансировки Google
В конце того же года до ушей Маска дошла новость о том, что Google под руководством Пейджа планирует приобрести DeepMind.
Поэтому он пригласил своего друга и соучредителя PayPal Люка Носека, пытаясь собрать деньги, чтобы остановить сделку, но потерпел неудачу, и Google завершил приобретение в январе 2014 года. В ответ на опасения Маска Пейдж согласился сформировать «комитет безопасности», в который вошли Маск и вышеупомянутый эксперт по искусственному интеллекту Демис, а также председатель Google Эрик Шмидт и соучредитель LinkedIn Рид Хоффман и другие.
Однако после посещения первого и единственного заседания «комитета безопасности» Маск стал еще больше недоверчиво относиться к Пейджу и Google, полагая, что люди в комитете несут чушь. Он начал организовывать интенсивные встречи, чтобы обсудить, как бороться с Google и продвигать безопасность ИИ.
В мае 2015 года он также провел долгую беседу один на один с тогдашним президентом США Бараком Обамой, объяснив риски ИИ и предложив президенту регулировать ИИ. Но Обама не принял его предложение.
Так, в это время на сцене появился Сэм Альтман, основатель OpenAI. Маск и он оба считают, что большое количество систем искусственного интеллекта, которые конкурируют друг с другом, сдерживают и уравновешивают друг друга, более безопасны, чем несколько крупных компаний, контролирующих искусственный интеллект. На званом обеде они нашли общий язык и решили основать некоммерческую исследовательскую лабораторию искусственного интеллекта и назвали ее OpenAI.
Однако в 2018 году, поскольку Tesla также разрабатывала ИИ для управления своим программным обеспечением автопилота, чтобы избежать потенциальных конфликтов интересов, Маск не мог продолжать оставаться в OpenAI. Он пытался убедить Альтмана объединить OpenAI с Tesla, но получил отказ; кроме того, он также был очень недоволен направлением постепенной коммерциализации OpenAI, поэтому в конце концов порвал с командой OpenAI.
Оглядываясь назад на текущую бизнес-среду Маска, каждая компания представляет свое решение кризиса искусственного интеллекта: SpaceX может построить Ноев ковчег, чтобы сохранить огонь цивилизации, Neuralink, компания, занимающаяся интерфейсом «мозг-компьютер», может сделать человеческие тела более гибкими. Tesla ежедневно получает и обрабатывает 160 миллиардов кадров видео с автомобильных камер.Эти реальные данные могут быть использованы для обучения «общему искусственному интеллекту (AGI)», а физическим носителем AGI станет гуманоидный робот Optimus. Все виды ресурсов могут быть интегрированы в его новую компанию — xAI.
В первой половине этого года волна искусственного интеллекта, возглавляемая OpenAI, не только привлекла внимание Маска, но и заставила его еще больше беспокоиться о том, что эти системы искусственного интеллекта, контролируемые крупными компаниями, могут распространить «вирус пробуждающейся культуры» и отравить умы американцев. подростки; он также Есть опасения, что современные системы искусственного интеллекта, которые могут обучаться самостоятельно, могут стать враждебными по отношению к людям, и что роботы, обученные на данных Твиттера, могут выдавать ложную или мошенническую информацию.
Ему не терпелось войти, возмущаясь тем, что он основал и финансировал OpenAI, а теперь остался в стороне. ИИ – это самая большая буря. Никто не любит штормы больше, чем Маск.
Поэтому в первой половине года Маск развернул ожесточенную атаку на OpenAI и Альтмана лично. Альтман мог понять агрессивность Маска. В интервью он сказал, что хотя Маск вел себя как придурок, он считал, что он прав. обеспокоены областью искусственного интеллекта и обеспокоены будущим человечества.
Маск считает, что он находится на лидирующей позиции на треке AGI.
Хотя ей не удалось догнать моду и сделать чат-робота с искусственным интеллектом, когда волна искусственного интеллекта была самой горячей. Но Маск считает, что он все еще впереди в гонке за AGI.
Он считает, что чат-боты, которые могут только генерировать текст, имеют ограниченное применение, и основное внимание уделяется интеллектуальным физическим роботам. С одной стороны, у Tesla уже есть передовые технологии беспилотного вождения и человекоподобный робот Optimus; с другой стороны, твиты сотен миллионов пользователей в Твиттере и камеры на теле Теслы также предоставляют достаточно данных для развития AGI.
Поэтому он уверен, что сможет создать AGI быстрее, чем OpenAI:
«Реальные возможности искусственного интеллекта Tesla недооценены. Представьте себе, если бы Tesla и OpenAI пришлось поменять задачи. Им пришлось создавать беспилотные автомобили, а нам пришлось создавать чат-боты с большими языковыми моделями. Кто победит? «Мы победим».
До недавнего времени Маск все еще думал о том, как снизить риски, связанные с ИИ, и позволить человеческому сознанию передаваться из поколения в поколение.
Он считает, что уровень интеллекта человека стабилизируется, а новорожденных становится все меньше и меньше. В то же время интеллект компьютеров растет в геометрической прогрессии, как «Закон Мура о стероидах». Биологический интеллект меркнет по сравнению с цифровым интеллектом.
Маск считает, что «момент сингулярности», когда ИИ будет двигаться вперед с неконтролируемой скоростью и оставит людей позади, наступит раньше, чем мы думаем.
«Я не могу сидеть сложа руки, и с появлением искусственного интеллекта я задаюсь вопросом, стоит ли мне тратить столько времени на размышления о Твиттере. Конечно, я, вероятно, мог бы сделать его крупнейшим финансовым учреждением в мире. Но у меня есть только столько энергии каждый день и время, мне не нужно зарабатывать больше денег или что-то в этом роде.
Так где же мне проводить время? Запустите звездолет. Отправиться на Марс сейчас гораздо актуальнее. Кроме того, мне нужно сосредоточиться на обеспечении безопасности ИИ. Вот почему я открываю компанию по искусственному интеллекту. "
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Биография Маска тяжелый инсайдер: 10 лет назад он боялся, что ИИ уничтожит человечество
Автор: Чан Цзяшуай, Wall Street News
Что бы вы сделали, если бы у вас было необыкновенное видение, энергия, удача и богатство, которое приходит с этим?
Ответ Маска таков: лично руководить шестью компаниями, чтобы сохранить огонь человеческой цивилизации и бороться с опасным ИИ.
В среду биограф Маска Уолтер Иссаксон опубликовал в журнале Time несколько глав своей будущей биографии, описывая постоянные страхи и опасения Маска по поводу ИИ на протяжении более десяти лет, а также его мысли о будущей судьбе человечества. сделал.
Страх перед появлением ИИ
Страх Маска перед искусственным интеллектом возник после встречи с исследователем искусственного интеллекта Демисом Хассабисом в 2012 году.
Тогда Маск пригласил его посетить завод SpaceX и объяснил, что причина, по которой он построил ракету, способную долететь до Марса, заключалась в том, чтобы сохранить огонь человеческой цивилизации в случае конца света, такого как ядерная война или столкновение с астероидом.
Демис напомнил ему, что в список судного дня следует добавить еще одну вещь - искусственный интеллект.
Маск подумал минуту, затем решил, что Демис прав, и немедленно вложил в DeepMind 5 миллионов долларов, чтобы «мониторить, что он делает».
Через несколько недель после этого разговора Маск познакомил DeepMind с Ларри Пейджем, старым другом, который знал его более десяти лет и соучредителем Google, и часто поздно вечером разговаривал с Пейджем об угрозе ИИ для людей, но последний насмехался над этим.
На вечеринке по случаю дня рождения Маска в 2013 году между ними разгорелся жаркий спор. Маск считает, что если не будут приняты немедленные меры по установлению мер безопасности, быстрое развитие искусственного интеллекта может уничтожить человечество.
Но Пейджа это совершенно не заботило, и он спросил в ответ: «Если однажды машины превзойдут людей по интеллекту и даже сознанию, какое это имеет значение?» Это просто следующий этап эволюции. Он обвинил Маска в том, что он «видовиколог», отдающий предпочтение своему собственному виду.
Маск также великодушно признался:
OpenAI была основана для проверки и балансировки Google
В конце того же года до ушей Маска дошла новость о том, что Google под руководством Пейджа планирует приобрести DeepMind.
Поэтому он пригласил своего друга и соучредителя PayPal Люка Носека, пытаясь собрать деньги, чтобы остановить сделку, но потерпел неудачу, и Google завершил приобретение в январе 2014 года. В ответ на опасения Маска Пейдж согласился сформировать «комитет безопасности», в который вошли Маск и вышеупомянутый эксперт по искусственному интеллекту Демис, а также председатель Google Эрик Шмидт и соучредитель LinkedIn Рид Хоффман и другие.
Однако после посещения первого и единственного заседания «комитета безопасности» Маск стал еще больше недоверчиво относиться к Пейджу и Google, полагая, что люди в комитете несут чушь. Он начал организовывать интенсивные встречи, чтобы обсудить, как бороться с Google и продвигать безопасность ИИ.
В мае 2015 года он также провел долгую беседу один на один с тогдашним президентом США Бараком Обамой, объяснив риски ИИ и предложив президенту регулировать ИИ. Но Обама не принял его предложение.
Так, в это время на сцене появился Сэм Альтман, основатель OpenAI. Маск и он оба считают, что большое количество систем искусственного интеллекта, которые конкурируют друг с другом, сдерживают и уравновешивают друг друга, более безопасны, чем несколько крупных компаний, контролирующих искусственный интеллект. На званом обеде они нашли общий язык и решили основать некоммерческую исследовательскую лабораторию искусственного интеллекта и назвали ее OpenAI.
Однако в 2018 году, поскольку Tesla также разрабатывала ИИ для управления своим программным обеспечением автопилота, чтобы избежать потенциальных конфликтов интересов, Маск не мог продолжать оставаться в OpenAI. Он пытался убедить Альтмана объединить OpenAI с Tesla, но получил отказ; кроме того, он также был очень недоволен направлением постепенной коммерциализации OpenAI, поэтому в конце концов порвал с командой OpenAI.
Оглядываясь назад на текущую бизнес-среду Маска, каждая компания представляет свое решение кризиса искусственного интеллекта: SpaceX может построить Ноев ковчег, чтобы сохранить огонь цивилизации, Neuralink, компания, занимающаяся интерфейсом «мозг-компьютер», может сделать человеческие тела более гибкими. Tesla ежедневно получает и обрабатывает 160 миллиардов кадров видео с автомобильных камер.Эти реальные данные могут быть использованы для обучения «общему искусственному интеллекту (AGI)», а физическим носителем AGI станет гуманоидный робот Optimus. Все виды ресурсов могут быть интегрированы в его новую компанию — xAI.
В первой половине этого года волна искусственного интеллекта, возглавляемая OpenAI, не только привлекла внимание Маска, но и заставила его еще больше беспокоиться о том, что эти системы искусственного интеллекта, контролируемые крупными компаниями, могут распространить «вирус пробуждающейся культуры» и отравить умы американцев. подростки; он также Есть опасения, что современные системы искусственного интеллекта, которые могут обучаться самостоятельно, могут стать враждебными по отношению к людям, и что роботы, обученные на данных Твиттера, могут выдавать ложную или мошенническую информацию.
Ему не терпелось войти, возмущаясь тем, что он основал и финансировал OpenAI, а теперь остался в стороне. ИИ – это самая большая буря. Никто не любит штормы больше, чем Маск.
Поэтому в первой половине года Маск развернул ожесточенную атаку на OpenAI и Альтмана лично. Альтман мог понять агрессивность Маска. В интервью он сказал, что хотя Маск вел себя как придурок, он считал, что он прав. обеспокоены областью искусственного интеллекта и обеспокоены будущим человечества.
Маск считает, что он находится на лидирующей позиции на треке AGI.
Хотя ей не удалось догнать моду и сделать чат-робота с искусственным интеллектом, когда волна искусственного интеллекта была самой горячей. Но Маск считает, что он все еще впереди в гонке за AGI.
Он считает, что чат-боты, которые могут только генерировать текст, имеют ограниченное применение, и основное внимание уделяется интеллектуальным физическим роботам. С одной стороны, у Tesla уже есть передовые технологии беспилотного вождения и человекоподобный робот Optimus; с другой стороны, твиты сотен миллионов пользователей в Твиттере и камеры на теле Теслы также предоставляют достаточно данных для развития AGI.
Поэтому он уверен, что сможет создать AGI быстрее, чем OpenAI:
До недавнего времени Маск все еще думал о том, как снизить риски, связанные с ИИ, и позволить человеческому сознанию передаваться из поколения в поколение.
Он считает, что уровень интеллекта человека стабилизируется, а новорожденных становится все меньше и меньше. В то же время интеллект компьютеров растет в геометрической прогрессии, как «Закон Мура о стероидах». Биологический интеллект меркнет по сравнению с цифровым интеллектом.
Маск считает, что «момент сингулярности», когда ИИ будет двигаться вперед с неконтролируемой скоростью и оставит людей позади, наступит раньше, чем мы думаем.