Apa yang akan Anda lakukan jika Anda bisa memiliki visi, energi, keberuntungan, dan kekayaan luar biasa yang menyertainya?
Jawaban Musk adalah: menjalankan enam perusahaan secara pribadi, melestarikan api peradaban manusia, dan melawan AI yang berbahaya.
Pada hari Rabu, penulis biografi Musk, Walter Issacson, menerbitkan beberapa bab dari biografinya yang akan datang di majalah Time, menggambarkan ketakutan dan kekhawatiran Musk yang terus-menerus terhadap AI selama lebih dari sepuluh tahun, serta pemikirannya tentang nasib masa depan umat manusia. dibuat.
Takut akan munculnya AI
Ketakutan Musk terhadap AI berawal dari pertemuannya dengan peneliti AI Demis Hassabis pada tahun 2012.
Saat itu, Musk mengajaknya mengunjungi pabrik SpaceX dan menjelaskan bahwa alasan ia membangun roket yang mampu mencapai Mars adalah untuk menjaga api peradaban manusia jika terjadi kiamat seperti perang nuklir dan hantaman asteroid.
Demis mengingatkannya bahwa ada satu hal lagi yang harus ditambahkan ke daftar kiamat - AI. Kecerdasan mesin mungkin melampaui manusia di masa depan, dan bahkan mungkin ingin memusnahkan manusia.
Musk berpikir sejenak, lalu memutuskan bahwa Demis benar dan segera menginvestasikan $5 juta di DeepMind untuk "memantau apa yang dilakukannya".
Beberapa minggu setelah percakapan ini, Musk memperkenalkan DeepMind kepada Larry Page, seorang teman lama selama lebih dari sepuluh tahun dan salah satu pendiri Google, dan sering berbicara dengan Page pada larut malam tentang ancaman AI terhadap umat manusia, namun Page mengabaikannya. .
Pada tahun 2013, di pesta ulang tahun Musk, mereka berdebat sengit. Musk percaya bahwa jika tindakan segera tidak diambil dan tindakan pengamanan tidak dilakukan, perkembangan AI yang pesat dapat membuat umat manusia punah.
Tapi Page tidak peduli sama sekali, dia bertanya balik: Jika suatu hari mesin melampaui manusia dalam hal kecerdasan dan bahkan kesadaran, apa bedanya? Ini hanyalah tahap evolusi selanjutnya. Dia menuduh Musk sebagai “spesialis” yang menyukai spesiesnya sendiri.
Musk juga mengakui dengan murah hati:
"Aku sangat menyukai kemanusiaan, kawan."
OpenAI didirikan untuk memeriksa dan menyeimbangkan Google
Di penghujung tahun itu, kabar bahwa Google di bawah kepemimpinan Page berencana mengakuisisi DeepMind sampai ke telinga Musk, ia khawatir dengan apa jadinya jika AI yang kuat dikuasai oleh orang-orang seperti Page yang tidak peduli dengan manusia.
Oleh karena itu, dia mengajak temannya dan salah satu pendiri PayPal, Luke Nosek, untuk mengumpulkan dana guna memblokir kesepakatan tersebut, namun gagal. Google menyelesaikan akuisisi pada bulan Januari 2014. Menanggapi kekhawatiran Musk, Page setuju untuk membentuk "komite keamanan", dengan Musk dan pakar AI Demis yang disebutkan di atas sebagai anggota, dan anggota lainnya termasuk Ketua Google Eric Schmidt dan salah satu pendiri LinkedIn Reid Hoffman, dan lainnya.
Namun, setelah menghadiri pertemuan pertama dan satu-satunya "komite keamanan", Musk menjadi semakin tidak percaya pada Page dan Google, percaya bahwa orang-orang di komite tersebut berbicara omong kosong. Dia mulai mengadakan pertemuan intensif untuk membahas cara melawan Google dan mempromosikan keamanan AI.
Pada bulan Mei 2015, ia juga melakukan pembicaraan panjang lebar dengan Presiden AS saat itu Barack Obama, menjelaskan risiko AI dan menyarankan agar presiden mengatur AI. Namun Obama tidak menyetujui usulannya.
Jadi, pendiri OpenAI Sam Altman muncul saat ini. Musk dan dia percaya bahwa sejumlah besar sistem AI yang bersaing dengan checks and balances lebih aman daripada membiarkan AI dikendalikan oleh beberapa perusahaan besar. Saat makan malam, keduanya cocok dan memutuskan untuk bersama-sama mendirikan laboratorium penelitian kecerdasan buatan nirlaba dan menamakannya OpenAI.
Namun, pada tahun 2018, karena Tesla juga mengembangkan AI untuk menggerakkan perangkat lunak penggerak otonomnya, Musk tidak dapat bertahan di OpenAI untuk menghindari potensi konflik kepentingan. Ia mencoba membujuk Altman untuk menggabungkan OpenAI ke dalam Tesla, namun ditolak, selain itu ia juga sangat tidak puas dengan komersialisasi OpenAI yang bertahap, sehingga akhirnya ia memutuskan hubungan dengan tim OpenAI.
Melihat kembali lanskap bisnis Musk saat ini, masing-masing perusahaan mewakili solusinya terhadap krisis AI: SpaceX dapat membangun Bahtera Nuh yang melestarikan api peradaban; perusahaan antarmuka otak-komputer Neuralink dapat membuat tubuh manusia lebih kuat. Kuat; Tesla menerima dan memproses 160 miliar frame video dari kamera mobil setiap hari.Data dunia nyata ini dapat digunakan untuk pelatihan "kecerdasan buatan umum (AGI)", dan robot humanoid Optimus akan menjadi pembawa fisik AGI. Segala jenis sumber daya dapat diintegrasikan ke dalam perusahaan barunya - xAI.
Pada paruh pertama tahun ini, gelombang AI yang dipimpin oleh OpenAI tidak hanya mencuri perhatian Musk, tetapi juga membuatnya semakin khawatir bahwa sistem AI yang dikendalikan oleh perusahaan-perusahaan besar ini dapat menyebarkan "virus kebangkitan budaya" dan meracuni pikiran orang Amerika. remaja; dia juga Ada kekhawatiran bahwa sistem AI saat ini yang dapat belajar sendiri dapat bermusuhan dengan manusia, dan robot yang dilatih menggunakan data Twitter dapat menghasilkan informasi yang salah atau menipu.
Dia tidak sabar untuk bergabung, karena merasa kesal karena dia mendirikan dan mendanai OpenAI dan sekarang ditinggalkan. AI adalah badai terbesar yang sedang terjadi. Tidak ada yang lebih menyukai badai selain Musk.
Oleh karena itu, pada paruh pertama tahun ini, Musk melancarkan serangan sengit terhadap OpenAI dan Altman secara pribadi. Altman dapat memahami agresivitas Musk. Dalam sebuah wawancara, dia mengatakan bahwa meskipun Musk berperilaku seperti orang brengsek, dia yakin bahwa dia benar. Beberapa diantaranya adalah sangat prihatin dengan bidang AI, dan khawatir dengan masa depan umat manusia.
Musk yakin bahwa dia berada di posisi terdepan di jalur AGI.
Meskipun saya gagal mengikuti tren dan membangun chatbot AI ketika gelombang AI sedang berada pada titik terpanasnya. Namun Musk yakin dia masih unggul dalam persaingan menuju AGI.
Dia percaya bahwa chatbot yang hanya dapat menghasilkan teks penggunaannya terbatas dan fokusnya adalah pada robot fisik yang cerdas. Di satu sisi, Tesla sudah memiliki teknologi self-driving canggih dan robot humanoid Optimus, di sisi lain, tweet ratusan juta pengguna di Twitter dan kamera di tubuh Tesla juga memberikan data yang cukup untuk pengembangan AGI.
Oleh karena itu, dia yakin dapat membuat AGI lebih cepat dari OpenAI:
"Kemampuan AI Tesla di dunia nyata diremehkan. Bayangkan jika Tesla dan OpenAI harus bertukar tugas. Mereka harus membuat mobil tanpa pengemudi, dan kami harus membuat chatbot model bahasa besar. Siapa yang akan menang? ? Kami menang."
Hingga saat ini, Musk masih memikirkan cara mengurangi risiko AI dan memungkinkan kesadaran manusia diturunkan dari generasi ke generasi.
Dia percaya bahwa kecerdasan manusia sedang menurun dan jumlah bayi baru lahir semakin sedikit. Pada saat yang sama, kecerdasan komputer berkembang secara eksponensial, seperti “Hukum Moore tentang steroid.” Kekuatan otak biologis tidak ada artinya jika dibandingkan dengan kekuatan otak digital.
Musk percaya bahwa "momen singularitas" ketika AI bergerak maju dengan kecepatan tak terkendali dan meninggalkan manusia akan terjadi lebih cepat dari yang kita perkirakan.
"Saya tidak bisa hanya duduk diam dan dengan munculnya kecerdasan buatan, saya agak skeptis apakah saya harus menghabiskan banyak waktu memikirkan Twitter. Tentu, saya mungkin bisa menjadikannya lembaga keuangan terbesar di dunia. Tapi saya hanya mempunyai begitu banyak energi per hari dan waktu, saya tidak perlu menghasilkan lebih banyak uang atau apa pun.
Jadi di mana saya harus menghabiskan waktu saya? Mulai kapal luar angkasa. Mencapai Mars kini jauh lebih mendesak. Selain itu, saya harus fokus mengamankan AI. Inilah mengapa saya ingin memulai perusahaan AI. "
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Kisah dalam biografi Musk: 10 tahun lalu dia khawatir AI akan menghancurkan umat manusia
Penulis: Chang Jiashuai, Berita Wall Street
Apa yang akan Anda lakukan jika Anda bisa memiliki visi, energi, keberuntungan, dan kekayaan luar biasa yang menyertainya?
Jawaban Musk adalah: menjalankan enam perusahaan secara pribadi, melestarikan api peradaban manusia, dan melawan AI yang berbahaya.
Pada hari Rabu, penulis biografi Musk, Walter Issacson, menerbitkan beberapa bab dari biografinya yang akan datang di majalah Time, menggambarkan ketakutan dan kekhawatiran Musk yang terus-menerus terhadap AI selama lebih dari sepuluh tahun, serta pemikirannya tentang nasib masa depan umat manusia. dibuat.
Takut akan munculnya AI
Ketakutan Musk terhadap AI berawal dari pertemuannya dengan peneliti AI Demis Hassabis pada tahun 2012.
Saat itu, Musk mengajaknya mengunjungi pabrik SpaceX dan menjelaskan bahwa alasan ia membangun roket yang mampu mencapai Mars adalah untuk menjaga api peradaban manusia jika terjadi kiamat seperti perang nuklir dan hantaman asteroid.
Demis mengingatkannya bahwa ada satu hal lagi yang harus ditambahkan ke daftar kiamat - AI. Kecerdasan mesin mungkin melampaui manusia di masa depan, dan bahkan mungkin ingin memusnahkan manusia.
Musk berpikir sejenak, lalu memutuskan bahwa Demis benar dan segera menginvestasikan $5 juta di DeepMind untuk "memantau apa yang dilakukannya".
Beberapa minggu setelah percakapan ini, Musk memperkenalkan DeepMind kepada Larry Page, seorang teman lama selama lebih dari sepuluh tahun dan salah satu pendiri Google, dan sering berbicara dengan Page pada larut malam tentang ancaman AI terhadap umat manusia, namun Page mengabaikannya. .
Pada tahun 2013, di pesta ulang tahun Musk, mereka berdebat sengit. Musk percaya bahwa jika tindakan segera tidak diambil dan tindakan pengamanan tidak dilakukan, perkembangan AI yang pesat dapat membuat umat manusia punah.
Tapi Page tidak peduli sama sekali, dia bertanya balik: Jika suatu hari mesin melampaui manusia dalam hal kecerdasan dan bahkan kesadaran, apa bedanya? Ini hanyalah tahap evolusi selanjutnya. Dia menuduh Musk sebagai “spesialis” yang menyukai spesiesnya sendiri.
Musk juga mengakui dengan murah hati:
OpenAI didirikan untuk memeriksa dan menyeimbangkan Google
Di penghujung tahun itu, kabar bahwa Google di bawah kepemimpinan Page berencana mengakuisisi DeepMind sampai ke telinga Musk, ia khawatir dengan apa jadinya jika AI yang kuat dikuasai oleh orang-orang seperti Page yang tidak peduli dengan manusia.
Oleh karena itu, dia mengajak temannya dan salah satu pendiri PayPal, Luke Nosek, untuk mengumpulkan dana guna memblokir kesepakatan tersebut, namun gagal. Google menyelesaikan akuisisi pada bulan Januari 2014. Menanggapi kekhawatiran Musk, Page setuju untuk membentuk "komite keamanan", dengan Musk dan pakar AI Demis yang disebutkan di atas sebagai anggota, dan anggota lainnya termasuk Ketua Google Eric Schmidt dan salah satu pendiri LinkedIn Reid Hoffman, dan lainnya.
Namun, setelah menghadiri pertemuan pertama dan satu-satunya "komite keamanan", Musk menjadi semakin tidak percaya pada Page dan Google, percaya bahwa orang-orang di komite tersebut berbicara omong kosong. Dia mulai mengadakan pertemuan intensif untuk membahas cara melawan Google dan mempromosikan keamanan AI.
Pada bulan Mei 2015, ia juga melakukan pembicaraan panjang lebar dengan Presiden AS saat itu Barack Obama, menjelaskan risiko AI dan menyarankan agar presiden mengatur AI. Namun Obama tidak menyetujui usulannya.
Jadi, pendiri OpenAI Sam Altman muncul saat ini. Musk dan dia percaya bahwa sejumlah besar sistem AI yang bersaing dengan checks and balances lebih aman daripada membiarkan AI dikendalikan oleh beberapa perusahaan besar. Saat makan malam, keduanya cocok dan memutuskan untuk bersama-sama mendirikan laboratorium penelitian kecerdasan buatan nirlaba dan menamakannya OpenAI.
Namun, pada tahun 2018, karena Tesla juga mengembangkan AI untuk menggerakkan perangkat lunak penggerak otonomnya, Musk tidak dapat bertahan di OpenAI untuk menghindari potensi konflik kepentingan. Ia mencoba membujuk Altman untuk menggabungkan OpenAI ke dalam Tesla, namun ditolak, selain itu ia juga sangat tidak puas dengan komersialisasi OpenAI yang bertahap, sehingga akhirnya ia memutuskan hubungan dengan tim OpenAI.
Melihat kembali lanskap bisnis Musk saat ini, masing-masing perusahaan mewakili solusinya terhadap krisis AI: SpaceX dapat membangun Bahtera Nuh yang melestarikan api peradaban; perusahaan antarmuka otak-komputer Neuralink dapat membuat tubuh manusia lebih kuat. Kuat; Tesla menerima dan memproses 160 miliar frame video dari kamera mobil setiap hari.Data dunia nyata ini dapat digunakan untuk pelatihan "kecerdasan buatan umum (AGI)", dan robot humanoid Optimus akan menjadi pembawa fisik AGI. Segala jenis sumber daya dapat diintegrasikan ke dalam perusahaan barunya - xAI.
Pada paruh pertama tahun ini, gelombang AI yang dipimpin oleh OpenAI tidak hanya mencuri perhatian Musk, tetapi juga membuatnya semakin khawatir bahwa sistem AI yang dikendalikan oleh perusahaan-perusahaan besar ini dapat menyebarkan "virus kebangkitan budaya" dan meracuni pikiran orang Amerika. remaja; dia juga Ada kekhawatiran bahwa sistem AI saat ini yang dapat belajar sendiri dapat bermusuhan dengan manusia, dan robot yang dilatih menggunakan data Twitter dapat menghasilkan informasi yang salah atau menipu.
Dia tidak sabar untuk bergabung, karena merasa kesal karena dia mendirikan dan mendanai OpenAI dan sekarang ditinggalkan. AI adalah badai terbesar yang sedang terjadi. Tidak ada yang lebih menyukai badai selain Musk.
Oleh karena itu, pada paruh pertama tahun ini, Musk melancarkan serangan sengit terhadap OpenAI dan Altman secara pribadi. Altman dapat memahami agresivitas Musk. Dalam sebuah wawancara, dia mengatakan bahwa meskipun Musk berperilaku seperti orang brengsek, dia yakin bahwa dia benar. Beberapa diantaranya adalah sangat prihatin dengan bidang AI, dan khawatir dengan masa depan umat manusia.
Musk yakin bahwa dia berada di posisi terdepan di jalur AGI.
Meskipun saya gagal mengikuti tren dan membangun chatbot AI ketika gelombang AI sedang berada pada titik terpanasnya. Namun Musk yakin dia masih unggul dalam persaingan menuju AGI.
Dia percaya bahwa chatbot yang hanya dapat menghasilkan teks penggunaannya terbatas dan fokusnya adalah pada robot fisik yang cerdas. Di satu sisi, Tesla sudah memiliki teknologi self-driving canggih dan robot humanoid Optimus, di sisi lain, tweet ratusan juta pengguna di Twitter dan kamera di tubuh Tesla juga memberikan data yang cukup untuk pengembangan AGI.
Oleh karena itu, dia yakin dapat membuat AGI lebih cepat dari OpenAI:
Hingga saat ini, Musk masih memikirkan cara mengurangi risiko AI dan memungkinkan kesadaran manusia diturunkan dari generasi ke generasi.
Dia percaya bahwa kecerdasan manusia sedang menurun dan jumlah bayi baru lahir semakin sedikit. Pada saat yang sama, kecerdasan komputer berkembang secara eksponensial, seperti “Hukum Moore tentang steroid.” Kekuatan otak biologis tidak ada artinya jika dibandingkan dengan kekuatan otak digital.
Musk percaya bahwa "momen singularitas" ketika AI bergerak maju dengan kecepatan tak terkendali dan meninggalkan manusia akan terjadi lebih cepat dari yang kita perkirakan.