Musk biyografisi: 10 yıl önce yapay zekanın insanlığı yok edeceğinden endişeliydi

Yazar: Chang Jiashuai, Wall Street Insights

Eğer öngörünüz, enerjiniz, şansınız ve bunun getirdiği muazzam zenginlik olsaydı ne yapardınız?

Musk'ın cevabı şu: İnsan uygarlığının ateşini korumak ve tehlikeli yapay zekaya karşı savaşmak için altı şirketi bizzat yönetiyorum.

Çarşamba günü, Musk'ın biyografi yazarı Walter Issacson, Musk'ın on yılı aşkın bir süredir yapay zeka hakkındaki sürekli korku ve endişelerinin yanı sıra insanlığın gelecekteki kaderi hakkındaki düşüncelerini anlatan yakında çıkacak olan biyografisinin bazı bölümlerini Time dergisinde yayınladı. yapılmış.

Yapay zekanın gelmesi korkusu

Musk'un yapay zeka korkusu, yapay zeka araştırmacısı Demis Hassabis ile 2012'de yaptığı toplantıdan kaynaklanıyor.

Musk o dönemde kendisini SpaceX fabrikasını ziyarete davet etmiş ve Mars'a gidebilecek roketi yapmasının nedeninin nükleer savaş ve asteroit çarpması gibi kıyamet olaylarında insan uygarlığının ateşini korumak olduğunu açıklamıştı.

Demis, kıyamet listesine bir şeyin daha eklenmesi gerektiğini hatırlattı: Yapay zeka, gelecekte makinelerin zekası insanları aşabilir, hatta insanları yok etmek isteyebilir.

Musk bir dakika düşündü, sonra Demis'in haklı olduğuna karar verdi ve "ne yaptığını izlemek" için hemen DeepMind'a 5 milyon dolar yatırım yaptı.

Bu konuşmadan birkaç hafta sonra Musk, DeepMind'ı on yılı aşkın eski bir arkadaşı ve Google'ın kurucu ortağı olan Larry Page ile tanıştırdı ve Page ile sık sık gece geç saatlerde yapay zekanın insanlığa yönelik tehdidi hakkında konuştu, ancak ikincisi bunu reddetti. .

2013 yılında Musk'un doğum günü partisinde hararetli bir tartışma yaşandı. Musk, eğer acil önlem alınmazsa ve önlemler alınmazsa yapay zekanın hızlı gelişiminin insanlığı yok edebileceğine inanıyor.

Ancak Page bunu hiç umursamadı ve cevap verdi: Eğer bir gün makineler zeka ve hatta bilinç bakımından insanları geçerse bunun ne önemi var? Bu sadece evrimin bir sonraki aşaması. Musk'ı kendi türünü kayıran bir "türcü" olmakla suçladı.

Musk ayrıca cömertçe şunları da itiraf etti:

"Evet, insanları çok seviyorum. (İnsanlığı seviyorum, dostum.)"

OpenAI, Google'ı kontrol etmek ve dengelemek için kuruldu

O yılın sonunda, Page liderliğindeki Google'ın DeepMind'ı satın almayı planladığı haberi Musk'ın kulağına ulaştı ve güçlü yapay zekanın, Page gibi insanları umursamayan biri tarafından ele geçirilmesi durumunda ne olacağı konusunda oldukça endişeliydi.

Bu nedenle, arkadaşı ve PayPal'ın kurucu ortağı Luke Nosek'i anlaşmayı engellemek için para toplamaya ikna etti ancak başarısız oldu. Google, satın almayı Ocak 2014'te tamamladı. Musk'ın endişelerine yanıt olarak Page, Musk ve yukarıda adı geçen yapay zeka uzmanı Demis'in ve aralarında Google Başkanı Eric Schmidt ve LinkedIn kurucu ortağı Reid Hoffman'ın ve diğerlerinin de bulunduğu diğer üyelerin yer alacağı bir "güvenlik komitesi" kurmayı kabul etti.

Ancak "güvenlik komitesinin" ilk ve tek toplantısına katıldıktan sonra Musk, komitedeki kişilerin saçma sapan konuştuğuna inanarak Page ve Google'a karşı daha da güvensiz hale geldi. Google'la nasıl mücadele edileceğini ve yapay zeka güvenliğinin nasıl geliştirileceğini tartışmak için yoğun toplantılar düzenlemeye başladı.

Mayıs 2015'te, o zamanki ABD Başkanı Obama ile uzun bir birebir görüşme yaparak yapay zekanın risklerini açıkladı ve başkanın yapay zekayı düzenlemesini önerdi. Ancak Obama bu öneriyi kabul etmedi.

İşte bu sırada OpenAI'nin kurucusu Sam Altman sahneye çıktı. Musk ve kendisi, birbiriyle rekabet eden, birbirini kontrol eden ve dengeleyen çok sayıda yapay zeka sisteminin, yapay zekayı kontrol eden birkaç büyük şirketten daha güvenli olduğuna inanıyor. Bir akşam yemeğinde ikili anlaştılar ve kar amacı gütmeyen bir yapay zeka araştırma laboratuvarı kurmaya karar verdiler ve ona OpenAI adını verdiler.

Ancak 2018'de Tesla, potansiyel çıkar çatışmalarını önlemek amacıyla otopilot yazılımını çalıştıracak yapay zekayı da geliştirdiği için Musk, OpenAI'de kalmaya devam edemedi. Altman'ı OpenAI'yi Tesla ile birleştirmeye ikna etmeye çalıştı ancak reddedildi; ayrıca OpenAI'nin kademeli ticarileştirme yönünden de pek memnun değildi, bu yüzden sonunda OpenAI ekibinden ayrıldı.

Musk'un mevcut iş ortamına bakıldığında, her şirketin yapay zeka krizine yönelik çözümünü temsil ettiği görülüyor: SpaceX, uygarlığın ateşini korumak için Nuh'un Gemisi'ni inşa edebilir; bir beyin-bilgisayar arayüzü şirketi olan Neuralink, insan vücudunu daha esnek hale getirebilir. Tesla, her gün araba kameralarından 160 milyar kare video alıp işliyor. Bu gerçek dünya verileri "genel yapay zeka (AGI)" eğitimi için kullanılabilir ve insansı robot Optimus, AGI'nin fiziksel taşıyıcısı haline gelecek. Her türlü kaynak yeni şirketi xAI'ye entegre edilebiliyor.

Bu yılın ilk yarısında, OpenAI liderliğindeki yapay zeka dalgası Musk'ın dikkatini dağıtmakla kalmadı, aynı zamanda büyük şirketler tarafından kontrol edilen bu yapay zeka sistemlerinin "uyanmakta olan kültürel virüsleri" yayabileceği ve Amerikalı gençlerin kalplerini zehirleyebileceği konusunda onu daha da endişelendirdi. Günümüzün kendi kendine öğrenen yapay zeka sistemlerinin insanlara düşman olabileceği ve Twitter verileriyle eğitilen botların yanlış veya aldatıcı bilgiler üretebileceğine dair endişeler var.

OpenAI'yi kurup finanse etmesine rağmen şimdi kenara itildiği için kızgındı ve bu eyleme katılma konusunda istekliydi. AI yaklaşan en büyük fırtınadır. Kimse fırtınaları Musk kadar sevemez.

Bu nedenle yılın ilk yarısında Musk, OpenAI ve Altman'a kişisel olarak şiddetli bir saldırı başlattı.Altman, Musk'un saldırganlığını anlayabiliyordu.Bir röportajda Musk'ın bir pislik gibi davranmasına rağmen bunun doğru olduğuna inandığını söyledi. Yapay zeka alanıyla ilgili endişeler var ve insanlığın geleceği konusunda endişeleniyorlar.

Musk, AGI pistinde lider konumda olduğuna inanıyor.

Her ne kadar yapay zeka dalgasının en sıcak olduğu dönemde trendi yakalayamadım ve bir yapay zeka sohbet robotu oluşturamadım. Ancak Musk, AGI yarışında hâlâ önde olduğuna inanıyor.

Yalnızca metin üretebilen sohbet robotlarının kullanımının sınırlı olacağına, özellikle de akıllı, fiziksel botlara inandığına inanıyor. Bir yanda Tesla zaten gelişmiş otonom teknolojiye ve insansı robot Optimus'a sahip; diğer yanda yüz milyonlarca kullanıcının Twitter'daki tweetleri ve Tesla'nın gövdesindeki kameralar da AGI'nin gelişimi için yeterli veri sağlıyor.

Bu nedenle OpenAI'den daha hızlı AGI oluşturabileceğinden emin:

"Tesla'nın gerçek dünyadaki yapay zeka yetenekleri hafife alınıyor; Tesla ve OpenAI'nin görev değişimi yapmak zorunda kaldığını hayal edin. Onlar sürücüsüz arabalar yapmak zorundaydı ve biz de büyük dil modeli sohbet robotları yapmak zorunda kaldık. Kim kazanırdı? ?Biz kazandık."

Yakın zamana kadar Musk, insan bilincinin nesilden nesile aktarılabilmesi için yapay zeka risklerinin nasıl azaltılabileceğini düşünüyordu.

İnsanların zeka seviyesinin istikrar kazandığına ve giderek daha az yeni doğan bebek olduğuna inanıyor. Aynı zamanda bilgisayarların zekası da tıpkı "Moore'un steroidlere ilişkin yasası" gibi katlanarak artıyor. Biyolojik beyin gücü, dijital beyin gücüyle karşılaştırıldığında sönük kalır.

Musk, yapay zekanın kontrolsüz bir hızla tek başına ilerleyerek insanları geride bıraktığı "tekillik anının" beklediğimizden daha erken geleceğine inanıyor.

"Oturup yapay zekanın gelişiyle birlikte Twitter hakkında düşünmeye bu kadar çok zaman harcamam gerekip gerekmediğini sorguluyorum. Elbette, onu muhtemelen dünyanın en büyük finans kurumu yapabilirim. Ama sadece Gün ve saat başına o kadar çok enerjim var ki, daha fazla para falan kazanmama gerek yok.

Peki zamanımı nerede geçirmeliyim? Yıldız gemisini başlatın. Mars'a gitmek artık çok daha acil. Ayrıca yapay zekanın güvenliğini sağlamaya odaklanmam gerekiyor. Bu yüzden bir yapay zeka şirketi kurmak istiyorum. "