Editörün notu: Yapay zekanın ortaya çıkışı "tekillik" kavramını ön plana çıkardı.Silikon Vadisi'ndeki pek çok kişi yapay zekanın insan toplumunu tamamen değiştireceğine inanıyor. Bununla birlikte, AI'nın insanlığı yok etme olasılığı da dahil olmak üzere potansiyel olumsuz sonuçları hakkında da endişeler var. Bu makale, yazarın "tekillik" kavramını tartıştığı, Silikon Vadisi'nin yapay zeka konusundaki heyecanını ve endişelerini tartıştığı ve bu teknolojinin potansiyel faydalarını ve risklerini vurguladığı derlemeden gelmektedir.
Görsel kaynağı: Unbounded AI tarafından oluşturuldu
odak
Teknoloji ve yapay zekanın dünyayı dramatik bir şekilde değiştirdiği an olan tekillik, merakla beklenen ama aynı zamanda Silikon Vadisi'ni dehşete düşüren bir kavram.
Yapay zekanın potansiyel olumlu etkisine dair bir heyecan varken, insanlık için feci sonuçlara yol açabileceği endişesi de var.
*Şu anda AI ve Singularity'deki ilginin çoğu büyük dil modellerinin geliştirilmesi üzerindedir, ancak bu modellerin Singularity tarafından vaat edilen zekadaki üstel büyümeyi gerçekten temsil edip etmediği konusunda hala tartışmalar var.
Silikon Vadisi onlarca yıldır insan yaşam tarzlarında, ekonomilerde, sosyal kurumlarda ve daha fazlasında devrim yaratacak yeni bir teknolojinin ortaya çıkmasını bekliyor. İnsanları ve makineleri bir araya getirebilir, muhtemelen benzeri görülmemiş fırsatlar ve zorluklar getirebilir ve tarihi "önce" ve "sonra" olarak iki döneme ayırabilir.
Bu dönüm noktasının adı "Tekillik" olarak adlandırılabilir.
Çevirenin Notu: "Singularity", Amerikalı bilim kurgu yazarı Vernor Vinge tarafından önerilen, gelecekte olabilecek bir olay veya duruma atıfta bulunan, yani yapay zekanın zekasının insanoğlununkinden daha üstün olmasına atıfta bulunan bir kavramdır. böylece teknolojide ve toplumda patlayıcı değişiklikleri tetikleyerek gelecekte ne olacağını tahmin etmeyi ve anlamayı zorlaştırıyor.
Tekillikler çeşitli şekillerde ortaya çıkabilir. Bir olasılık, insanların bilgisayarların işlem gücünü kendi doğuştan gelen zekalarına dahil ederek kendilerini daha güçlü hale getirmiş olmalarıdır. Veya bilgisayar o kadar karmaşık hale gelebilir ki gerçekten düşünebilir ve bir "küresel beyin" yaratabilir.
Her iki senaryo da, hiçbiri tersine çevrilemeyecek olan şiddetli, üstel değişiklikler getirecektir. Kendisini herhangi bir bilim insanı ekibinden çok daha hızlı tasarlayabilen, geliştirebilen ve güncelleyebilen, kendinin farkında olan bir süper zeki makine, kesinlikle bir entelektüel patlamayı ateşleyecektir. Geçtiğimiz yüzyıllarda kaydedilen ilerlemeler, yalnızca birkaç yıl hatta aylar içinde çığır açıcı olabilir. Tekillik, geleceğe doğru bir mancınıktır.
Bugün, yapay zeka teknoloji, ticaret ve siyasette benzeri görülmemiş dalgalar yaratıyor. Silikon Vadisi'nden çıkan tüm abartı ve saçmalıklara bakılırsa, bu son derece pembe gelecek sonunda burada gibi görünüyor.
Google'ın genellikle mütevazı CEO'su Sundar Pichai, "yapay zeka, önem ve etki açısından ateşi, elektriği veya geçmişteki tüm teknolojik başarıları geride bıraktı" dedi. Milyarder yatırımcı Reid Hoffman (Reid Hoffman), "Dünya, tüm insan toplumunu ileriye taşıyacak, benzeri görülmemiş bir gücü başlatacak." Microsoft'un kurucu ortağı Bill Gates (Bill Gates) yapay zekanın "yolu değiştireceğini" açıkladı. insanlar çalışır, öğrenir, seyahat eder, sağlık hizmeti alır ve birbirleriyle iletişim kurar".
Yapay zeka, talep üzerine insanüstü yetenekler sağlayabilen Silikon Vadisi'nin en yeni ürünüdür.
Ancak göz ardı edilemeyecek gizli bir sorun da var. Sanki teknoloji şirketleri, sürücüsüz arabaları Walmart yolunda patlayabileceklerine dair bir uyarı mesajıyla piyasaya sürüyor.
Bu yılın Mayıs ayında Tesla ve Twitter'ın başkanı Elon Musk, ABD Tüketici Haberleri ve İş Kanalı'na (CNBC) verdiği bir röportajda şunları söyledi: "Yapay genel zekanın ortaya çıkışı bir mucize olarak adlandırılıyor. Asıl mesele şu ki bundan sonra , bundan sonra ne olacağını tahmin etmek zor olacak." "Bir bolluk çağına" (bir bolluk çağı) gireceğimize inanıyor, ancak yapay zekanın "insanlığı yok etme" riski "hala kabul edilemez". ".
Teknoloji dünyasında yapay zekanın en güçlü savunucusu, Amerikan yapay zeka şirketi OpenAI'nin CEO'su Sam Altman'dır. Startup'ın geçen yıl piyasaya sürülen ChatGPT sohbet robotu da sürekli bir coşku uyandırdı. Altman, AI'nın "birçokları için ekonomik güçlenme ve zenginlik açısından en büyük güç" olacağını söyledi.
Ancak beyin-bilgisayar arayüzü teknolojisini geliştiren şirketi kuran Musk için de Musk'ın eleştirilerini haklı buluyor.
Kısa bir süre önce Altman, kâr amacı gütmeyen "Center for AI Safety" (Center for AI Safety) sponsorluğunda ortak bir açık mektup imzaladı. Mektupta, "Yapay zekanın neden olduğu yok olma riskinin önlenmesi, salgın hastalıklar ve nükleer savaş" kadar küresel bir öncelik olmalıdır. Diğer imza sahipleri arasında OpenAI şirketinden meslektaşları ve Microsoft ve Google'dan bilgisayar bilimcileri yer alıyor.
Bir Amerikan yapay zeka şirketi olan OpenAI'nin CEO'su Sam Altman, yapay zekanın en güçlü destekçisidir. Görüntü kaynağı: Haiyun Jiang
Kıyamet, Silikon Vadisi'nde tanıdık, hatta popüler bir konudur. Birkaç yıl önce, neredeyse her teknoloji yöneticisi, hiçliğin ortasında bir yere, ihtiyaç duymaları durumunda iyi stoklanmış bir kıyamet günü sığınağı inşa etmiş görünüyordu. 2016'da Altman ayrıca "silah, altın, potasyum iyodür, antibiyotik, pil, su, IDF gaz maskeleri stokladığını ve Big Sur'da içine uçabileceğiniz devasa bir sığınak inşa ettiğini" söyledi. bu teknolojiden kurtulanları en azından bir süreliğine haklı hissettirdi.
Şimdi tekilliğin gelişine hazırlanıyorlar.
Bu konuda "The Intelligence Illusion" kitabının yazarı Baldur Bjarnason, "Kendilerini çok bilge sanıyorlar ama sözleri daha çok MS 1000 yılına benziyor. Keşişler kıyametten bahsediyor. Bu biraz endişe verici."
"Ötesi"nin Kökeni
"Tekillik" kavramının kökenleri, 1950'lerde bilgisayar bilimi öncüsü John von Neumann'a kadar izlenebilir. Von Neumann bir keresinde "teknolojinin sürekli hızlanan ilerlemesinin" "insanlık tarihinde çok önemli bir tekilliğe" yol açacağını tahmin etmişti.
Bilgisayar bilimi öncüsü John von Neumann. Resim kredisi: Getty Images
İngiliz matematikçi Irving John Good da bu görüşün güçlü bir savunucusuydu. İngiliz hükümetine, Bletchley Park'ta (Bletchley Park, İngiliz hükümetinin II. Dünya Savaşı sırasında kod kırma gerçekleştirdiği ana yer) Alman Enigma şifre makinesini kırmasına yardım etti. 1964'te şöyle yazdı: "Süper zeki makinelerin erken inşası, insanlığın hayatta kalmasının anahtarıdır."
Amerikalı film yönetmeni Stanley Kubrick, bilimkurgu filmi 2001: A Space Odyssey'in çekimlerini yönettiğinde, Goode'dan filmin iyiden kötülüğe dönüşen yapay zeka karakteri HAL hakkında tavsiye istedi; bilimkurgu.
Carnegie Mellon Üniversitesi Robotik Enstitüsü'nde yardımcı profesör olan Hans Moravec, Tekilliğin ortaya çıkışının yalnızca yaşayanlara fayda sağlamakla kalmayıp ölüleri de hayata döndüreceğine inanıyor.
Mind Children: The Future of Robot and Human Intelligence.
Girişimci ve mucit Ray Kurzweil de son yıllarda Tekilliğin en büyük savunucusu olmuştur. Kurzweil, 1990'da The Age of Intelligent Machines'in ve 2005'te The Singularity Is Near'ın yazarıdır. Kurzweil şu anda The Singularity Is Near kitabını yazıyor.
Bu on yılın sonunda bilgisayarların Turing testini geçeceğini ve insanlardan ayırt edilemez hale geleceğini tahmin ediyor. On beş yıl sonra, gerçek aşkınlık gelecek: "Bilgisayar teknolojisi içimize entegre edildiğinde, zekamız büyük ölçüde, belki de yüzlerce kez gelişecek."
Kurzweil o zamana kadar 97 yaşında olacaktı. Çeşitli vitaminler ve takviyelerin yardımıyla, bu çağın geldiğini görmek için yaşayacağını umuyor.
Girişimci ve mucit Ray Kurzweil aynı zamanda Singularity'nin en büyük savunucusudur. Kredi: Friso Gentsch/Picture Alliance
Singularity'nin bazı eleştirmenleri, Singularity kavramının yazılım alanında organize bir dini inanca benzer bir inanç sistemi yaratmaya çalıştığına inanmaktadır.Katı bilimsel kanıtlarla desteklendiğinden inandırıcı olmak zordur.
MIT'nin Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı eski müdürü Rodney Brooks, "Hepsi ölümsüzlük istiyor, ancak 'Tanrı'ya' inanmak istemiyorlar" dedi.
Bugün, "Singularity" tartışmasındaki yenilikler, aynı zamanda chatbot'ların gelişiminin de merkezinde yer alan yapay zeka sistemi olan büyük dil modellerini (LLM) içeriyor. Bu geniş dil modelleriyle konuşun ve soruları hızlı, tutarlı bir şekilde ve genellikle oldukça aydınlatıcı yanıtlarla yanıtlayabilirler.
Uzun süredir yapay zeka girişimcisi ve Yapay Zeka: Herkesin Bilmesi Gerekenler kitabının yazarı olan Jerry Kaplan'a göre, "Büyük bir dil modeli sorduğunuzda, sonunda sorunun anlamını anlar, cevabın ne olması gerektiğini belirler ve ardından Yazılı olarak cevaplayın. Genel zekanın tanımı bu değilse nedir?"
Kaplan ayrıca sürücüsüz arabalar ve kripto para birimleri gibi yüksek profilli teknolojilere şüpheyle baktığını söyledi. Aynı şekilde, daha önce en son AI çılgınlığına şüpheyle bakıyordu, ancak sunduğu potansiyeli gördükten sonra AI hakkındaki fikrini değiştirmeye başladı.
"Bu 'tekillik' değilse, o zaman kesinlikle öyle. İnsanlığı sanatta, bilimde ve bilgide önemli ölçüde ilerletecek çok büyük etkiye sahip bir teknoloji. Ve tabii ki bazı sorunları da beraberinde getirecek." katma.
Eleştirmenler, büyük dil modelleri etkileyici sonuçlar elde etse bile bunun Singularity tarafından tasvir edilen engin, küresel zeka ile eşleşemeyeceğini söyleyerek karşı çıkıyor. Aldatmaca ile gerçeklik arasındaki çizgiyi çizmedeki sorunun bir kısmı, bu teknolojiyi yönlendiren ilkelerin ve algoritmaların ortaya çıkarılmasının giderek zorlaşmasıdır.
OpenAI, açık kaynak kodu kullanarak kâr amacı gütmeyen bir kuruluş olarak başladı, ancak o zamandan beri kâr amacı güden bir kuruluşa dönüştü. Bazı eleştirmenler, OpenAI'nin artık etkin bir şekilde bir "kara kutu" olduğuna ve onun iç işleyişini herkesin anlaması zor olduğuna işaret ediyor. Bu konuda Google ve Microsoft da düşük derecede bilgi ifşasına sahiptir.
Yapay zeka üzerine yapılan mevcut araştırmaların çoğu, sonuçlardan fayda sağlayacak şirketler tarafından yürütülüyor. OpenAI'nin en son modelinin bir ön versiyonu, "soyutlama yeteneği, kavrama, görsel yetenek, kodlama yeteneği" ve "insan motivasyonunu ve duygularını anlama yeteneği" dahil olmak üzere "birden fazla akıllı özelliği gösterir".
Stanford Üniversitesi'nde bilgisayar bilimi alanında doktora öğrencisi olan Rylan Schaeffer, bazı yapay zeka araştırmacılarının bu büyük dil modellerinin sergilediği "ortaya çıkan gücü" tanımlamada hatalı olduklarını söylüyor. Bu büyük dil modelleri bazı bilinmeyen ve yorumlanması zor yeteneklere sahipken, bu yetenekler daha küçük dil modeli sürümlerinde belirgin değildir veya mevcut değildir.
Schafer ve diğer iki Stanford meslektaşı, Brando Miranda ve Sanmi Koyejo, Mayıs ayında yayınlanan bir araştırma makalesinde soruyu incelediler ve ortaya çıkan bu yeteneğin, model boyutu ve karmaşıklığındaki artışlardan değil, yalnızca ölçüm hatalarından kaynaklanan bir "illüzyon" olduğu sonucuna vardılar. . Aslında, araştırmacılar görmek istedikleri sonuçları görme eğiliminde olabilirler.
Ölümsüzlük, Ölümsüzlük
Washington, Londra ve Brüksel'de milletvekilleri yapay zekanın ortaya çıkardığı fırsatları ve sorunları fark etmeye ve düzenleyici konuları tartışmaya başlıyor. Altman, şirketini tekillik çağında bir lider olarak gösterirken, ilk eleştirmenleri başından savmayı amaçlayan OpenAI için tanıtım amaçlı bir roadshow yapıyor.
Bu, düzenlemeye açık olmayı içerir, ancak düzenlemenin spesifik şekli henüz net değildir. Yine de, Silikon Vadisi'nde devlet kurumlarının verimsiz olduğuna ve hızlı hareket eden teknoloji sektörünü etkili bir şekilde düzenleme uzmanlığına sahip olmadığına dair yaygın bir algı var.
Eski Google CEO'su Eric Schmidt, bu yılın başlarında "Meet the Press" haber talk show'una "Devlet kurumunda bunu doğru yapan kimse yok" dedi ve yapay zeka özdenetim fikrini ortaya attı. "Ancak endüstri, endüstri içinde düzenlemeleri kabaca doğru yapma kapasitesine sahip" diye ekledi.
Yapay zeka da tıpkı teknolojik tekillik gibi getirdiği değişimlerde geri döndürülemez olarak görülüyor. Altman ve meslektaşları geçtiğimiz günlerde "yapay zekanın daha da gelişmesini engellemek için küresel düzenleyici sisteme benzer kontrol mekanizmalarının kurulması gerektiğini, ancak bu bile başarıyı garanti edemez" dediler. BT.
Bununla birlikte, bundan elde edilen büyük karlar şu anda nadiren tartışılmaktadır. Yapay zekanın sınırsız zenginlik yaratan bir makine olduğu yönündeki popüler algıya rağmen, aslında bundan kazançlı çıkanlar aslında zaten zengin olanlardır.
Bu yıl, Microsoft'un piyasa değeri 5 trilyon dolar arttı. Yapay zeka çalıştıran sistemler için çip üreten Nvidia da son zamanlarda çip talebindeki artış nedeniyle ABD'deki en değerli halka açık şirketlerden biri haline geldi.
Altman, "Yapay zeka, insan toplumunun her zaman sahip olmayı arzuladığı teknolojidir" diye tweet attı.
Bunun gerçekten teknoloji dünyasının beklediği bir teknoloji olduğu ve mükemmel bir zamanda geldiği inkar edilemez.
Geçen yıl, Silikon Vadisi işten çıkarmalar ve artan faiz oranlarıyla çifte darbe alırken, kripto para birimleri, bir patlama ve düşüş döneminden sonra, dolandırıcılık ve ardından gelen hayal kırıklığı nedeniyle hızla azaldı.
Teknolojik tekilliği mizahi bir şekilde tasvir eden bir bilim kurgu romanı olan The Rapture of the Nerds'in ortak yazarı Charles Stross, "Parayı takip edin" diyor. Stross aynı zamanda gelecekte hayatın nasıl görünebileceğine dair daha ciddi ve ciddi bir tablo çizdiği bilim kurgu romanı Accelerando'nun da yazarıdır.
"Asıl fırsat, şirketlerin birçok kusurlu, pahalı, yanıt vermeyen, insan tarafından çalıştırılan bilgi işlem birimlerini yazılımla değiştirebilecek olması, böylece maliyetlerin düşürülmesi ve verimliliğin artırılmasıdır" dedi.
Uzun zamandır insanlar teknolojik tekilliği, insanın bilişsel sistemini tamamen alt üst edebilecek küresel etkiye sahip bir olay olarak hayal ettiler ve bu değişimin gücü inanılmaz. Şimdilik, bu olasılık hala var.
Bununla birlikte, kısmen bugün Silikon Vadisi'ndeki aşırı kurumsal kâr arayışı nedeniyle, bu, teknolojik tekilliğin ilk etapta bir işten çıkarma aracı olarak kullanılmasına yol açacaktır. Trilyon dolarlık bir piyasa kapitalizasyonu arayışında, küçük sorunlar şimdilik bir kenara bırakılabilir.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Silikon Vadisi hararetle yapay zekanın "tekilliğini" tartışıyor: İnsanları geride bırakan makinelerin çağı geldi mi?
Orijinal kaynak: 36 kripton
Editörün notu: Yapay zekanın ortaya çıkışı "tekillik" kavramını ön plana çıkardı.Silikon Vadisi'ndeki pek çok kişi yapay zekanın insan toplumunu tamamen değiştireceğine inanıyor. Bununla birlikte, AI'nın insanlığı yok etme olasılığı da dahil olmak üzere potansiyel olumsuz sonuçları hakkında da endişeler var. Bu makale, yazarın "tekillik" kavramını tartıştığı, Silikon Vadisi'nin yapay zeka konusundaki heyecanını ve endişelerini tartıştığı ve bu teknolojinin potansiyel faydalarını ve risklerini vurguladığı derlemeden gelmektedir.
Silikon Vadisi onlarca yıldır insan yaşam tarzlarında, ekonomilerde, sosyal kurumlarda ve daha fazlasında devrim yaratacak yeni bir teknolojinin ortaya çıkmasını bekliyor. İnsanları ve makineleri bir araya getirebilir, muhtemelen benzeri görülmemiş fırsatlar ve zorluklar getirebilir ve tarihi "önce" ve "sonra" olarak iki döneme ayırabilir.
Bu dönüm noktasının adı "Tekillik" olarak adlandırılabilir.
Tekillikler çeşitli şekillerde ortaya çıkabilir. Bir olasılık, insanların bilgisayarların işlem gücünü kendi doğuştan gelen zekalarına dahil ederek kendilerini daha güçlü hale getirmiş olmalarıdır. Veya bilgisayar o kadar karmaşık hale gelebilir ki gerçekten düşünebilir ve bir "küresel beyin" yaratabilir.
Her iki senaryo da, hiçbiri tersine çevrilemeyecek olan şiddetli, üstel değişiklikler getirecektir. Kendisini herhangi bir bilim insanı ekibinden çok daha hızlı tasarlayabilen, geliştirebilen ve güncelleyebilen, kendinin farkında olan bir süper zeki makine, kesinlikle bir entelektüel patlamayı ateşleyecektir. Geçtiğimiz yüzyıllarda kaydedilen ilerlemeler, yalnızca birkaç yıl hatta aylar içinde çığır açıcı olabilir. Tekillik, geleceğe doğru bir mancınıktır.
Bugün, yapay zeka teknoloji, ticaret ve siyasette benzeri görülmemiş dalgalar yaratıyor. Silikon Vadisi'nden çıkan tüm abartı ve saçmalıklara bakılırsa, bu son derece pembe gelecek sonunda burada gibi görünüyor.
Google'ın genellikle mütevazı CEO'su Sundar Pichai, "yapay zeka, önem ve etki açısından ateşi, elektriği veya geçmişteki tüm teknolojik başarıları geride bıraktı" dedi. Milyarder yatırımcı Reid Hoffman (Reid Hoffman), "Dünya, tüm insan toplumunu ileriye taşıyacak, benzeri görülmemiş bir gücü başlatacak." Microsoft'un kurucu ortağı Bill Gates (Bill Gates) yapay zekanın "yolu değiştireceğini" açıkladı. insanlar çalışır, öğrenir, seyahat eder, sağlık hizmeti alır ve birbirleriyle iletişim kurar".
Yapay zeka, talep üzerine insanüstü yetenekler sağlayabilen Silikon Vadisi'nin en yeni ürünüdür.
Ancak göz ardı edilemeyecek gizli bir sorun da var. Sanki teknoloji şirketleri, sürücüsüz arabaları Walmart yolunda patlayabileceklerine dair bir uyarı mesajıyla piyasaya sürüyor.
Bu yılın Mayıs ayında Tesla ve Twitter'ın başkanı Elon Musk, ABD Tüketici Haberleri ve İş Kanalı'na (CNBC) verdiği bir röportajda şunları söyledi: "Yapay genel zekanın ortaya çıkışı bir mucize olarak adlandırılıyor. Asıl mesele şu ki bundan sonra , bundan sonra ne olacağını tahmin etmek zor olacak." "Bir bolluk çağına" (bir bolluk çağı) gireceğimize inanıyor, ancak yapay zekanın "insanlığı yok etme" riski "hala kabul edilemez". ".
Teknoloji dünyasında yapay zekanın en güçlü savunucusu, Amerikan yapay zeka şirketi OpenAI'nin CEO'su Sam Altman'dır. Startup'ın geçen yıl piyasaya sürülen ChatGPT sohbet robotu da sürekli bir coşku uyandırdı. Altman, AI'nın "birçokları için ekonomik güçlenme ve zenginlik açısından en büyük güç" olacağını söyledi.
Ancak beyin-bilgisayar arayüzü teknolojisini geliştiren şirketi kuran Musk için de Musk'ın eleştirilerini haklı buluyor.
Kısa bir süre önce Altman, kâr amacı gütmeyen "Center for AI Safety" (Center for AI Safety) sponsorluğunda ortak bir açık mektup imzaladı. Mektupta, "Yapay zekanın neden olduğu yok olma riskinin önlenmesi, salgın hastalıklar ve nükleer savaş" kadar küresel bir öncelik olmalıdır. Diğer imza sahipleri arasında OpenAI şirketinden meslektaşları ve Microsoft ve Google'dan bilgisayar bilimcileri yer alıyor.
Kıyamet, Silikon Vadisi'nde tanıdık, hatta popüler bir konudur. Birkaç yıl önce, neredeyse her teknoloji yöneticisi, hiçliğin ortasında bir yere, ihtiyaç duymaları durumunda iyi stoklanmış bir kıyamet günü sığınağı inşa etmiş görünüyordu. 2016'da Altman ayrıca "silah, altın, potasyum iyodür, antibiyotik, pil, su, IDF gaz maskeleri stokladığını ve Big Sur'da içine uçabileceğiniz devasa bir sığınak inşa ettiğini" söyledi. bu teknolojiden kurtulanları en azından bir süreliğine haklı hissettirdi.
Şimdi tekilliğin gelişine hazırlanıyorlar.
Bu konuda "The Intelligence Illusion" kitabının yazarı Baldur Bjarnason, "Kendilerini çok bilge sanıyorlar ama sözleri daha çok MS 1000 yılına benziyor. Keşişler kıyametten bahsediyor. Bu biraz endişe verici."
"Ötesi"nin Kökeni
"Tekillik" kavramının kökenleri, 1950'lerde bilgisayar bilimi öncüsü John von Neumann'a kadar izlenebilir. Von Neumann bir keresinde "teknolojinin sürekli hızlanan ilerlemesinin" "insanlık tarihinde çok önemli bir tekilliğe" yol açacağını tahmin etmişti.
İngiliz matematikçi Irving John Good da bu görüşün güçlü bir savunucusuydu. İngiliz hükümetine, Bletchley Park'ta (Bletchley Park, İngiliz hükümetinin II. Dünya Savaşı sırasında kod kırma gerçekleştirdiği ana yer) Alman Enigma şifre makinesini kırmasına yardım etti. 1964'te şöyle yazdı: "Süper zeki makinelerin erken inşası, insanlığın hayatta kalmasının anahtarıdır."
Amerikalı film yönetmeni Stanley Kubrick, bilimkurgu filmi 2001: A Space Odyssey'in çekimlerini yönettiğinde, Goode'dan filmin iyiden kötülüğe dönüşen yapay zeka karakteri HAL hakkında tavsiye istedi; bilimkurgu.
Carnegie Mellon Üniversitesi Robotik Enstitüsü'nde yardımcı profesör olan Hans Moravec, Tekilliğin ortaya çıkışının yalnızca yaşayanlara fayda sağlamakla kalmayıp ölüleri de hayata döndüreceğine inanıyor.
Mind Children: The Future of Robot and Human Intelligence.
Girişimci ve mucit Ray Kurzweil de son yıllarda Tekilliğin en büyük savunucusu olmuştur. Kurzweil, 1990'da The Age of Intelligent Machines'in ve 2005'te The Singularity Is Near'ın yazarıdır. Kurzweil şu anda The Singularity Is Near kitabını yazıyor.
Bu on yılın sonunda bilgisayarların Turing testini geçeceğini ve insanlardan ayırt edilemez hale geleceğini tahmin ediyor. On beş yıl sonra, gerçek aşkınlık gelecek: "Bilgisayar teknolojisi içimize entegre edildiğinde, zekamız büyük ölçüde, belki de yüzlerce kez gelişecek."
Kurzweil o zamana kadar 97 yaşında olacaktı. Çeşitli vitaminler ve takviyelerin yardımıyla, bu çağın geldiğini görmek için yaşayacağını umuyor.
Singularity'nin bazı eleştirmenleri, Singularity kavramının yazılım alanında organize bir dini inanca benzer bir inanç sistemi yaratmaya çalıştığına inanmaktadır.Katı bilimsel kanıtlarla desteklendiğinden inandırıcı olmak zordur.
MIT'nin Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı eski müdürü Rodney Brooks, "Hepsi ölümsüzlük istiyor, ancak 'Tanrı'ya' inanmak istemiyorlar" dedi.
Bugün, "Singularity" tartışmasındaki yenilikler, aynı zamanda chatbot'ların gelişiminin de merkezinde yer alan yapay zeka sistemi olan büyük dil modellerini (LLM) içeriyor. Bu geniş dil modelleriyle konuşun ve soruları hızlı, tutarlı bir şekilde ve genellikle oldukça aydınlatıcı yanıtlarla yanıtlayabilirler.
Uzun süredir yapay zeka girişimcisi ve Yapay Zeka: Herkesin Bilmesi Gerekenler kitabının yazarı olan Jerry Kaplan'a göre, "Büyük bir dil modeli sorduğunuzda, sonunda sorunun anlamını anlar, cevabın ne olması gerektiğini belirler ve ardından Yazılı olarak cevaplayın. Genel zekanın tanımı bu değilse nedir?"
Kaplan ayrıca sürücüsüz arabalar ve kripto para birimleri gibi yüksek profilli teknolojilere şüpheyle baktığını söyledi. Aynı şekilde, daha önce en son AI çılgınlığına şüpheyle bakıyordu, ancak sunduğu potansiyeli gördükten sonra AI hakkındaki fikrini değiştirmeye başladı.
"Bu 'tekillik' değilse, o zaman kesinlikle öyle. İnsanlığı sanatta, bilimde ve bilgide önemli ölçüde ilerletecek çok büyük etkiye sahip bir teknoloji. Ve tabii ki bazı sorunları da beraberinde getirecek." katma.
Eleştirmenler, büyük dil modelleri etkileyici sonuçlar elde etse bile bunun Singularity tarafından tasvir edilen engin, küresel zeka ile eşleşemeyeceğini söyleyerek karşı çıkıyor. Aldatmaca ile gerçeklik arasındaki çizgiyi çizmedeki sorunun bir kısmı, bu teknolojiyi yönlendiren ilkelerin ve algoritmaların ortaya çıkarılmasının giderek zorlaşmasıdır.
OpenAI, açık kaynak kodu kullanarak kâr amacı gütmeyen bir kuruluş olarak başladı, ancak o zamandan beri kâr amacı güden bir kuruluşa dönüştü. Bazı eleştirmenler, OpenAI'nin artık etkin bir şekilde bir "kara kutu" olduğuna ve onun iç işleyişini herkesin anlaması zor olduğuna işaret ediyor. Bu konuda Google ve Microsoft da düşük derecede bilgi ifşasına sahiptir.
Yapay zeka üzerine yapılan mevcut araştırmaların çoğu, sonuçlardan fayda sağlayacak şirketler tarafından yürütülüyor. OpenAI'nin en son modelinin bir ön versiyonu, "soyutlama yeteneği, kavrama, görsel yetenek, kodlama yeteneği" ve "insan motivasyonunu ve duygularını anlama yeteneği" dahil olmak üzere "birden fazla akıllı özelliği gösterir".
Stanford Üniversitesi'nde bilgisayar bilimi alanında doktora öğrencisi olan Rylan Schaeffer, bazı yapay zeka araştırmacılarının bu büyük dil modellerinin sergilediği "ortaya çıkan gücü" tanımlamada hatalı olduklarını söylüyor. Bu büyük dil modelleri bazı bilinmeyen ve yorumlanması zor yeteneklere sahipken, bu yetenekler daha küçük dil modeli sürümlerinde belirgin değildir veya mevcut değildir.
Schafer ve diğer iki Stanford meslektaşı, Brando Miranda ve Sanmi Koyejo, Mayıs ayında yayınlanan bir araştırma makalesinde soruyu incelediler ve ortaya çıkan bu yeteneğin, model boyutu ve karmaşıklığındaki artışlardan değil, yalnızca ölçüm hatalarından kaynaklanan bir "illüzyon" olduğu sonucuna vardılar. . Aslında, araştırmacılar görmek istedikleri sonuçları görme eğiliminde olabilirler.
Ölümsüzlük, Ölümsüzlük
Washington, Londra ve Brüksel'de milletvekilleri yapay zekanın ortaya çıkardığı fırsatları ve sorunları fark etmeye ve düzenleyici konuları tartışmaya başlıyor. Altman, şirketini tekillik çağında bir lider olarak gösterirken, ilk eleştirmenleri başından savmayı amaçlayan OpenAI için tanıtım amaçlı bir roadshow yapıyor.
Bu, düzenlemeye açık olmayı içerir, ancak düzenlemenin spesifik şekli henüz net değildir. Yine de, Silikon Vadisi'nde devlet kurumlarının verimsiz olduğuna ve hızlı hareket eden teknoloji sektörünü etkili bir şekilde düzenleme uzmanlığına sahip olmadığına dair yaygın bir algı var.
Eski Google CEO'su Eric Schmidt, bu yılın başlarında "Meet the Press" haber talk show'una "Devlet kurumunda bunu doğru yapan kimse yok" dedi ve yapay zeka özdenetim fikrini ortaya attı. "Ancak endüstri, endüstri içinde düzenlemeleri kabaca doğru yapma kapasitesine sahip" diye ekledi.
Yapay zeka da tıpkı teknolojik tekillik gibi getirdiği değişimlerde geri döndürülemez olarak görülüyor. Altman ve meslektaşları geçtiğimiz günlerde "yapay zekanın daha da gelişmesini engellemek için küresel düzenleyici sisteme benzer kontrol mekanizmalarının kurulması gerektiğini, ancak bu bile başarıyı garanti edemez" dediler. BT.
Bununla birlikte, bundan elde edilen büyük karlar şu anda nadiren tartışılmaktadır. Yapay zekanın sınırsız zenginlik yaratan bir makine olduğu yönündeki popüler algıya rağmen, aslında bundan kazançlı çıkanlar aslında zaten zengin olanlardır.
Bu yıl, Microsoft'un piyasa değeri 5 trilyon dolar arttı. Yapay zeka çalıştıran sistemler için çip üreten Nvidia da son zamanlarda çip talebindeki artış nedeniyle ABD'deki en değerli halka açık şirketlerden biri haline geldi.
Altman, "Yapay zeka, insan toplumunun her zaman sahip olmayı arzuladığı teknolojidir" diye tweet attı.
Bunun gerçekten teknoloji dünyasının beklediği bir teknoloji olduğu ve mükemmel bir zamanda geldiği inkar edilemez.
Geçen yıl, Silikon Vadisi işten çıkarmalar ve artan faiz oranlarıyla çifte darbe alırken, kripto para birimleri, bir patlama ve düşüş döneminden sonra, dolandırıcılık ve ardından gelen hayal kırıklığı nedeniyle hızla azaldı.
Teknolojik tekilliği mizahi bir şekilde tasvir eden bir bilim kurgu romanı olan The Rapture of the Nerds'in ortak yazarı Charles Stross, "Parayı takip edin" diyor. Stross aynı zamanda gelecekte hayatın nasıl görünebileceğine dair daha ciddi ve ciddi bir tablo çizdiği bilim kurgu romanı Accelerando'nun da yazarıdır.
"Asıl fırsat, şirketlerin birçok kusurlu, pahalı, yanıt vermeyen, insan tarafından çalıştırılan bilgi işlem birimlerini yazılımla değiştirebilecek olması, böylece maliyetlerin düşürülmesi ve verimliliğin artırılmasıdır" dedi.
Uzun zamandır insanlar teknolojik tekilliği, insanın bilişsel sistemini tamamen alt üst edebilecek küresel etkiye sahip bir olay olarak hayal ettiler ve bu değişimin gücü inanılmaz. Şimdilik, bu olasılık hala var.
Bununla birlikte, kısmen bugün Silikon Vadisi'ndeki aşırı kurumsal kâr arayışı nedeniyle, bu, teknolojik tekilliğin ilk etapta bir işten çıkarma aracı olarak kullanılmasına yol açacaktır. Trilyon dolarlık bir piyasa kapitalizasyonu arayışında, küçük sorunlar şimdilik bir kenara bırakılabilir.