Catatan editor: Munculnya kecerdasan buatan telah mendorong konsep "singularitas" ke permukaan. Banyak orang di Silicon Valley percaya bahwa kecerdasan buatan akan mengubah masyarakat manusia sepenuhnya. Namun, ada juga kekhawatiran tentang potensi konsekuensi negatif AI, termasuk kemungkinan bisa menghancurkan umat manusia. Artikel ini berasal dari kompilasi, di mana penulis membahas konsep "singularitas", membahas kegembiraan dan kekhawatiran Silicon Valley tentang kecerdasan buatan, dan menyoroti potensi manfaat dan risiko dari teknologi ini.
Sumber gambar: Dihasilkan oleh AI Tak Terbatas
fokus
Singularitas, momen ketika teknologi dan kecerdasan buatan mengubah dunia secara dramatis, adalah konsep yang sangat dinantikan tetapi juga menakutkan Silicon Valley.
Meskipun ada kegembiraan tentang potensi dampak positif dari kecerdasan buatan, ada juga kekhawatiran bahwa hal itu dapat menimbulkan bencana bagi umat manusia.
*Saat ini, sebagian besar perhatian AI dan Singularity tertuju pada pengembangan model bahasa besar, tetapi masih ada perdebatan tentang apakah model ini benar-benar mewakili pertumbuhan eksponensial dalam kecerdasan yang dijanjikan oleh Singularity.
Selama beberapa dekade, Silicon Valley telah mengantisipasi munculnya teknologi baru yang akan merevolusi gaya hidup manusia, ekonomi, institusi sosial, dan banyak lagi. Itu dapat menyatukan manusia dan mesin, mungkin membawa peluang dan tantangan yang belum pernah terjadi sebelumnya, dan membagi sejarah menjadi dua era "sebelum" dan "setelah".
Nama tonggak ini bisa disebut "Singularitas".
Catatan Penerjemah: "Singularitas" adalah konsep yang dikemukakan oleh penulis fiksi ilmiah Amerika Vernor Vinge, yang mengacu pada peristiwa atau situasi yang mungkin terjadi di masa depan, yaitu kecerdasan kecerdasan buatan melampaui manusia. sehingga memicu perubahan eksplosif dalam teknologi dan masyarakat, membuat apa yang terjadi di masa depan sulit diprediksi dan dipahami.
Singularitas dapat muncul dalam beberapa cara. Salah satu kemungkinannya adalah orang membuat diri mereka lebih kuat dengan memasukkan kekuatan pemrosesan komputer ke dalam kecerdasan bawaan mereka sendiri. Atau, komputer mungkin menjadi sangat rumit sehingga dapat benar-benar berpikir, menciptakan "otak global".
Skenario mana pun akan membawa perubahan drastis dan eksponensial, tidak ada yang dapat dibalik. Mesin superintelijen yang sadar diri yang mampu merancang, meningkatkan, dan meningkatkan dirinya jauh lebih cepat daripada tim ilmuwan mana pun pasti akan memicu ledakan intelektual. Kemajuan yang dibuat selama beberapa abad terakhir dapat menjadi terobosan hanya dalam beberapa tahun atau bahkan beberapa bulan. Singularitas adalah ketapel ke masa depan.
Saat ini, kecerdasan buatan membuat gelombang yang belum pernah terjadi sebelumnya dalam teknologi, bisnis, dan politik. Dilihat dari semua hiperbola dan absurditas yang keluar dari Silicon Valley, tampaknya masa depan yang sangat cerah ini akhirnya tiba.
Sundar Pichai, CEO Google yang biasanya rendah hati, mengatakan bahwa "kecerdasan buatan telah melampaui api, listrik, atau pencapaian teknologi apa pun di masa lalu dalam hal kepentingan dan dampak". Investor miliarder Reid Hoffman (Reid Hoffman) berkata, "Dunia akan mengantarkan kekuatan yang belum pernah terjadi sebelumnya, yang akan mendorong seluruh masyarakat manusia ke depan." Salah satu pendiri Microsoft Bill Gates (Bill Gates) ) menyatakan bahwa kecerdasan buatan "akan mengubah cara orang bekerja, belajar, bepergian, mendapatkan perawatan kesehatan dan berkomunikasi satu sama lain".
Kecerdasan buatan adalah produk baru terbaik dari Silicon Valley, yang mampu memberikan kemampuan manusia super sesuai permintaan.
Namun ada juga masalah tersembunyi yang tidak bisa diabaikan. Seolah-olah perusahaan teknologi meluncurkan mobil self-driving dengan pesan peringatan bahwa mereka mungkin meledak dalam perjalanan ke Walmart.
Pada bulan Mei tahun ini, Elon Musk, kepala Tesla dan Twitter, mengatakan dalam sebuah wawancara dengan US Consumer News and Business Channel (CNBC): "Munculnya kecerdasan umum buatan disebut keajaiban. Intinya setelah ini , akan sulit untuk memprediksi apa yang akan terjadi selanjutnya." Dia percaya bahwa kita akan mengantarkan "zaman kelimpahan" (zaman kelimpahan), tetapi risiko kecerdasan buatan "menghancurkan umat manusia" "tetap tidak dapat diterima." abaikan ".
Di dunia teknologi, pendukung terkuat kecerdasan buatan adalah Sam Altman, CEO perusahaan kecerdasan buatan Amerika OpenAI. Chatbot ChatGPT startup, diluncurkan tahun lalu, juga terus memicu antusiasme. Altman mengatakan AI akan menjadi "kekuatan terbesar dalam pemberdayaan ekonomi dan kekayaan bagi banyak orang."
Namun, bagi Musk yang mendirikan perusahaan yang mengembangkan teknologi antarmuka otak-komputer, ia juga merasa bahwa kritik Musk itu beralasan.
Belum lama ini, Altman menandatangani surat terbuka bersama yang disponsori oleh "Pusat Keamanan AI" (Pusat Keamanan AI) nirlaba. "Mencegah risiko kepunahan yang ditimbulkan oleh kecerdasan buatan harus menjadi prioritas global," setara dengan "pandemi dan perang nuklir," kata surat itu. Penandatangan lainnya termasuk kolega dari perusahaan OpenAI dan ilmuwan komputer dari Microsoft dan Google.
Sam Altman, CEO OpenAI, sebuah perusahaan kecerdasan buatan Amerika, adalah pendukung terkuat kecerdasan buatan. Sumber gambar: Haiyun Jiang
Apocalypse adalah topik yang akrab, bahkan populer, di Silicon Valley. Beberapa tahun yang lalu, hampir setiap eksekutif teknologi tampaknya telah membangun tempat perlindungan kiamat di suatu tempat di antah berantah, dengan persediaan yang lengkap jika mereka membutuhkannya. Pada tahun 2016, Altman juga mengatakan dia "menimbun senjata, emas, potasium iodida, antibiotik, baterai, air, masker gas IDF, dan membangun tempat perlindungan besar di Big Sur yang dapat Anda gunakan untuk terbang." Wabah pandemi telah membuat para penyintas teknologi ini merasa dibenarkan, setidaknya untuk sementara.
Sekarang, mereka sedang mempersiapkan kedatangan singularitas.
Dalam hal ini, Baldur Bjarnason, penulis "The Intelligence Illusion", berkata, "Mereka pikir mereka sangat bijak, tetapi kata-kata mereka lebih seperti 1000 M. Para biksu berbicara tentang kiamat. Agak mengkhawatirkan."
Asal "Beyond"
Asal-usul konsep "singularitas" dapat ditelusuri kembali ke pelopor ilmu komputer John von Neumann di tahun 1950-an. Von Neumann pernah meramalkan bahwa "kemajuan teknologi yang terus meningkat" akan mengarah pada "singularitas penting dalam sejarah manusia".
Pelopor ilmu komputer John von Neumann. Kredit gambar: Getty Images
Matematikawan Inggris Irving John Good juga pendukung kuat pandangan ini. Dia membantu pemerintah Inggris memecahkan mesin sandi Enigma Jerman di Bletchley Park (Taman Bletchley, tempat utama pemerintah Inggris melakukan pemecahan kode selama Perang Dunia II). Pada tahun 1964, dia menulis: "Konstruksi awal mesin superintelijen adalah kunci kelangsungan hidup umat manusia."
Ketika sutradara film Amerika Stanley Kubrick menyutradarai pembuatan film fiksi ilmiah 2001: A Space Odyssey, dia meminta nasihat Goode tentang karakter kecerdasan buatan HAL yang berubah menjadi berbahaya, sebuah contoh awal batas kabur antara ilmu komputer dan fiksi ilmiah.
Hans Moravec, seorang asisten profesor di Institut Robotika di Universitas Carnegie Mellon, percaya bahwa munculnya Singularitas tidak hanya akan bermanfaat bagi yang hidup, tetapi juga menghidupkan kembali orang mati.
"Kita akan memiliki kesempatan untuk menciptakan kembali dan berinteraksi dengan masa lalu secara nyata dan langsung," tulisnya dalam Mind Children: Masa Depan Robot dan Kecerdasan Manusia.
Pengusaha dan penemu Ray Kurzweil juga telah menjadi penganjur Singularitas terbesar dalam beberapa tahun terakhir. Kurzweil adalah penulis The Age of Intelligent Machines pada tahun 1990 dan The Singularity Is Near pada tahun 2005. Kurzweil saat ini sedang menulis buku The Singularity Is Near.
Dia memperkirakan bahwa pada akhir dekade ini, komputer akan lulus uji Turing dan tidak dapat dibedakan dari manusia. Lima belas tahun kemudian, transendensi yang sebenarnya akan datang: "Ketika teknologi komputasi terintegrasi ke dalam diri kita, kecerdasan kita akan meningkat pesat, mungkin ratusan kali lipat."
Kurzweil akan berusia 97 tahun saat itu. Dengan bantuan berbagai vitamin dan suplemen, dia berharap bisa hidup untuk melihat era ini datang.
Pengusaha dan penemu Ray Kurzweil juga merupakan penganjur Singularitas terbesar. Kredit: Friso Gentsch/Picture Alliance
Beberapa kritikus Singularitas percaya bahwa konsep Singularitas mencoba menciptakan sistem kepercayaan di bidang perangkat lunak yang mirip dengan kepercayaan agama yang terorganisir.Didukung oleh bukti ilmiah yang kuat, sulit untuk meyakinkan.
"Mereka semua menginginkan keabadian, tetapi mereka tidak ingin percaya pada 'Tuhan'," kata Rodney Brooks, mantan direktur Laboratorium Ilmu Komputer dan Kecerdasan Buatan MIT.
Saat ini, inovasi dalam kontroversi "Singularitas" terutama melibatkan model bahasa besar (LLM), sistem kecerdasan buatan yang juga merupakan inti dari pengembangan chatbots. Bicaralah dengan model bahasa besar ini, dan mereka dapat menjawab pertanyaan dengan cepat, koheren, dan seringkali jawaban yang cukup mencerahkan.
Menurut Jerry Kaplan, seorang pengusaha AI lama dan penulis Artificial Intelligence: What Everyone Needs to Know, "Ketika Anda menanyakan model bahasa yang besar Akhirnya, ia memahami arti pertanyaan, menentukan apa jawabannya, dan kemudian menyajikannya. jawab dalam bahasa tertulis. Jika ini bukan definisi kecerdasan umum, lalu apa?"
Kaplan juga mengatakan dia skeptis terhadap teknologi profil tinggi seperti mobil tanpa pengemudi dan mata uang kripto. Demikian pula, dia sebelumnya skeptis tentang kegemaran AI terbaru, tetapi mulai berubah pikiran tentang AI setelah melihat potensi yang dihadirkannya.
"Jika ini bukan 'singularitas', maka memang demikian. Ini adalah teknologi dengan dampak luar biasa yang secara signifikan akan memajukan umat manusia dalam seni, sains, dan pengetahuan. Tentu saja, itu juga akan menimbulkan beberapa masalah," imbuhnya. .
Kritik membantah bahwa meskipun model bahasa besar mencapai hasil yang mengesankan, ini tidak dapat menandingi kecerdasan global yang luas yang digambarkan oleh Singularitas. Bagian dari masalah menarik garis antara sensasi dan kenyataan adalah bahwa prinsip dan algoritme yang mendorong teknologi ini menjadi semakin sulit untuk diungkap.
OpenAI dimulai sebagai nirlaba menggunakan kode sumber terbuka, tetapi sejak itu berubah menjadi perusahaan nirlaba. Beberapa kritikus menunjukkan bahwa OpenAI sekarang secara efektif menjadi "kotak hitam" dan sulit bagi semua orang untuk memahami cara kerjanya. Dalam hal ini, Google dan Microsoft juga memiliki tingkat pengungkapan informasi yang rendah.
Sebagian besar penelitian saat ini tentang kecerdasan buatan dipimpin oleh perusahaan yang mendapat manfaat dari hasilnya. Versi awal dari model terbaru OpenAI "mendemonstrasikan beberapa fitur cerdas," termasuk "kemampuan abstrak, pemahaman, kemampuan visual, kemampuan pengkodean" dan "kemampuan untuk memahami motivasi dan emosi manusia".
Rylan Schaeffer, seorang mahasiswa doktoral dalam ilmu komputer di Stanford University, mengatakan beberapa peneliti AI tidak akurat dalam mendeskripsikan "kekuatan yang muncul" yang ditunjukkan oleh model bahasa besar ini. Sementara model bahasa besar ini memiliki beberapa kemampuan yang tidak diketahui dan sulit ditafsirkan, kemampuan ini tidak terlihat atau hadir dalam versi model bahasa yang lebih kecil.
Schafer dan dua rekan Stanford lainnya, Brando Miranda dan Sanmi Koyejo, memeriksa pertanyaan tersebut dalam sebuah makalah penelitian yang diterbitkan pada bulan Mei, menyimpulkan bahwa, kemampuan yang muncul ini hanyalah sebuah "ilusi" yang disebabkan oleh kesalahan pengukuran, bukan karena peningkatan ukuran dan kompleksitas model. . Faktanya, peneliti mungkin cenderung melihat hasil yang ingin mereka lihat.
Keabadian, Keabadian
Di Washington, London, dan Brussel, anggota parlemen mulai mengenali peluang dan masalah yang ditimbulkan oleh kecerdasan buatan dan mulai membahas masalah regulasi. Altman sedang melakukan roadshow promosi untuk OpenAI, yang bertujuan untuk menepis kritik awal sambil menjadikan perusahaannya sebagai pemimpin di era singularitas.
Ini termasuk terbuka untuk regulasi, tetapi bentuk regulasi spesifiknya belum jelas. Namun, ada persepsi luas di Silicon Valley bahwa lembaga pemerintah tidak efisien dan kurang memiliki keahlian untuk secara efektif mengatur sektor teknologi yang bergerak cepat.
"Tidak ada seorang pun di lembaga pemerintah yang melakukan ini dengan benar," kata mantan CEO Google Eric Schmidt dalam acara bincang-bincang berita "Meet the Press" awal tahun ini. ", dan mengemukakan gagasan pengaturan diri kecerdasan buatan. “Tetapi industri memiliki kapasitas di dalam industri untuk mendapatkan peraturan yang benar,” tambahnya.
Kecerdasan buatan, seperti singularitas teknologi, dipandang tidak dapat diubah dalam perubahan yang dibawanya. Altman dan rekan-rekannya baru-baru ini menyatakan bahwa "mekanisme kontrol yang mirip dengan sistem regulasi global harus ditetapkan untuk mengekang pengembangan lebih lanjut dari kecerdasan buatan, tetapi ini pun tidak dapat menjamin kesuksesan." Jika Anda tidak melakukannya, pasti ada orang lain yang melakukannya dia.
Namun, keuntungan besar yang dihasilkan darinya jarang dibicarakan saat ini. Terlepas dari persepsi populer bahwa kecerdasan buatan adalah mesin yang menciptakan kekayaan tak terbatas, pada dasarnya orang kayalah yang sebenarnya mendapat untung darinya.
Tahun ini, nilai pasar Microsoft melonjak $5 triliun. Nvidia, yang membuat chip untuk sistem yang menjalankan kecerdasan buatan, baru-baru ini juga menjadi salah satu perusahaan publik paling bernilai di AS karena lonjakan permintaan chip.
"Kecerdasan buatan adalah teknologi yang selalu diinginkan oleh masyarakat manusia," cuit Altman.
Tidak bisa dipungkiri bahwa ini memang teknologi yang ditunggu-tunggu oleh dunia teknologi, dan hadir di saat yang tepat.
Lembah Silikon mengalami pukulan ganda PHK dan kenaikan suku bunga tahun lalu, sementara cryptocurrency, setelah periode boom dan bust, dengan cepat berkurang karena penipuan dan kekecewaan yang mengikutinya.
“Ikuti uangnya,” kata Charles Stross, rekan penulis The Rapture of the Nerds, sebuah novel fiksi ilmiah yang secara lucu menggambarkan singularitas teknologi. Stross juga penulis novel fiksi ilmiah Accelerando, di mana dia juga melukiskan gambaran yang lebih serius dan serius tentang seperti apa kehidupan di masa depan.
“Kesempatan sebenarnya adalah perusahaan akan dapat mengganti banyak unit pemroses informasi yang rusak, mahal, tidak responsif, dan dioperasikan oleh manusia dengan perangkat lunak, sehingga mengurangi biaya dan meningkatkan efisiensi,” katanya.
Untuk waktu yang lama, orang membayangkan singularitas teknologi sebagai peristiwa dengan dampak global, yang dapat menumbangkan sepenuhnya sistem kognitif manusia, dan kekuatan perubahan ini luar biasa. Untuk saat ini, kemungkinan ini masih ada.
Namun, sebagian karena pengejaran ekstrim atas keuntungan perusahaan di Silicon Valley saat ini, hal ini akan menyebabkan singularitas teknologi digunakan sebagai alat pemutusan hubungan kerja. Dalam mengejar kapitalisasi pasar triliunan dolar, masalah kecil dapat dikesampingkan untuk sementara waktu.
Lihat Asli
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Silicon Valley dengan hangat mendiskusikan "singularitas" kecerdasan buatan: Apakah era mesin yang melampaui manusia telah tiba?
Sumber asli: 36 kripton
Catatan editor: Munculnya kecerdasan buatan telah mendorong konsep "singularitas" ke permukaan. Banyak orang di Silicon Valley percaya bahwa kecerdasan buatan akan mengubah masyarakat manusia sepenuhnya. Namun, ada juga kekhawatiran tentang potensi konsekuensi negatif AI, termasuk kemungkinan bisa menghancurkan umat manusia. Artikel ini berasal dari kompilasi, di mana penulis membahas konsep "singularitas", membahas kegembiraan dan kekhawatiran Silicon Valley tentang kecerdasan buatan, dan menyoroti potensi manfaat dan risiko dari teknologi ini.
Selama beberapa dekade, Silicon Valley telah mengantisipasi munculnya teknologi baru yang akan merevolusi gaya hidup manusia, ekonomi, institusi sosial, dan banyak lagi. Itu dapat menyatukan manusia dan mesin, mungkin membawa peluang dan tantangan yang belum pernah terjadi sebelumnya, dan membagi sejarah menjadi dua era "sebelum" dan "setelah".
Nama tonggak ini bisa disebut "Singularitas".
Singularitas dapat muncul dalam beberapa cara. Salah satu kemungkinannya adalah orang membuat diri mereka lebih kuat dengan memasukkan kekuatan pemrosesan komputer ke dalam kecerdasan bawaan mereka sendiri. Atau, komputer mungkin menjadi sangat rumit sehingga dapat benar-benar berpikir, menciptakan "otak global".
Skenario mana pun akan membawa perubahan drastis dan eksponensial, tidak ada yang dapat dibalik. Mesin superintelijen yang sadar diri yang mampu merancang, meningkatkan, dan meningkatkan dirinya jauh lebih cepat daripada tim ilmuwan mana pun pasti akan memicu ledakan intelektual. Kemajuan yang dibuat selama beberapa abad terakhir dapat menjadi terobosan hanya dalam beberapa tahun atau bahkan beberapa bulan. Singularitas adalah ketapel ke masa depan.
Saat ini, kecerdasan buatan membuat gelombang yang belum pernah terjadi sebelumnya dalam teknologi, bisnis, dan politik. Dilihat dari semua hiperbola dan absurditas yang keluar dari Silicon Valley, tampaknya masa depan yang sangat cerah ini akhirnya tiba.
Sundar Pichai, CEO Google yang biasanya rendah hati, mengatakan bahwa "kecerdasan buatan telah melampaui api, listrik, atau pencapaian teknologi apa pun di masa lalu dalam hal kepentingan dan dampak". Investor miliarder Reid Hoffman (Reid Hoffman) berkata, "Dunia akan mengantarkan kekuatan yang belum pernah terjadi sebelumnya, yang akan mendorong seluruh masyarakat manusia ke depan." Salah satu pendiri Microsoft Bill Gates (Bill Gates) ) menyatakan bahwa kecerdasan buatan "akan mengubah cara orang bekerja, belajar, bepergian, mendapatkan perawatan kesehatan dan berkomunikasi satu sama lain".
Kecerdasan buatan adalah produk baru terbaik dari Silicon Valley, yang mampu memberikan kemampuan manusia super sesuai permintaan.
Namun ada juga masalah tersembunyi yang tidak bisa diabaikan. Seolah-olah perusahaan teknologi meluncurkan mobil self-driving dengan pesan peringatan bahwa mereka mungkin meledak dalam perjalanan ke Walmart.
Pada bulan Mei tahun ini, Elon Musk, kepala Tesla dan Twitter, mengatakan dalam sebuah wawancara dengan US Consumer News and Business Channel (CNBC): "Munculnya kecerdasan umum buatan disebut keajaiban. Intinya setelah ini , akan sulit untuk memprediksi apa yang akan terjadi selanjutnya." Dia percaya bahwa kita akan mengantarkan "zaman kelimpahan" (zaman kelimpahan), tetapi risiko kecerdasan buatan "menghancurkan umat manusia" "tetap tidak dapat diterima." abaikan ".
Di dunia teknologi, pendukung terkuat kecerdasan buatan adalah Sam Altman, CEO perusahaan kecerdasan buatan Amerika OpenAI. Chatbot ChatGPT startup, diluncurkan tahun lalu, juga terus memicu antusiasme. Altman mengatakan AI akan menjadi "kekuatan terbesar dalam pemberdayaan ekonomi dan kekayaan bagi banyak orang."
Namun, bagi Musk yang mendirikan perusahaan yang mengembangkan teknologi antarmuka otak-komputer, ia juga merasa bahwa kritik Musk itu beralasan.
Belum lama ini, Altman menandatangani surat terbuka bersama yang disponsori oleh "Pusat Keamanan AI" (Pusat Keamanan AI) nirlaba. "Mencegah risiko kepunahan yang ditimbulkan oleh kecerdasan buatan harus menjadi prioritas global," setara dengan "pandemi dan perang nuklir," kata surat itu. Penandatangan lainnya termasuk kolega dari perusahaan OpenAI dan ilmuwan komputer dari Microsoft dan Google.
Apocalypse adalah topik yang akrab, bahkan populer, di Silicon Valley. Beberapa tahun yang lalu, hampir setiap eksekutif teknologi tampaknya telah membangun tempat perlindungan kiamat di suatu tempat di antah berantah, dengan persediaan yang lengkap jika mereka membutuhkannya. Pada tahun 2016, Altman juga mengatakan dia "menimbun senjata, emas, potasium iodida, antibiotik, baterai, air, masker gas IDF, dan membangun tempat perlindungan besar di Big Sur yang dapat Anda gunakan untuk terbang." Wabah pandemi telah membuat para penyintas teknologi ini merasa dibenarkan, setidaknya untuk sementara.
Sekarang, mereka sedang mempersiapkan kedatangan singularitas.
Dalam hal ini, Baldur Bjarnason, penulis "The Intelligence Illusion", berkata, "Mereka pikir mereka sangat bijak, tetapi kata-kata mereka lebih seperti 1000 M. Para biksu berbicara tentang kiamat. Agak mengkhawatirkan."
Asal "Beyond"
Asal-usul konsep "singularitas" dapat ditelusuri kembali ke pelopor ilmu komputer John von Neumann di tahun 1950-an. Von Neumann pernah meramalkan bahwa "kemajuan teknologi yang terus meningkat" akan mengarah pada "singularitas penting dalam sejarah manusia".
Matematikawan Inggris Irving John Good juga pendukung kuat pandangan ini. Dia membantu pemerintah Inggris memecahkan mesin sandi Enigma Jerman di Bletchley Park (Taman Bletchley, tempat utama pemerintah Inggris melakukan pemecahan kode selama Perang Dunia II). Pada tahun 1964, dia menulis: "Konstruksi awal mesin superintelijen adalah kunci kelangsungan hidup umat manusia."
Ketika sutradara film Amerika Stanley Kubrick menyutradarai pembuatan film fiksi ilmiah 2001: A Space Odyssey, dia meminta nasihat Goode tentang karakter kecerdasan buatan HAL yang berubah menjadi berbahaya, sebuah contoh awal batas kabur antara ilmu komputer dan fiksi ilmiah.
Hans Moravec, seorang asisten profesor di Institut Robotika di Universitas Carnegie Mellon, percaya bahwa munculnya Singularitas tidak hanya akan bermanfaat bagi yang hidup, tetapi juga menghidupkan kembali orang mati.
"Kita akan memiliki kesempatan untuk menciptakan kembali dan berinteraksi dengan masa lalu secara nyata dan langsung," tulisnya dalam Mind Children: Masa Depan Robot dan Kecerdasan Manusia.
Pengusaha dan penemu Ray Kurzweil juga telah menjadi penganjur Singularitas terbesar dalam beberapa tahun terakhir. Kurzweil adalah penulis The Age of Intelligent Machines pada tahun 1990 dan The Singularity Is Near pada tahun 2005. Kurzweil saat ini sedang menulis buku The Singularity Is Near.
Dia memperkirakan bahwa pada akhir dekade ini, komputer akan lulus uji Turing dan tidak dapat dibedakan dari manusia. Lima belas tahun kemudian, transendensi yang sebenarnya akan datang: "Ketika teknologi komputasi terintegrasi ke dalam diri kita, kecerdasan kita akan meningkat pesat, mungkin ratusan kali lipat."
Kurzweil akan berusia 97 tahun saat itu. Dengan bantuan berbagai vitamin dan suplemen, dia berharap bisa hidup untuk melihat era ini datang.
Beberapa kritikus Singularitas percaya bahwa konsep Singularitas mencoba menciptakan sistem kepercayaan di bidang perangkat lunak yang mirip dengan kepercayaan agama yang terorganisir.Didukung oleh bukti ilmiah yang kuat, sulit untuk meyakinkan.
"Mereka semua menginginkan keabadian, tetapi mereka tidak ingin percaya pada 'Tuhan'," kata Rodney Brooks, mantan direktur Laboratorium Ilmu Komputer dan Kecerdasan Buatan MIT.
Saat ini, inovasi dalam kontroversi "Singularitas" terutama melibatkan model bahasa besar (LLM), sistem kecerdasan buatan yang juga merupakan inti dari pengembangan chatbots. Bicaralah dengan model bahasa besar ini, dan mereka dapat menjawab pertanyaan dengan cepat, koheren, dan seringkali jawaban yang cukup mencerahkan.
Menurut Jerry Kaplan, seorang pengusaha AI lama dan penulis Artificial Intelligence: What Everyone Needs to Know, "Ketika Anda menanyakan model bahasa yang besar Akhirnya, ia memahami arti pertanyaan, menentukan apa jawabannya, dan kemudian menyajikannya. jawab dalam bahasa tertulis. Jika ini bukan definisi kecerdasan umum, lalu apa?"
Kaplan juga mengatakan dia skeptis terhadap teknologi profil tinggi seperti mobil tanpa pengemudi dan mata uang kripto. Demikian pula, dia sebelumnya skeptis tentang kegemaran AI terbaru, tetapi mulai berubah pikiran tentang AI setelah melihat potensi yang dihadirkannya.
"Jika ini bukan 'singularitas', maka memang demikian. Ini adalah teknologi dengan dampak luar biasa yang secara signifikan akan memajukan umat manusia dalam seni, sains, dan pengetahuan. Tentu saja, itu juga akan menimbulkan beberapa masalah," imbuhnya. .
Kritik membantah bahwa meskipun model bahasa besar mencapai hasil yang mengesankan, ini tidak dapat menandingi kecerdasan global yang luas yang digambarkan oleh Singularitas. Bagian dari masalah menarik garis antara sensasi dan kenyataan adalah bahwa prinsip dan algoritme yang mendorong teknologi ini menjadi semakin sulit untuk diungkap.
OpenAI dimulai sebagai nirlaba menggunakan kode sumber terbuka, tetapi sejak itu berubah menjadi perusahaan nirlaba. Beberapa kritikus menunjukkan bahwa OpenAI sekarang secara efektif menjadi "kotak hitam" dan sulit bagi semua orang untuk memahami cara kerjanya. Dalam hal ini, Google dan Microsoft juga memiliki tingkat pengungkapan informasi yang rendah.
Sebagian besar penelitian saat ini tentang kecerdasan buatan dipimpin oleh perusahaan yang mendapat manfaat dari hasilnya. Versi awal dari model terbaru OpenAI "mendemonstrasikan beberapa fitur cerdas," termasuk "kemampuan abstrak, pemahaman, kemampuan visual, kemampuan pengkodean" dan "kemampuan untuk memahami motivasi dan emosi manusia".
Rylan Schaeffer, seorang mahasiswa doktoral dalam ilmu komputer di Stanford University, mengatakan beberapa peneliti AI tidak akurat dalam mendeskripsikan "kekuatan yang muncul" yang ditunjukkan oleh model bahasa besar ini. Sementara model bahasa besar ini memiliki beberapa kemampuan yang tidak diketahui dan sulit ditafsirkan, kemampuan ini tidak terlihat atau hadir dalam versi model bahasa yang lebih kecil.
Schafer dan dua rekan Stanford lainnya, Brando Miranda dan Sanmi Koyejo, memeriksa pertanyaan tersebut dalam sebuah makalah penelitian yang diterbitkan pada bulan Mei, menyimpulkan bahwa, kemampuan yang muncul ini hanyalah sebuah "ilusi" yang disebabkan oleh kesalahan pengukuran, bukan karena peningkatan ukuran dan kompleksitas model. . Faktanya, peneliti mungkin cenderung melihat hasil yang ingin mereka lihat.
Keabadian, Keabadian
Di Washington, London, dan Brussel, anggota parlemen mulai mengenali peluang dan masalah yang ditimbulkan oleh kecerdasan buatan dan mulai membahas masalah regulasi. Altman sedang melakukan roadshow promosi untuk OpenAI, yang bertujuan untuk menepis kritik awal sambil menjadikan perusahaannya sebagai pemimpin di era singularitas.
Ini termasuk terbuka untuk regulasi, tetapi bentuk regulasi spesifiknya belum jelas. Namun, ada persepsi luas di Silicon Valley bahwa lembaga pemerintah tidak efisien dan kurang memiliki keahlian untuk secara efektif mengatur sektor teknologi yang bergerak cepat.
"Tidak ada seorang pun di lembaga pemerintah yang melakukan ini dengan benar," kata mantan CEO Google Eric Schmidt dalam acara bincang-bincang berita "Meet the Press" awal tahun ini. ", dan mengemukakan gagasan pengaturan diri kecerdasan buatan. “Tetapi industri memiliki kapasitas di dalam industri untuk mendapatkan peraturan yang benar,” tambahnya.
Kecerdasan buatan, seperti singularitas teknologi, dipandang tidak dapat diubah dalam perubahan yang dibawanya. Altman dan rekan-rekannya baru-baru ini menyatakan bahwa "mekanisme kontrol yang mirip dengan sistem regulasi global harus ditetapkan untuk mengekang pengembangan lebih lanjut dari kecerdasan buatan, tetapi ini pun tidak dapat menjamin kesuksesan." Jika Anda tidak melakukannya, pasti ada orang lain yang melakukannya dia.
Namun, keuntungan besar yang dihasilkan darinya jarang dibicarakan saat ini. Terlepas dari persepsi populer bahwa kecerdasan buatan adalah mesin yang menciptakan kekayaan tak terbatas, pada dasarnya orang kayalah yang sebenarnya mendapat untung darinya.
Tahun ini, nilai pasar Microsoft melonjak $5 triliun. Nvidia, yang membuat chip untuk sistem yang menjalankan kecerdasan buatan, baru-baru ini juga menjadi salah satu perusahaan publik paling bernilai di AS karena lonjakan permintaan chip.
"Kecerdasan buatan adalah teknologi yang selalu diinginkan oleh masyarakat manusia," cuit Altman.
Tidak bisa dipungkiri bahwa ini memang teknologi yang ditunggu-tunggu oleh dunia teknologi, dan hadir di saat yang tepat.
Lembah Silikon mengalami pukulan ganda PHK dan kenaikan suku bunga tahun lalu, sementara cryptocurrency, setelah periode boom dan bust, dengan cepat berkurang karena penipuan dan kekecewaan yang mengikutinya.
“Ikuti uangnya,” kata Charles Stross, rekan penulis The Rapture of the Nerds, sebuah novel fiksi ilmiah yang secara lucu menggambarkan singularitas teknologi. Stross juga penulis novel fiksi ilmiah Accelerando, di mana dia juga melukiskan gambaran yang lebih serius dan serius tentang seperti apa kehidupan di masa depan.
“Kesempatan sebenarnya adalah perusahaan akan dapat mengganti banyak unit pemroses informasi yang rusak, mahal, tidak responsif, dan dioperasikan oleh manusia dengan perangkat lunak, sehingga mengurangi biaya dan meningkatkan efisiensi,” katanya.
Untuk waktu yang lama, orang membayangkan singularitas teknologi sebagai peristiwa dengan dampak global, yang dapat menumbangkan sepenuhnya sistem kognitif manusia, dan kekuatan perubahan ini luar biasa. Untuk saat ini, kemungkinan ini masih ada.
Namun, sebagian karena pengejaran ekstrim atas keuntungan perusahaan di Silicon Valley saat ini, hal ini akan menyebabkan singularitas teknologi digunakan sebagai alat pemutusan hubungan kerja. Dalam mengejar kapitalisasi pasar triliunan dolar, masalah kecil dapat dikesampingkan untuk sementara waktu.