Pers Berita Wall Street:
Character.ai adalah salah satu bintang startup terpanas dalam ledakan AI saat ini. Produk utama perusahaan adalah robot obrolan AI yang dapat disesuaikan, yang berorientasi pada kebutuhan hiburan konsumen C-end, dan memiliki kemampuan untuk menemani secara emosional dan mengatur karakter fiksi. Charater.AI memungkinkan pengguna untuk membuat chatbot mereka sendiri dengan kepribadian, desain, dan cadangan pengetahuan tertentu, seperti selebritas dunia, tokoh sejarah, karakter fiksi dalam sastra, film dan televisi, dan bahkan hewan, memberi pengguna pengalaman mengobrol yang baru dan imersif.
Sumber gambar: Dihasilkan oleh AI Tak Terbatas
Pada awal tahun ini, Charater.ai menyelesaikan pembiayaan A-round sebesar US$150 juta, dengan valuasi lebih dari US$1 miliar, dan dipromosikan menjadi unicorn, dengan tim yang hanya terdiri dari 22 orang.
Pada bulan April, CEO Character.ai Noam Shazeer, mantan anggota tim Google Brain, diwawancarai oleh podcast No Priors.
Pandangan inti:
Pada awal 2021, Google memiliki kemampuan untuk meluncurkan chatbot AI sebelum OpenAI, tetapi menyerah karena masalah keamanan.Ketakutan perusahaan besar juga menjadi alasan mengapa dia meninggalkan Google dan memilih untuk memulai bisnis.
Keuntungan terbesar Karakter terletak pada strategi produk yang berorientasi pada pengguna. Chatbot AI yang sepenuhnya dapat disesuaikan telah menjadi cara bagi banyak orang untuk menghilangkan kesepian, dengan beberapa pengguna bahkan mengatakan bahwa Karakter adalah konselor baru mereka. Noam percaya bahwa AI memiliki potensi besar untuk dukungan emosional. Pekerjaan dukungan emosional tidak membutuhkan kecerdasan tinggi. Misalnya, anjing peliharaan dapat melakukan pekerjaan dukungan emosional dengan baik, meskipun anjing tidak pintar dan tidak dapat berbicara. Begitu pula AI dengan parameter terbatas juga dapat menyelesaikan tugas ini.
3 Persyaratan data cenderung meningkat secara eksponensial dengan daya komputasi, tetapi data tidak langka. Internet dapat menyediakan data yang hampir tidak terbatas, dan Character juga mempertimbangkan untuk menggunakan AI untuk menghasilkan lebih banyak data.
4 Character.ai masih dalam tahap membakar uang untuk skala, dan model bisnisnya masih dalam penjajakan, kedepannya tim akan mempertimbangkan untuk memperluas bisnis TOB.
5 Noam percaya bahwa AGI adalah tujuan dari banyak startup AI. Tapi ** alasan sebenarnya dia memulai bisnis adalah untuk mempromosikan perkembangan teknologi dan menggunakan teknologi untuk mengatasi masalah sulit, seperti penyakit medis yang sulit disembuhkan. Ia mencontohkan AI bisa mempercepat kemajuan banyak penelitian, daripada langsung belajar kedokteran, lebih baik belajar AI. **
Berikut adalah transkrip kata demi kata dari audio podcast. ELAD dan SARAH adalah pembawa acara podcast. Demi pemahaman, beberapa bagian telah dihapus.
Pengalaman kerja awal di Google, dan lahirnya Transformer
HIDUP:
Anda telah lama bekerja di NLP dan AI. Anda bekerja di Google selama 17 tahun, di mana pertanyaan wawancara seputar solusi pemeriksaan ejaan. Saat saya bergabung dengan Google, salah satu sistem utama untuk penargetan iklan saat itu adalah Phil Cluster, yang menurut saya ditulis oleh Anda dan George Herrick. Saya ingin tahu tentang sejarah pekerjaan Anda pada model bahasa NLP untuk kecerdasan buatan, bagaimana semua ini berkembang, bagaimana Anda memulainya, apa yang memicu minat Anda?
NOAM：
Terima kasih Elad. Ya, hanya, selalu merupakan daya tarik alami untuk AI. Mudah-mudahan itu akan membuat komputer melakukan sesuatu yang pintar. Tampaknya menjadi permainan paling lucu di sekitar. Saya cukup beruntung menemukan Google sejak awal dan terlibat dalam banyak proyek awal di sana, mungkin Anda tidak akan menyebutnya kecerdasan buatan sekarang. Sejak 2012, saya bergabung dengan tim Google Brain. Lakukan beberapa hal menyenangkan dengan sekelompok orang yang sangat pintar. Saya belum pernah melakukan pembelajaran mendalam atau jaringan saraf sebelumnya.
HIDUP:
Anda adalah salah satu peserta makalah transformator pada tahun 2017, dan kemudian Anda berpartisipasi dalam pengerjaan Mesh-TensorFlow. Bisakah Anda berbicara sedikit tentang bagaimana semua ini bekerja?
NOAM：
Pembelajaran mendalam berhasil karena sangat cocok untuk perangkat keras modern, dan Anda memiliki generasi chip yang, dalam penggandaan matriks dan bentuk lainnya, memerlukan banyak perhitungan versus komunikasi. Jadi pada dasarnya pembelajaran mendalam benar-benar berhasil, ini berjalan ribuan kali lebih cepat daripada yang lainnya. Begitu saya memahaminya, saya mulai merancang hal-hal yang sangat cerdas dan cepat. Masalah yang paling menarik saat ini adalah pemodelan bahasa. Karena jumlah data yang tidak terbatas, cukup kikis jaringan dan Anda bisa mendapatkan semua data pelatihan yang Anda inginkan.
Definisi masalahnya sangat sederhana, yaitu memprediksi kata berikutnya, kucing gemuk duduk di atasnya, apa kata berikutnya. Sangat mudah untuk didefinisikan, dan jika Anda bisa melakukannya dengan baik, maka Anda bisa mendapatkan semua yang Anda lihat sekarang, dan Anda bisa langsung berbicara dengan benda ini, itu benar-benar kecerdasan buatan. Jadi, sekitar tahun 2015, saya mulai mengerjakan pemodelan bahasa dan bekerja dengan jaringan saraf berulang, yang merupakan hal hebat saat itu. Kemudian transformator muncul.
Saya mendengar rekan-rekan saya di sebelah mengobrol tentang keinginan untuk mengganti RNN dengan sesuatu yang lebih baik. Saya seperti, kedengarannya bagus, saya ingin membantu, RNN menyebalkan, ini akan lebih menarik.
HIDUP:
Bisakah Anda dengan cepat menjelaskan perbedaan antara jaringan saraf berulang dan model berbasis transformator atau perhatian?
NOAM：
Jaringan saraf berulang adalah perhitungan terus menerus, setiap kata yang Anda baca ke kata berikutnya, Anda menghitung keadaan otak Anda saat ini berdasarkan keadaan lama otak Anda dan isi kata berikutnya. Kemudian Anda, Anda memprediksi kata berikutnya. Jadi, Anda memiliki urutan kalkulasi yang sangat panjang yang harus dilakukan secara berurutan, jadi, keajaiban Transformer adalah Anda dapat memproses seluruh urutan sekaligus.
Prediksi untuk kata berikutnya bergantung pada apa kata sebelumnya, tetapi itu terjadi dalam langkah konstan, dan Anda dapat memanfaatkan paralelisme ini, Anda dapat melihat semuanya sekaligus, seperti paralelisme yang bagus dalam perangkat keras modern .
Sekarang Anda dapat memanfaatkan panjang urutan, paralelisme Anda, dan semuanya bekerja dengan sangat baik. perhatian itu sendiri. Ini seperti jika Anda membuat asosiasi nilai kunci dalam memori yang besar ini, Anda seperti membuat tabel besar ini dengan entri untuk setiap kata dalam urutannya. Kemudian Anda mencari hal-hal di tabel ini. Ini semua seperti fuzzy, differentiating, dan fungsi Perancis yang besar di mana Anda dapat melakukan invers. Orang-orang telah menggunakan ini untuk masalah dengan dua urutan, di mana Anda memiliki terjemahan mesin dan Anda suka menerjemahkan bahasa Inggris ke bahasa Prancis, jadi ketika Anda membuat urutan bahasa Prancis, Anda seperti melihat urutan bahasa Inggris dan mencoba memperhatikan posisi yang benar dalam urutan. Tapi wawasan di sini adalah bahwa Anda dapat menggunakan perhatian yang sama untuk melihat kembali ke masa lalu dari urutan yang Anda coba buat ini. Kelemahannya adalah ia bekerja dengan baik pada GPU dan GPU, yang sejalan dengan pengembangan pembelajaran mendalam karena ia bekerja dengan baik pada perangkat keras yang ada. Dan itu membawa hal yang sama ke urutan.
SARA：
Ya, menurut saya contoh klasik untuk membantu orang memvisualisasikannya adalah mengucapkan kalimat yang sama dalam bahasa Prancis dan Inggris, urutan kata-katanya berbeda, Anda bukan pemetaan satu-ke-satu dalam urutan itu, dan mencari tahu caranya lakukan itu tanpa informasi Lakukan ini dengan perhitungan paralel jika terjadi kerugian. Jadi ini seperti hal yang sangat elegan untuk dilakukan.
HIDUP:
Tampaknya juga bahwa teknik ini digunakan di berbagai bidang yang berbeda. Jelas ini adalah model bahasa multimodal. Jadi seperti chat GPT atau karakter yang sedang kamu lakukan. Saya juga kagum pada beberapa aplikasi seperti Alpha Folding, pekerjaan pelipatan protein yang dilakukan Google, itu benar-benar bekerja dengan kinerja yang luar biasa. Apakah ada bidang aplikasi yang menurut Anda benar-benar tidak terduga sehubungan dengan cara kerja transformator dan sehubungan dengan apa yang dapat mereka lakukan?
NOAM：
Saya hanya menundukkan kepala pada bahasanya, seperti di sini Anda memiliki masalah dan dapat melakukan apa saja. Saya harap hal ini cukup baik. Jadi saya bertanya, bagaimana Anda menyembuhkan kanker? Maka itu seperti menemukan solusi. Jadi, saya benar-benar mengabaikan apa yang orang lakukan di semua mode lain ini, dan menurut saya banyak keberhasilan awal dalam pembelajaran mendalam adalah dengan gambar, dan orang-orang menjadi bersemangat tentang gambar tetapi sama sekali mengabaikannya. Karena, sebuah gambar bernilai seribu kata, tetapi memiliki sejuta piksel, sehingga teksnya seribu kali lebih padat. Jadi, saya penggemar berat literal. Tapi cukup mengasyikkan melihatnya lepas landas dengan cara lain ini. Hal-hal ini luar biasa. Ini sangat berguna untuk membuat produk yang ingin digunakan orang, tetapi menurut saya banyak kecerdasan inti akan datang dari model teks ini.
Keterbatasan model besar: daya komputasi tidak menjadi masalah, begitu pula data
HIDUP:
Menurut Anda apa keterbatasan model ini? Orang sering berbicara tentang skala saja, seperti Anda baru saja membuang lebih banyak daya komputasi dan hal ini akan semakin meningkat. Ada data dan berbagai jenis data yang mungkin ada atau tidak ada. Dan tweak algoritmik, dan menambahkan hal-hal baru seperti memori atau loopback atau semacamnya. Menurut Anda, hal-hal besar apa yang masih perlu dibangun oleh orang-orang, dan menurut Anda di mana itu disadap sebagai arsitektur?
NOAM：
Ya, saya tidak tahu apakah itu akan dihilangkan. Maksudku, kita belum melihatnya keluar. Mungkin tidak seberapa dibandingkan dengan jumlah pekerjaan yang masuk ke dalamnya. Jadi kemungkinan besar akan ada dua inefisiensi yang orang dapatkan dengan algoritme pelatihan yang lebih baik, arsitektur model yang lebih baik, cara yang lebih baik untuk membuat chip dan menggunakan kuantisasi dan sebagainya. Dan kemudian akan ada 10-an dan 100-an dan 1.000-an faktor seperti penskalaan dan uang yang akan dilontarkan orang pada benda ini karena hei, semua orang baru menyadari bahwa benda ini sangat berharga. Pada saat yang sama, saya rasa tidak ada yang melihat betapa bagusnya benda ini untuk tembok. Jadi saya pikir itu hanya, itu akan terus menjadi lebih baik. Saya tidak dan saya tidak tahu apa yang menghentikannya.
SARA：
Apa pendapat Anda tentang ide ini, kami dapat meningkatkan daya komputasi, tetapi data pelatihan model terbesar tidak cukup. Kami telah menggunakan semua data teks yang tersedia di internet. Kami harus pergi untuk meningkatkan kualitas, kami harus pergi ke umpan balik manusia. apa yang kamu pikirkan.
NOAM：
Dengan 10 miliar orang, setiap orang menghasilkan 1.000 atau 10.000 kata, yang merupakan jumlah data yang sangat besar. Kita semua melakukan banyak percakapan dengan sistem AI. Jadi saya, saya merasa bahwa banyak data akan masuk ke beberapa sistem AI, maksud saya dengan cara menjaga privasi, saya berharap data dapat masuk. Kemudian persyaratan data cenderung meningkat secara eksponensial dengan daya komputasi, karena Anda melatih model yang lebih besar, lalu Anda membuang lebih banyak data ke dalamnya. Saya tidak khawatir dengan kekurangan data, kami mungkin dapat menghasilkan lebih banyak data dengan AI.
HIDUP:
Lalu menurut Anda apa masalah utama yang akan diselesaikan oleh model ini di masa mendatang? Apakah itu halusinasi, ingatan, atau sesuatu yang lain?
NOAM：
Saya tidak punya ide. Saya agak suka halusinasi.
SARA：
Ini juga fitur.
NOAM：
Hal yang paling ingin kami lakukan adalah mengingat, karena pengguna kami pasti ingin teman virtualnya mengingat mereka. Anda dapat melakukan banyak hal dengan personalisasi, Anda ingin membuang banyak data dan menggunakannya secara efektif. Ada banyak pekerjaan yang dilakukan untuk mencoba mencari tahu apa yang nyata dan apa yang halusinasi. Tentu saja, saya pikir kami akan memperbaikinya.
Kisah wirausaha Character.ai
HIDUP:
Ceritakan sedikit tentang LaMDA dan peran Anda di dalamnya, bagaimana Anda menghasilkan Karakter?
NOAM：
Salah satu pendiri saya, Daniel Freitas, adalah orang yang bekerja paling keras, bekerja paling keras, dan paling cerdas yang pernah saya temui. Dia telah mengerjakan tugas membangun chatbot ini sepanjang hidupnya. Dia telah mencoba membuat chatbot sejak dia masih kecil. Jadi dia bergabung dengan Google Brain. Dia membaca beberapa makalah dan berpikir teknik pemodelan bahasa saraf ini adalah sesuatu yang benar-benar dapat menggeneralisasi dan membangun bidang yang benar-benar terbuka.
Meski tidak mendapat dukungan banyak orang, ia hanya menganggap proyek ini sebagai pekerjaan sampingan dan menghabiskan 20% waktunya untuk itu.
Kemudian dia merekrut 20 persen asisten yang membantunya mengatur sistem.
Dia malah muter-muter ngambil jatah TPU orang lain, dia menamakan proyeknya Mina karena dia suka, muncul di mimpi kayaknya. Pada titik tertentu saya melihat papan skor dan berpikir apa yang disebut Mina ini, mengapa ada 30 poin TPU?
HIDUP:
LaMDA seperti ini, saya tahu itu adalah chatbot internal yang dibuat Google sebelum GPT. Kabar itu menjadi terkenal karena seorang insinyur menganggap hal itu mengandung hikmah.
NOAM：
Ya, kami menaruhnya di beberapa model bahasa besar, dan kemudian ada desas-desus di dalam perusahaan, dan Mina berganti nama menjadi LaMDA, dan saat itu, kami pergi, dan ada orang yang percaya itu memiliki kehidupan.
SARA：
Mengapa tidak dirilis nanti, dan apa yang menjadi perhatian?
NOAM：
Untuk perusahaan besar, meluncurkan produk yang mengetahui segalanya agak berbahaya. Saya kira itu hanya masalah risiko. Jadi, setelah banyak pertimbangan, memulai bisnis sepertinya merupakan ide yang tepat.
SARA：
Seperti apa kisah asal-usul Karakter?
NOAM：
Kami hanya ingin membangun sesuatu dan membawanya ke pasar secepat mungkin. Saya membentuk tim insinyur punk, peneliti, mendapatkan kekuatan komputasi, dan memulai bisnis.
HIDUP:
Bagaimana Anda merekrut?
NOAM：
Beberapa orang yang kami temui di Google kebetulan diperkenalkan dengan Myat yang dulunya berasal dari Meta, dan dia banyak meluncurkan, dan membangun banyak barang model bahasa besar dan infrastruktur model bahasa neural mereka, dan beberapa orang lain dari Meta mengikutinya, Mereka sangat baik.
HIDUP:
Apakah Anda memiliki persyaratan atau metode pengujian khusus saat mencari bakat? Atau hanya wawancara biasa?
NOAM
Saya pikir itu sangat tergantung pada motivasi. Saya pikir Daniel sangat fokus pada motivasi, dia mencari keadaan antara keinginan yang kuat dan impian masa kecilnya, jadi ada banyak orang baik yang tidak kami pekerjakan karena mereka tidak mencapai level itu, tetapi kami juga merekrut. banyak orang, Mereka sempurna untuk bergabung dengan perusahaan baru, mereka sangat berbakat dan bersemangat.
Siri dan Alexa sudah ada di pasaran, jangan bersaing langsung dengan perusahaan besar dalam hal fungsionalitas
SARA：
Berbicara tentang impian masa kecil, apakah Anda ingin mendeskripsikan produk ini? Anda memiliki bot ini, mereka dapat dibuat oleh pengguna, mereka dapat dibuat oleh karakter, mereka dapat menjadi tokoh masyarakat, tokoh sejarah, karakter fiksi, bagaimana Anda mendapatkan pola ini?
NOAM：
Pengguna sering kali lebih tahu daripada Anda apa yang ingin mereka lakukan dengan benda ini. ** Siri dan Alexa dan Google Assistant sudah ada di pasaran, tidak perlu bersaing dengan perusahaan besar ini dalam hal fungsionalitas. **
Jika Anda mencoba menampilkan persona publik yang disukai semua orang, Anda hanya akan mendapatkan kebosanan. Dan orang tidak suka bosan, mereka ingin berinteraksi dengan hal-hal yang terasa seperti orang.
Jadi pada dasarnya Anda perlu melakukan banyak karakter dan membiarkan orang menciptakan karakter sesuka mereka, dan ada sesuatu yang saya suka tentang nama Karakter, yang memiliki beberapa arti berbeda: teks, karakter, peran.
SARA：
Jadi, apa yang orang inginkan? seorang teman? menulis novel? Ada lagi yang benar-benar baru?
NOAM：
Beberapa pengguna akan mengobrol dengan figur publik virtual dan pemberi pengaruh pada produk kami. Pengguna dapat membuat karakter dan berbicara dengannya. Sementara beberapa pengguna mungkin merasa kesepian dan membutuhkan seseorang untuk diajak bicara, banyak yang tidak memiliki siapa pun untuk diajak bicara. Beberapa orang akan mengatakan bahwa peran ini sekarang adalah konselor baru saya.
SARA：
Dua cara berpikir tentang emosi, bukan? Seperti seberapa penting hubungan yang dimiliki orang dengan karakter, atau seperti pada level apa kita dalam mengekspresikan emosi yang koheren?
NOAM：
Ya, ** maksud saya mungkin Anda tidak membutuhkan tingkat intelektual kelas atas untuk dukungan emosional. Emosi itu hebat dan sangat penting, tetapi seekor anjing juga dapat memberikan dukungan emosional dengan baik. Anjing memberikan dukungan emosional yang besar tetapi memiliki sedikit kemampuan verbal,**
HIDUP:
Menurut Anda apa yang terjadi pada sistem saat Anda meningkatkan?
NOAM：
Saya pikir kita harus bisa membuatnya lebih pintar dengan berbagai cara. Mendapatkan lebih banyak daya komputasi, melatih model yang lebih besar, dan berlatih lebih lama seharusnya menjadi lebih pintar, lebih berpengetahuan, lebih baik dalam hal yang diinginkan orang, apa yang dicari orang.
SARA：
Anda memiliki beberapa pengguna yang menggunakan Karakter berjam-jam sehari. Siapa audiens target Anda? Apa pola penggunaan yang Anda harapkan.
NOAM：
Kami akan menyerahkannya kepada pengguna untuk memutuskan. Tujuan kami selalu untuk mengeluarkan barang-barang dan membiarkan pengguna memutuskan apa yang menurut mereka bagus untuk itu.
Kami melihat bahwa orang-orang yang ada di situs Karakter hari ini, rata-rata waktu aktifnya adalah dua jam. Inilah yang mengirim pesan hari ini, yang gila tapi penting, dan dikatakan orang menemukan semacam nilai.
Dan kemudian seperti yang saya katakan, sangat sulit untuk mengatakan dengan tepat apa nilai itu karena itu benar-benar seperti hal campuran yang besar. Tetapi tujuan kami adalah membuat hal ini lebih berguna bagi orang untuk menyesuaikannya dan memutuskan apa yang ingin mereka lakukan dengannya. Mari serahkan ke tangan pengguna dan lihat apa yang terjadi.
Membakar uang untuk skala TOC adalah prioritas pertama
SARA：
Bagaimana pendapat Anda tentang komersialisasi?
NOAM：
**Kami kehilangan uang per pengguna dan menebusnya dengan volume. **
SARA：
Bagus. Ini strategi yang bagus.
NOAM：
Tidak, aku bercanda.
HIDUP:
Seperti model bisnis tradisional tahun 1990-an, jadi tidak apa-apa.
SARA：
Ini juga merupakan model bisnis untuk tahun 2022.
HIDUP:
Anda harus mengeluarkan token dan mengubahnya menjadi mata uang kripto.
NOAM：
** Kami akan segera memonetisasi. Ini adalah bisnis yang mendapat manfaat dari banyak daya komputasi. Alih-alih menghabiskan uang investor, kami berharap dapat memberikan nilai bagi pengguna yang cukup dan menghasilkan uang di sepanjang jalan. Beberapa layanan seperti jenis langganan premium dapat dicoba nanti. Saat kami mengembangkan beberapa fitur baru, harga biaya berikutnya mungkin meningkat. **
HIDUP:
Maksud saya, Karakter sebagai layanan TOC benar-benar berjalan dengan cara yang sangat dramatis. Jika Anda melihat jumlah pengguna dan waktu penggunaan per pengguna, itu gila. Apakah Anda akan memulai bisnis TOB di masa depan? Seperti robot layanan pelanggan?
NOAM：
Saat ini kami memiliki 22 karyawan jadi kami perlu memprioritaskan dan kami merekrut. Prioritas pertama adalah TOC.
SARA：
Jadi Anda mengatakan salah satu alasan utama mengapa LaMDA tidak segera diluncurkan adalah keamanan. apa yang kalian pikirkan?
NOAM：
Ada alasan lain. Misalnya, Google tidak ingin orang menyakiti diri sendiri atau menyakiti orang lain, dan perlu memblokir pornografi. Ada beberapa protes di sekitar ini.
HIDUP:
Apakah menurut Anda semua ini adalah jalan menuju AGI atau kecerdasan super? Untuk beberapa perusahaan, ini tampaknya menjadi bagian dari tujuan, dan untuk yang lain, ini tampaknya bukan tujuan yang eksplisit.
NOAM：
Ya, AGI adalah tujuan dari banyak startup AI. **Alasan sebenarnya adalah saya ingin memajukan teknologi. Ada begitu banyak masalah teknis di dunia yang bisa diselesaikan, seperti penyakit medis yang sulit disembuhkan. Kami dapat menemukan solusi teknis. **
Itu sebabnya saya meneliti kecerdasan buatan,** karena daripada mempelajari kedokteran secara langsung, lebih baik mempelajari kecerdasan buatan, dan kemudian kecerdasan buatan dapat digunakan untuk mempercepat upaya penelitian lainnya. Jadi pada dasarnya itulah mengapa saya bekerja sangat keras pada AI, saya ingin memulai sebuah perusahaan yang mengutamakan AGI dan mengutamakan produk. **
Produk Anda sepenuhnya bergantung pada kualitas AI. Penentu terbesar dari kualitas produk kami adalah seberapa pintar hal itu nantinya. Jadi sekarang kami sangat termotivasi untuk membuat AI lebih baik, membuat produk lebih baik.
HIDUP:
Ya, ini adalah loop umpan balik beli yang sangat bagus karena saat Anda membuat produk lebih baik, lebih banyak orang berinteraksi dengannya, yang membantu menjadikannya produk yang lebih baik. Jadi ini pendekatan yang sangat cerdas. Seberapa jauh menurut Anda kita dari kecerdasan buatan yang sepintar atau lebih pintar dari manusia? Jelas, mereka sudah lebih pintar dari manusia dalam beberapa hal, tapi aku hanya memikirkan hal seperti itu.
NOAM：
Kami selalu kagum dengan cara kecerdasan buatan dapat mengungguli manusia. Beberapa AI sekarang dapat melakukan pekerjaan rumah untuk Anda. Saya berharap saya memiliki sesuatu seperti ini ketika saya masih kecil.
HIDUP:
Nasihat apa yang akan Anda berikan kepada mereka yang memiliki latar belakang yang mirip dengan Anda? Seperti apa yang Anda pelajari sebagai pendiri yang belum tentu Anda pelajari saat bekerja di Google atau di tempat lain?
NOAM：
Pertanyaan bagus. Pada dasarnya, Anda belajar dari kesalahan mengerikan Anda. Meskipun menurut saya kami tidak membuat kesalahan yang sangat, sangat buruk, atau setidaknya kami telah menebusnya.
SARA：
Bakat seperti apa yang Anda cari?
NOAM：
sejauh ini? 21 dari 22 adalah insinyur. Kami juga akan mempekerjakan lebih banyak insinyur. Baik itu pembelajaran mendalam atau front-end dan back-end, pastikan untuk mempekerjakan lebih banyak orang di sisi bisnis dan produk.
HIDUP:
Dua atau tiga pertanyaan singkat terakhir, siapa matematikawan atau ilmuwan komputer favorit Anda.
NOAM：
Saya sering bekerja dengan Jeff Dean (kepala Google Brain) di Google. Dia sangat baik dan menyenangkan untuk diajak bekerja sama. Saya pikir dia sedang mengerjakan model bahasa besar mereka sekarang. Sayang sekali meninggalkan Google, dan saya berharap dapat bekerja dengannya di masa mendatang.
HIDUP:
Apakah menurut Anda matematika ditemukan atau ditemukan?
NOAM：
Saya pikir mungkin sudah ditemukan, mungkin semuanya telah ditemukan, dan kami baru saja menemukan.
Lihat Asli
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
22 orang senilai 1 miliar! Dialog dengan CEO Character.ai: Daripada langsung belajar kedokteran, lebih baik belajar kecerdasan buatan
Pada awal tahun ini, Charater.ai menyelesaikan pembiayaan A-round sebesar US$150 juta, dengan valuasi lebih dari US$1 miliar, dan dipromosikan menjadi unicorn, dengan tim yang hanya terdiri dari 22 orang.
Pada bulan April, CEO Character.ai Noam Shazeer, mantan anggota tim Google Brain, diwawancarai oleh podcast No Priors.
Berikut adalah transkrip kata demi kata dari audio podcast. ELAD dan SARAH adalah pembawa acara podcast. Demi pemahaman, beberapa bagian telah dihapus.
Pengalaman kerja awal di Google, dan lahirnya Transformer
HIDUP:
Anda telah lama bekerja di NLP dan AI. Anda bekerja di Google selama 17 tahun, di mana pertanyaan wawancara seputar solusi pemeriksaan ejaan. Saat saya bergabung dengan Google, salah satu sistem utama untuk penargetan iklan saat itu adalah Phil Cluster, yang menurut saya ditulis oleh Anda dan George Herrick. Saya ingin tahu tentang sejarah pekerjaan Anda pada model bahasa NLP untuk kecerdasan buatan, bagaimana semua ini berkembang, bagaimana Anda memulainya, apa yang memicu minat Anda?
NOAM：
Terima kasih Elad. Ya, hanya, selalu merupakan daya tarik alami untuk AI. Mudah-mudahan itu akan membuat komputer melakukan sesuatu yang pintar. Tampaknya menjadi permainan paling lucu di sekitar. Saya cukup beruntung menemukan Google sejak awal dan terlibat dalam banyak proyek awal di sana, mungkin Anda tidak akan menyebutnya kecerdasan buatan sekarang. Sejak 2012, saya bergabung dengan tim Google Brain. Lakukan beberapa hal menyenangkan dengan sekelompok orang yang sangat pintar. Saya belum pernah melakukan pembelajaran mendalam atau jaringan saraf sebelumnya.
HIDUP:
Anda adalah salah satu peserta makalah transformator pada tahun 2017, dan kemudian Anda berpartisipasi dalam pengerjaan Mesh-TensorFlow. Bisakah Anda berbicara sedikit tentang bagaimana semua ini bekerja?
NOAM：
Pembelajaran mendalam berhasil karena sangat cocok untuk perangkat keras modern, dan Anda memiliki generasi chip yang, dalam penggandaan matriks dan bentuk lainnya, memerlukan banyak perhitungan versus komunikasi. Jadi pada dasarnya pembelajaran mendalam benar-benar berhasil, ini berjalan ribuan kali lebih cepat daripada yang lainnya. Begitu saya memahaminya, saya mulai merancang hal-hal yang sangat cerdas dan cepat. Masalah yang paling menarik saat ini adalah pemodelan bahasa. Karena jumlah data yang tidak terbatas, cukup kikis jaringan dan Anda bisa mendapatkan semua data pelatihan yang Anda inginkan.
Definisi masalahnya sangat sederhana, yaitu memprediksi kata berikutnya, kucing gemuk duduk di atasnya, apa kata berikutnya. Sangat mudah untuk didefinisikan, dan jika Anda bisa melakukannya dengan baik, maka Anda bisa mendapatkan semua yang Anda lihat sekarang, dan Anda bisa langsung berbicara dengan benda ini, itu benar-benar kecerdasan buatan. Jadi, sekitar tahun 2015, saya mulai mengerjakan pemodelan bahasa dan bekerja dengan jaringan saraf berulang, yang merupakan hal hebat saat itu. Kemudian transformator muncul.
Saya mendengar rekan-rekan saya di sebelah mengobrol tentang keinginan untuk mengganti RNN dengan sesuatu yang lebih baik. Saya seperti, kedengarannya bagus, saya ingin membantu, RNN menyebalkan, ini akan lebih menarik.
HIDUP:
Bisakah Anda dengan cepat menjelaskan perbedaan antara jaringan saraf berulang dan model berbasis transformator atau perhatian?
NOAM：
Jaringan saraf berulang adalah perhitungan terus menerus, setiap kata yang Anda baca ke kata berikutnya, Anda menghitung keadaan otak Anda saat ini berdasarkan keadaan lama otak Anda dan isi kata berikutnya. Kemudian Anda, Anda memprediksi kata berikutnya. Jadi, Anda memiliki urutan kalkulasi yang sangat panjang yang harus dilakukan secara berurutan, jadi, keajaiban Transformer adalah Anda dapat memproses seluruh urutan sekaligus.
Prediksi untuk kata berikutnya bergantung pada apa kata sebelumnya, tetapi itu terjadi dalam langkah konstan, dan Anda dapat memanfaatkan paralelisme ini, Anda dapat melihat semuanya sekaligus, seperti paralelisme yang bagus dalam perangkat keras modern .
Sekarang Anda dapat memanfaatkan panjang urutan, paralelisme Anda, dan semuanya bekerja dengan sangat baik. perhatian itu sendiri. Ini seperti jika Anda membuat asosiasi nilai kunci dalam memori yang besar ini, Anda seperti membuat tabel besar ini dengan entri untuk setiap kata dalam urutannya. Kemudian Anda mencari hal-hal di tabel ini. Ini semua seperti fuzzy, differentiating, dan fungsi Perancis yang besar di mana Anda dapat melakukan invers. Orang-orang telah menggunakan ini untuk masalah dengan dua urutan, di mana Anda memiliki terjemahan mesin dan Anda suka menerjemahkan bahasa Inggris ke bahasa Prancis, jadi ketika Anda membuat urutan bahasa Prancis, Anda seperti melihat urutan bahasa Inggris dan mencoba memperhatikan posisi yang benar dalam urutan. Tapi wawasan di sini adalah bahwa Anda dapat menggunakan perhatian yang sama untuk melihat kembali ke masa lalu dari urutan yang Anda coba buat ini. Kelemahannya adalah ia bekerja dengan baik pada GPU dan GPU, yang sejalan dengan pengembangan pembelajaran mendalam karena ia bekerja dengan baik pada perangkat keras yang ada. Dan itu membawa hal yang sama ke urutan.
SARA：
Ya, menurut saya contoh klasik untuk membantu orang memvisualisasikannya adalah mengucapkan kalimat yang sama dalam bahasa Prancis dan Inggris, urutan kata-katanya berbeda, Anda bukan pemetaan satu-ke-satu dalam urutan itu, dan mencari tahu caranya lakukan itu tanpa informasi Lakukan ini dengan perhitungan paralel jika terjadi kerugian. Jadi ini seperti hal yang sangat elegan untuk dilakukan.
HIDUP:
Tampaknya juga bahwa teknik ini digunakan di berbagai bidang yang berbeda. Jelas ini adalah model bahasa multimodal. Jadi seperti chat GPT atau karakter yang sedang kamu lakukan. Saya juga kagum pada beberapa aplikasi seperti Alpha Folding, pekerjaan pelipatan protein yang dilakukan Google, itu benar-benar bekerja dengan kinerja yang luar biasa. Apakah ada bidang aplikasi yang menurut Anda benar-benar tidak terduga sehubungan dengan cara kerja transformator dan sehubungan dengan apa yang dapat mereka lakukan?
NOAM：
Saya hanya menundukkan kepala pada bahasanya, seperti di sini Anda memiliki masalah dan dapat melakukan apa saja. Saya harap hal ini cukup baik. Jadi saya bertanya, bagaimana Anda menyembuhkan kanker? Maka itu seperti menemukan solusi. Jadi, saya benar-benar mengabaikan apa yang orang lakukan di semua mode lain ini, dan menurut saya banyak keberhasilan awal dalam pembelajaran mendalam adalah dengan gambar, dan orang-orang menjadi bersemangat tentang gambar tetapi sama sekali mengabaikannya. Karena, sebuah gambar bernilai seribu kata, tetapi memiliki sejuta piksel, sehingga teksnya seribu kali lebih padat. Jadi, saya penggemar berat literal. Tapi cukup mengasyikkan melihatnya lepas landas dengan cara lain ini. Hal-hal ini luar biasa. Ini sangat berguna untuk membuat produk yang ingin digunakan orang, tetapi menurut saya banyak kecerdasan inti akan datang dari model teks ini.
Keterbatasan model besar: daya komputasi tidak menjadi masalah, begitu pula data
HIDUP:
Menurut Anda apa keterbatasan model ini? Orang sering berbicara tentang skala saja, seperti Anda baru saja membuang lebih banyak daya komputasi dan hal ini akan semakin meningkat. Ada data dan berbagai jenis data yang mungkin ada atau tidak ada. Dan tweak algoritmik, dan menambahkan hal-hal baru seperti memori atau loopback atau semacamnya. Menurut Anda, hal-hal besar apa yang masih perlu dibangun oleh orang-orang, dan menurut Anda di mana itu disadap sebagai arsitektur?
NOAM：
Ya, saya tidak tahu apakah itu akan dihilangkan. Maksudku, kita belum melihatnya keluar. Mungkin tidak seberapa dibandingkan dengan jumlah pekerjaan yang masuk ke dalamnya. Jadi kemungkinan besar akan ada dua inefisiensi yang orang dapatkan dengan algoritme pelatihan yang lebih baik, arsitektur model yang lebih baik, cara yang lebih baik untuk membuat chip dan menggunakan kuantisasi dan sebagainya. Dan kemudian akan ada 10-an dan 100-an dan 1.000-an faktor seperti penskalaan dan uang yang akan dilontarkan orang pada benda ini karena hei, semua orang baru menyadari bahwa benda ini sangat berharga. Pada saat yang sama, saya rasa tidak ada yang melihat betapa bagusnya benda ini untuk tembok. Jadi saya pikir itu hanya, itu akan terus menjadi lebih baik. Saya tidak dan saya tidak tahu apa yang menghentikannya.
SARA：
Apa pendapat Anda tentang ide ini, kami dapat meningkatkan daya komputasi, tetapi data pelatihan model terbesar tidak cukup. Kami telah menggunakan semua data teks yang tersedia di internet. Kami harus pergi untuk meningkatkan kualitas, kami harus pergi ke umpan balik manusia. apa yang kamu pikirkan.
NOAM：
Dengan 10 miliar orang, setiap orang menghasilkan 1.000 atau 10.000 kata, yang merupakan jumlah data yang sangat besar. Kita semua melakukan banyak percakapan dengan sistem AI. Jadi saya, saya merasa bahwa banyak data akan masuk ke beberapa sistem AI, maksud saya dengan cara menjaga privasi, saya berharap data dapat masuk. Kemudian persyaratan data cenderung meningkat secara eksponensial dengan daya komputasi, karena Anda melatih model yang lebih besar, lalu Anda membuang lebih banyak data ke dalamnya. Saya tidak khawatir dengan kekurangan data, kami mungkin dapat menghasilkan lebih banyak data dengan AI.
HIDUP:
Lalu menurut Anda apa masalah utama yang akan diselesaikan oleh model ini di masa mendatang? Apakah itu halusinasi, ingatan, atau sesuatu yang lain?
NOAM：
Saya tidak punya ide. Saya agak suka halusinasi.
SARA：
Ini juga fitur.
NOAM：
Hal yang paling ingin kami lakukan adalah mengingat, karena pengguna kami pasti ingin teman virtualnya mengingat mereka. Anda dapat melakukan banyak hal dengan personalisasi, Anda ingin membuang banyak data dan menggunakannya secara efektif. Ada banyak pekerjaan yang dilakukan untuk mencoba mencari tahu apa yang nyata dan apa yang halusinasi. Tentu saja, saya pikir kami akan memperbaikinya.
Kisah wirausaha Character.ai
HIDUP:
Ceritakan sedikit tentang LaMDA dan peran Anda di dalamnya, bagaimana Anda menghasilkan Karakter?
NOAM：
Salah satu pendiri saya, Daniel Freitas, adalah orang yang bekerja paling keras, bekerja paling keras, dan paling cerdas yang pernah saya temui. Dia telah mengerjakan tugas membangun chatbot ini sepanjang hidupnya. Dia telah mencoba membuat chatbot sejak dia masih kecil. Jadi dia bergabung dengan Google Brain. Dia membaca beberapa makalah dan berpikir teknik pemodelan bahasa saraf ini adalah sesuatu yang benar-benar dapat menggeneralisasi dan membangun bidang yang benar-benar terbuka.
Meski tidak mendapat dukungan banyak orang, ia hanya menganggap proyek ini sebagai pekerjaan sampingan dan menghabiskan 20% waktunya untuk itu.
Kemudian dia merekrut 20 persen asisten yang membantunya mengatur sistem.
Dia malah muter-muter ngambil jatah TPU orang lain, dia menamakan proyeknya Mina karena dia suka, muncul di mimpi kayaknya. Pada titik tertentu saya melihat papan skor dan berpikir apa yang disebut Mina ini, mengapa ada 30 poin TPU?
HIDUP:
LaMDA seperti ini, saya tahu itu adalah chatbot internal yang dibuat Google sebelum GPT. Kabar itu menjadi terkenal karena seorang insinyur menganggap hal itu mengandung hikmah.
NOAM：
Ya, kami menaruhnya di beberapa model bahasa besar, dan kemudian ada desas-desus di dalam perusahaan, dan Mina berganti nama menjadi LaMDA, dan saat itu, kami pergi, dan ada orang yang percaya itu memiliki kehidupan.
SARA：
Mengapa tidak dirilis nanti, dan apa yang menjadi perhatian?
NOAM：
Untuk perusahaan besar, meluncurkan produk yang mengetahui segalanya agak berbahaya. Saya kira itu hanya masalah risiko. Jadi, setelah banyak pertimbangan, memulai bisnis sepertinya merupakan ide yang tepat.
SARA：
Seperti apa kisah asal-usul Karakter?
NOAM：
Kami hanya ingin membangun sesuatu dan membawanya ke pasar secepat mungkin. Saya membentuk tim insinyur punk, peneliti, mendapatkan kekuatan komputasi, dan memulai bisnis.
HIDUP:
Bagaimana Anda merekrut?
NOAM：
Beberapa orang yang kami temui di Google kebetulan diperkenalkan dengan Myat yang dulunya berasal dari Meta, dan dia banyak meluncurkan, dan membangun banyak barang model bahasa besar dan infrastruktur model bahasa neural mereka, dan beberapa orang lain dari Meta mengikutinya, Mereka sangat baik.
HIDUP:
Apakah Anda memiliki persyaratan atau metode pengujian khusus saat mencari bakat? Atau hanya wawancara biasa?
NOAM
Saya pikir itu sangat tergantung pada motivasi. Saya pikir Daniel sangat fokus pada motivasi, dia mencari keadaan antara keinginan yang kuat dan impian masa kecilnya, jadi ada banyak orang baik yang tidak kami pekerjakan karena mereka tidak mencapai level itu, tetapi kami juga merekrut. banyak orang, Mereka sempurna untuk bergabung dengan perusahaan baru, mereka sangat berbakat dan bersemangat.
Siri dan Alexa sudah ada di pasaran, jangan bersaing langsung dengan perusahaan besar dalam hal fungsionalitas
SARA：
Berbicara tentang impian masa kecil, apakah Anda ingin mendeskripsikan produk ini? Anda memiliki bot ini, mereka dapat dibuat oleh pengguna, mereka dapat dibuat oleh karakter, mereka dapat menjadi tokoh masyarakat, tokoh sejarah, karakter fiksi, bagaimana Anda mendapatkan pola ini?
NOAM：
Pengguna sering kali lebih tahu daripada Anda apa yang ingin mereka lakukan dengan benda ini. ** Siri dan Alexa dan Google Assistant sudah ada di pasaran, tidak perlu bersaing dengan perusahaan besar ini dalam hal fungsionalitas. **
Jika Anda mencoba menampilkan persona publik yang disukai semua orang, Anda hanya akan mendapatkan kebosanan. Dan orang tidak suka bosan, mereka ingin berinteraksi dengan hal-hal yang terasa seperti orang.
Jadi pada dasarnya Anda perlu melakukan banyak karakter dan membiarkan orang menciptakan karakter sesuka mereka, dan ada sesuatu yang saya suka tentang nama Karakter, yang memiliki beberapa arti berbeda: teks, karakter, peran.
SARA：
Jadi, apa yang orang inginkan? seorang teman? menulis novel? Ada lagi yang benar-benar baru?
NOAM：
Beberapa pengguna akan mengobrol dengan figur publik virtual dan pemberi pengaruh pada produk kami. Pengguna dapat membuat karakter dan berbicara dengannya. Sementara beberapa pengguna mungkin merasa kesepian dan membutuhkan seseorang untuk diajak bicara, banyak yang tidak memiliki siapa pun untuk diajak bicara. Beberapa orang akan mengatakan bahwa peran ini sekarang adalah konselor baru saya.
SARA：
Dua cara berpikir tentang emosi, bukan? Seperti seberapa penting hubungan yang dimiliki orang dengan karakter, atau seperti pada level apa kita dalam mengekspresikan emosi yang koheren?
NOAM：
Ya, ** maksud saya mungkin Anda tidak membutuhkan tingkat intelektual kelas atas untuk dukungan emosional. Emosi itu hebat dan sangat penting, tetapi seekor anjing juga dapat memberikan dukungan emosional dengan baik. Anjing memberikan dukungan emosional yang besar tetapi memiliki sedikit kemampuan verbal,**
HIDUP:
Menurut Anda apa yang terjadi pada sistem saat Anda meningkatkan?
NOAM：
Saya pikir kita harus bisa membuatnya lebih pintar dengan berbagai cara. Mendapatkan lebih banyak daya komputasi, melatih model yang lebih besar, dan berlatih lebih lama seharusnya menjadi lebih pintar, lebih berpengetahuan, lebih baik dalam hal yang diinginkan orang, apa yang dicari orang.
SARA：
Anda memiliki beberapa pengguna yang menggunakan Karakter berjam-jam sehari. Siapa audiens target Anda? Apa pola penggunaan yang Anda harapkan.
NOAM：
Kami akan menyerahkannya kepada pengguna untuk memutuskan. Tujuan kami selalu untuk mengeluarkan barang-barang dan membiarkan pengguna memutuskan apa yang menurut mereka bagus untuk itu.
Kami melihat bahwa orang-orang yang ada di situs Karakter hari ini, rata-rata waktu aktifnya adalah dua jam. Inilah yang mengirim pesan hari ini, yang gila tapi penting, dan dikatakan orang menemukan semacam nilai.
Dan kemudian seperti yang saya katakan, sangat sulit untuk mengatakan dengan tepat apa nilai itu karena itu benar-benar seperti hal campuran yang besar. Tetapi tujuan kami adalah membuat hal ini lebih berguna bagi orang untuk menyesuaikannya dan memutuskan apa yang ingin mereka lakukan dengannya. Mari serahkan ke tangan pengguna dan lihat apa yang terjadi.
Membakar uang untuk skala TOC adalah prioritas pertama
SARA：
Bagaimana pendapat Anda tentang komersialisasi?
NOAM：
**Kami kehilangan uang per pengguna dan menebusnya dengan volume. **
SARA：
Bagus. Ini strategi yang bagus.
NOAM：
Tidak, aku bercanda.
HIDUP:
Seperti model bisnis tradisional tahun 1990-an, jadi tidak apa-apa.
SARA：
Ini juga merupakan model bisnis untuk tahun 2022.
HIDUP:
Anda harus mengeluarkan token dan mengubahnya menjadi mata uang kripto.
NOAM：
** Kami akan segera memonetisasi. Ini adalah bisnis yang mendapat manfaat dari banyak daya komputasi. Alih-alih menghabiskan uang investor, kami berharap dapat memberikan nilai bagi pengguna yang cukup dan menghasilkan uang di sepanjang jalan. Beberapa layanan seperti jenis langganan premium dapat dicoba nanti. Saat kami mengembangkan beberapa fitur baru, harga biaya berikutnya mungkin meningkat. **
HIDUP:
Maksud saya, Karakter sebagai layanan TOC benar-benar berjalan dengan cara yang sangat dramatis. Jika Anda melihat jumlah pengguna dan waktu penggunaan per pengguna, itu gila. Apakah Anda akan memulai bisnis TOB di masa depan? Seperti robot layanan pelanggan?
NOAM：
Saat ini kami memiliki 22 karyawan jadi kami perlu memprioritaskan dan kami merekrut. Prioritas pertama adalah TOC.
SARA：
Jadi Anda mengatakan salah satu alasan utama mengapa LaMDA tidak segera diluncurkan adalah keamanan. apa yang kalian pikirkan?
NOAM：
Ada alasan lain. Misalnya, Google tidak ingin orang menyakiti diri sendiri atau menyakiti orang lain, dan perlu memblokir pornografi. Ada beberapa protes di sekitar ini.
HIDUP:
Apakah menurut Anda semua ini adalah jalan menuju AGI atau kecerdasan super? Untuk beberapa perusahaan, ini tampaknya menjadi bagian dari tujuan, dan untuk yang lain, ini tampaknya bukan tujuan yang eksplisit.
NOAM：
Ya, AGI adalah tujuan dari banyak startup AI. **Alasan sebenarnya adalah saya ingin memajukan teknologi. Ada begitu banyak masalah teknis di dunia yang bisa diselesaikan, seperti penyakit medis yang sulit disembuhkan. Kami dapat menemukan solusi teknis. **
Itu sebabnya saya meneliti kecerdasan buatan,** karena daripada mempelajari kedokteran secara langsung, lebih baik mempelajari kecerdasan buatan, dan kemudian kecerdasan buatan dapat digunakan untuk mempercepat upaya penelitian lainnya. Jadi pada dasarnya itulah mengapa saya bekerja sangat keras pada AI, saya ingin memulai sebuah perusahaan yang mengutamakan AGI dan mengutamakan produk. **
Produk Anda sepenuhnya bergantung pada kualitas AI. Penentu terbesar dari kualitas produk kami adalah seberapa pintar hal itu nantinya. Jadi sekarang kami sangat termotivasi untuk membuat AI lebih baik, membuat produk lebih baik.
HIDUP:
Ya, ini adalah loop umpan balik beli yang sangat bagus karena saat Anda membuat produk lebih baik, lebih banyak orang berinteraksi dengannya, yang membantu menjadikannya produk yang lebih baik. Jadi ini pendekatan yang sangat cerdas. Seberapa jauh menurut Anda kita dari kecerdasan buatan yang sepintar atau lebih pintar dari manusia? Jelas, mereka sudah lebih pintar dari manusia dalam beberapa hal, tapi aku hanya memikirkan hal seperti itu.
NOAM：
Kami selalu kagum dengan cara kecerdasan buatan dapat mengungguli manusia. Beberapa AI sekarang dapat melakukan pekerjaan rumah untuk Anda. Saya berharap saya memiliki sesuatu seperti ini ketika saya masih kecil.
HIDUP:
Nasihat apa yang akan Anda berikan kepada mereka yang memiliki latar belakang yang mirip dengan Anda? Seperti apa yang Anda pelajari sebagai pendiri yang belum tentu Anda pelajari saat bekerja di Google atau di tempat lain?
NOAM：
Pertanyaan bagus. Pada dasarnya, Anda belajar dari kesalahan mengerikan Anda. Meskipun menurut saya kami tidak membuat kesalahan yang sangat, sangat buruk, atau setidaknya kami telah menebusnya.
SARA：
Bakat seperti apa yang Anda cari?
NOAM：
sejauh ini? 21 dari 22 adalah insinyur. Kami juga akan mempekerjakan lebih banyak insinyur. Baik itu pembelajaran mendalam atau front-end dan back-end, pastikan untuk mempekerjakan lebih banyak orang di sisi bisnis dan produk.
HIDUP:
Dua atau tiga pertanyaan singkat terakhir, siapa matematikawan atau ilmuwan komputer favorit Anda.
NOAM：
Saya sering bekerja dengan Jeff Dean (kepala Google Brain) di Google. Dia sangat baik dan menyenangkan untuk diajak bekerja sama. Saya pikir dia sedang mengerjakan model bahasa besar mereka sekarang. Sayang sekali meninggalkan Google, dan saya berharap dapat bekerja dengannya di masa mendatang.
HIDUP:
Apakah menurut Anda matematika ditemukan atau ditemukan?
NOAM：
Saya pikir mungkin sudah ditemukan, mungkin semuanya telah ditemukan, dan kami baru saja menemukan.