Judul asli: "Qiming Headlines | Qiming Venture Partners dan Unfinished Research bersama-sama merilis laporan "Generative AI" | The State of Generative AI 2023"
Pada World Artificial Intelligence Conference (WAIC) 2023** Qiming Venture Partners Forum "Generative AI and Large-scale Models: Change and Innovation", Qiming Venture Partners bergandengan tangan dengan Unfinished Research untuk bersama-sama merilis laporan blockbuster "Generative AI 》| Keadaan Generatif AI 2023. **
Jika tahun 2022 disebut sebagai tahun kecerdasan buatan generatif, terobosan telah dibuat dalam penerapan model difusi, lahirlah ChatGPT, dan serangkaian makalah penelitian inovatif diterbitkan.Pada tahun 2023, model besar akan didorong ke puncaknya, dengan rilis GPT-4 sebagai tandanya, kecerdasan buatan generatif, telah memasuki tahap aplikasi inovatif menuju arah kecerdasan buatan umum.
** Fitur terpenting dari tahap ini adalah bahwa aplikasi, penelitian, dan pengawasan semuanya bekerja sama untuk membuka jalur inovatif kecerdasan buatan generatif. **
APLIKASI INOVATIF
Orang-orang dengan cepat melihat munculnya ekologi bisnis baru dari kecerdasan buatan generatif, melihat lapisan demi lapisan teknologi, seperti perhitungan, model, dan aplikasi; melihat konten yang dihasilkan, seperti teks, gambar, video, kode, struktur 3D, multi -modalitas; lihat juga data terbuka, data vertikal, data sintetik, data vektor, untuk model besar dan kecil.
Kecerdasan buatan generatif tampaknya lebih diterima dengan antusias di Cina: pemerintah mendorong pengembangan kecerdasan buatan umum; tidak ada perusahaan besar yang dapat mengabaikannya; banyak perusahaan kecil dan menengah yang terlibat dalam pekerjaan pengetahuan telah menggunakannya terlebih dahulu. ** Dalam menghadapi teknologi revolusioner ini, semua bisnis terlibat. Mereka memiliki ritme yang berbeda dan tingkat keterlibatan yang berbeda, dan mereka telah menjadi pembela, inovator, dan pengadopsi di bawah gelombang teknologi baru. Margin keuntungan mereka berubah secara permanen. **
Daya komputasi saat ini merupakan sumber daya yang paling langka, dan juga dalam posisi yang paling menguntungkan. **Daya komputasi adalah bagian terbesar dari struktur biaya model besar, dan kinerja GPU benar-benar menentukan laju industri yang sedang berkembang ini. ** Dengan kemajuan daya dan model komputasi, lebih banyak perusahaan rintisan bermunculan. Mereka telah meraih dividen waktu, tetapi mereka juga menghadapi persaingan dan kemungkinan penghancuran raksasa. Bisa dibilang ini adalah samudra biru start-up, dan ada juga terumbu karang yang tersembunyi di bawah alurnya.
** Persaingan mendorong inovasi. **Berbeda dari pesatnya kemunculan startup ke arah alat produktivitas pada tahun 2022, pada tahun 2023, sebagian besar perusahaan baru akan berfokus pada inovasi teknologi yang mendasarinya; startup skala besar juga mulai melakukan diferensiasi, dan semakin meningkat startup skala besar umum Pada saat yang sama, banyak perusahaan skala besar vertikal dalam arah tertentu seperti perawatan medis, e-commerce, penelitian ilmiah, industri, mengemudi otonom, dan robotika mulai bermunculan. **
Penelitian Perbatasan
2022 dan 2023 adalah dua tahun ketika teknologi kecerdasan buatan generatif akan membuat terobosan. Kami memilah makalah dan menemukan bahwa fitur yang menonjol di bidang kecerdasan buatan generatif adalah integrasi yang erat antara proses penelitian dan inovasi, banyak di antaranya diimplementasikan dalam perusahaan. , luncurkan kasus penggunaan dan produk dengan cepat. **Integrasi penelitian dan kewirausahaan, start-up dan modal ventura ini telah memainkan peran penting, dan investasi penelitian serta talenta raksasa teknologi AS dan perusahaan kecerdasan buatan besar, termasuk penelitian beberapa teknologi yang mendasarinya, telah melampaui universitas selama tahun dan lembaga penelitian lainnya.
** Batasan kecerdasan buatan mendorong ke masa depan. **Meskipun dari laporan teknis GPT-4 hingga makalah penelitian Microsoft, telah menunjukkan bahwa ia memiliki kemampuan pengolah kata yang dekat dengan manusia, kemampuan penalaran matematis, dan pengetahuan di banyak bidang profesional. "Kami pikir ini dapat dianggap sebagai versi awal (walaupun masih belum lengkap) dari sistem kecerdasan umum buatan (AGI)." terlalu banyak. Seperti kalibrasi kepercayaan, memori jangka panjang, pembelajaran berkelanjutan, personalisasi, perencanaan dan lompatan konsep, transparansi, kekeliruan kognitif dan irasionalitas, dll. **
**Arah penelitian terpenting dalam enam bulan terakhir adalah untuk menguraikan dan memahami "kemunculan" kecerdasan yang misterius dan menarik dalam model besar. ** Model besar tidak hanya perlu melampaui kemampuan untuk memprediksi kata berikutnya, tetapi juga membutuhkan mekanisme "berpikir lambat" yang lebih kaya dan lebih kompleks untuk mengawasi mekanisme "berpikir cepat" untuk memprediksi kata berikutnya.
**Penelitian mutakhir terbaik harus mempelajari dan memecahkan masalah yang dihadapi dalam penerapan teknologi skala besar. **Penelitian tentang cara mengurangi halusinasi, menyesuaikan model besar untuk menghasilkan konten nyata dengan lebih akurat, dan melatih kemampuan penalaran yang lebih kuat; cara melatih model lebih intensif, menurunkan ambang batas, meluncurkan produk baru, dan membiarkan lebih banyak orang dari semua lapisan masyarakat kehidupan dan konsumen Bagaimana berinteraksi dengan dunia fisik nyata seperti manusia; bagaimana menjadi asisten manusia dalam pekerjaan yang kompleks, merancang dan membantu melakukan eksperimen ilmiah; bagaimana mempengaruhi pekerjaan dan membuat respons kebijakan; bagaimana membuat kecerdasan buatan aman dan dapat dipercaya.
Regulasi| Keamanan| Kebijakan| Bakat
Tanggapan peraturan pemerintah terhadap kecerdasan buatan generatif cukup tepat waktu, dan karakteristik yang berbeda telah muncul di berbagai negara. **Sementara dengan cepat memperkenalkan langkah-langkah pengaturan untuk kecerdasan buatan generatif dan mencari pendapat, China juga mendorong pengembangan kecerdasan buatan umum.Beijing, Shanghai, dan Shenzhen adalah eselon pertama yang paling ambisius, dan mereka semua mengusulkan penelitian kecerdasan buatan yang lebih ambisius, inovasi dan tujuan industri. ** UE terus memimpin dalam regulasi dan undang-undang, karena UE memelopori GDPR 5 tahun lalu. Amerika Serikat lebih memperhatikan posisi terdepan teknologi kecerdasan buatan, dan sedang membentuk kerangka peraturan berdasarkan prinsip manajemen risiko.
** Dalam jangka panjang, bakat akan lebih berdampak pada masa depan kecerdasan buatan daripada daya komputasi. **Jumlah makalah yang diterbitkan oleh peneliti Tiongkok telah melampaui Amerika Serikat, tetapi Amerika Serikat masih memiliki keunggulan yang jelas di puncak piramida, baik itu penelitian maupun kewirausahaan. Secara global, fokus penelitian dan inovasi kecerdasan buatan bergeser dari universitas ke perusahaan.Tiga institusi teratas di Amerika Serikat dengan sarjana terbanyak adalah Google, Microsoft dan Meta, yang bersama-sama merekrut 30% sarjana top di Amerika Serikat . China masih didominasi oleh universitas, dan hanya Alibaba yang masuk dalam 10 besar.
Kementerian Sains dan Teknologi telah mengusulkan agar perusahaan kecerdasan buatan harus menerima tinjauan etika ilmiah dan teknologi; subjek tinjauan harus membentuk komite etika (peninjauan) ilmiah dan teknologi. Perusahaan kecerdasan buatan Amerika mulai membentuk departemen kecerdasan buatan yang bertanggung jawab dan kredibel sebelumnya.Dari tahun lalu hingga tahun ini, beberapa penyesuaian telah dilakukan, yang mencerminkan bahwa ketika kecerdasan buatan generatif sedang mengalami perubahan, perusahaan berusaha menggunakan teknologi dan solusi yang lebih baik. Terapkan teknologi baru dengan aman dan bertanggung jawab.
Sepuluh Prospek
Model Bahasa Besar
Pada tahun 2024, China akan memiliki model tujuan umum multibahasa yang sebanding dengan GPT-4;
Long Context akan memimpin terobosan berikutnya dalam teknologi LLM;
Sebelum model bahasa besar yang lebih menjanjikan muncul, untuk mencapai hasil yang lebih baik di bidang vertikal, tiga metode berikut akan berjalan berdampingan:
i) Tanpa mengubah distribusi data, gunakan data yang lebih umum untuk pra-pelatihan model skala besar umum, dan jangan secara khusus memperkenalkan data industri,
ii) Gunakan data khusus industri untuk menyempurnakan (Fine-Tuning) model besar umum,
iii) Gunakan kumpulan data dengan proporsi data industri yang lebih tinggi untuk pra-pelatihan model vertikal.
Model Multimoda
4 Model diagram Vinsen CLIP + Difusi saat ini adalah keadaan transisi, dan struktur model terintegrasi akan muncul dalam 2 tahun ke depan;
Model Text-to-Image generasi berikutnya akan memiliki kemampuan kontrol yang lebih kuat.Ini akan menggabungkan kemampuan model yang mendasari dan metode kontrol front-end, dan desain model akan fokus pada kombinasi dengan metode kontrol;
Sebelum tahun 2025, mode video dan 3D akan mengantarkan model tonggak, sangat meningkatkan efek pembangkitan;
Kecerdasan yang terkandung (Embodied AI) yang diwakili oleh PALM-E telah menunjukkan potensi besar dalam arah persepsi, pemahaman, dan pengambilan keputusan robot, tetapi ada tantangan besar dalam pelatihan dan keandalan saat ini;
Dalam jangka pendek, Transformer menjadi struktur jaringan utama dari berbagai modalitas, tetapi metode umum untuk mengompresi seluruh dunia digital belum muncul, Transformer bukanlah akhir dari teknologi kecerdasan buatan.
Peluang bisnis
Dalam 3 tahun, kekuatan pendorong inti dari aplikasi AI subversif akan berasal dari inovasi model yang mendasarinya, keduanya tidak dapat dipisahkan, dan peran model akan lebih besar daripada peran desain produk;
Pasar AI generatif saat ini sedang dalam tahap awal dominasi teknologi, dan ada peluang bagi perusahaan platform dengan nilai pasar ratusan miliar dolar.
Baca teks aslinya
Lihat Asli
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Laporan Penelitian| "AI Generatif": aplikasi, penelitian, dan pengawasan bekerja sama untuk membuka jalur inovasi kecerdasan buatan generatif
Sumber: Mitra Usaha Qiming
Judul asli: "Qiming Headlines | Qiming Venture Partners dan Unfinished Research bersama-sama merilis laporan "Generative AI" | The State of Generative AI 2023"
Pada World Artificial Intelligence Conference (WAIC) 2023** Qiming Venture Partners Forum "Generative AI and Large-scale Models: Change and Innovation", Qiming Venture Partners bergandengan tangan dengan Unfinished Research untuk bersama-sama merilis laporan blockbuster "Generative AI 》| Keadaan Generatif AI 2023. **
** Fitur terpenting dari tahap ini adalah bahwa aplikasi, penelitian, dan pengawasan semuanya bekerja sama untuk membuka jalur inovatif kecerdasan buatan generatif. **
APLIKASI INOVATIF
Orang-orang dengan cepat melihat munculnya ekologi bisnis baru dari kecerdasan buatan generatif, melihat lapisan demi lapisan teknologi, seperti perhitungan, model, dan aplikasi; melihat konten yang dihasilkan, seperti teks, gambar, video, kode, struktur 3D, multi -modalitas; lihat juga data terbuka, data vertikal, data sintetik, data vektor, untuk model besar dan kecil.
Kecerdasan buatan generatif tampaknya lebih diterima dengan antusias di Cina: pemerintah mendorong pengembangan kecerdasan buatan umum; tidak ada perusahaan besar yang dapat mengabaikannya; banyak perusahaan kecil dan menengah yang terlibat dalam pekerjaan pengetahuan telah menggunakannya terlebih dahulu. ** Dalam menghadapi teknologi revolusioner ini, semua bisnis terlibat. Mereka memiliki ritme yang berbeda dan tingkat keterlibatan yang berbeda, dan mereka telah menjadi pembela, inovator, dan pengadopsi di bawah gelombang teknologi baru. Margin keuntungan mereka berubah secara permanen. **
Daya komputasi saat ini merupakan sumber daya yang paling langka, dan juga dalam posisi yang paling menguntungkan. **Daya komputasi adalah bagian terbesar dari struktur biaya model besar, dan kinerja GPU benar-benar menentukan laju industri yang sedang berkembang ini. ** Dengan kemajuan daya dan model komputasi, lebih banyak perusahaan rintisan bermunculan. Mereka telah meraih dividen waktu, tetapi mereka juga menghadapi persaingan dan kemungkinan penghancuran raksasa. Bisa dibilang ini adalah samudra biru start-up, dan ada juga terumbu karang yang tersembunyi di bawah alurnya.
** Persaingan mendorong inovasi. **Berbeda dari pesatnya kemunculan startup ke arah alat produktivitas pada tahun 2022, pada tahun 2023, sebagian besar perusahaan baru akan berfokus pada inovasi teknologi yang mendasarinya; startup skala besar juga mulai melakukan diferensiasi, dan semakin meningkat startup skala besar umum Pada saat yang sama, banyak perusahaan skala besar vertikal dalam arah tertentu seperti perawatan medis, e-commerce, penelitian ilmiah, industri, mengemudi otonom, dan robotika mulai bermunculan. **
Penelitian Perbatasan
2022 dan 2023 adalah dua tahun ketika teknologi kecerdasan buatan generatif akan membuat terobosan. Kami memilah makalah dan menemukan bahwa fitur yang menonjol di bidang kecerdasan buatan generatif adalah integrasi yang erat antara proses penelitian dan inovasi, banyak di antaranya diimplementasikan dalam perusahaan. , luncurkan kasus penggunaan dan produk dengan cepat. **Integrasi penelitian dan kewirausahaan, start-up dan modal ventura ini telah memainkan peran penting, dan investasi penelitian serta talenta raksasa teknologi AS dan perusahaan kecerdasan buatan besar, termasuk penelitian beberapa teknologi yang mendasarinya, telah melampaui universitas selama tahun dan lembaga penelitian lainnya.
** Batasan kecerdasan buatan mendorong ke masa depan. **Meskipun dari laporan teknis GPT-4 hingga makalah penelitian Microsoft, telah menunjukkan bahwa ia memiliki kemampuan pengolah kata yang dekat dengan manusia, kemampuan penalaran matematis, dan pengetahuan di banyak bidang profesional. "Kami pikir ini dapat dianggap sebagai versi awal (walaupun masih belum lengkap) dari sistem kecerdasan umum buatan (AGI)." terlalu banyak. Seperti kalibrasi kepercayaan, memori jangka panjang, pembelajaran berkelanjutan, personalisasi, perencanaan dan lompatan konsep, transparansi, kekeliruan kognitif dan irasionalitas, dll. **
**Arah penelitian terpenting dalam enam bulan terakhir adalah untuk menguraikan dan memahami "kemunculan" kecerdasan yang misterius dan menarik dalam model besar. ** Model besar tidak hanya perlu melampaui kemampuan untuk memprediksi kata berikutnya, tetapi juga membutuhkan mekanisme "berpikir lambat" yang lebih kaya dan lebih kompleks untuk mengawasi mekanisme "berpikir cepat" untuk memprediksi kata berikutnya.
**Penelitian mutakhir terbaik harus mempelajari dan memecahkan masalah yang dihadapi dalam penerapan teknologi skala besar. **Penelitian tentang cara mengurangi halusinasi, menyesuaikan model besar untuk menghasilkan konten nyata dengan lebih akurat, dan melatih kemampuan penalaran yang lebih kuat; cara melatih model lebih intensif, menurunkan ambang batas, meluncurkan produk baru, dan membiarkan lebih banyak orang dari semua lapisan masyarakat kehidupan dan konsumen Bagaimana berinteraksi dengan dunia fisik nyata seperti manusia; bagaimana menjadi asisten manusia dalam pekerjaan yang kompleks, merancang dan membantu melakukan eksperimen ilmiah; bagaimana mempengaruhi pekerjaan dan membuat respons kebijakan; bagaimana membuat kecerdasan buatan aman dan dapat dipercaya.
Regulasi| Keamanan| Kebijakan| Bakat
Tanggapan peraturan pemerintah terhadap kecerdasan buatan generatif cukup tepat waktu, dan karakteristik yang berbeda telah muncul di berbagai negara. **Sementara dengan cepat memperkenalkan langkah-langkah pengaturan untuk kecerdasan buatan generatif dan mencari pendapat, China juga mendorong pengembangan kecerdasan buatan umum.Beijing, Shanghai, dan Shenzhen adalah eselon pertama yang paling ambisius, dan mereka semua mengusulkan penelitian kecerdasan buatan yang lebih ambisius, inovasi dan tujuan industri. ** UE terus memimpin dalam regulasi dan undang-undang, karena UE memelopori GDPR 5 tahun lalu. Amerika Serikat lebih memperhatikan posisi terdepan teknologi kecerdasan buatan, dan sedang membentuk kerangka peraturan berdasarkan prinsip manajemen risiko.
** Dalam jangka panjang, bakat akan lebih berdampak pada masa depan kecerdasan buatan daripada daya komputasi. **Jumlah makalah yang diterbitkan oleh peneliti Tiongkok telah melampaui Amerika Serikat, tetapi Amerika Serikat masih memiliki keunggulan yang jelas di puncak piramida, baik itu penelitian maupun kewirausahaan. Secara global, fokus penelitian dan inovasi kecerdasan buatan bergeser dari universitas ke perusahaan.Tiga institusi teratas di Amerika Serikat dengan sarjana terbanyak adalah Google, Microsoft dan Meta, yang bersama-sama merekrut 30% sarjana top di Amerika Serikat . China masih didominasi oleh universitas, dan hanya Alibaba yang masuk dalam 10 besar.
Kementerian Sains dan Teknologi telah mengusulkan agar perusahaan kecerdasan buatan harus menerima tinjauan etika ilmiah dan teknologi; subjek tinjauan harus membentuk komite etika (peninjauan) ilmiah dan teknologi. Perusahaan kecerdasan buatan Amerika mulai membentuk departemen kecerdasan buatan yang bertanggung jawab dan kredibel sebelumnya.Dari tahun lalu hingga tahun ini, beberapa penyesuaian telah dilakukan, yang mencerminkan bahwa ketika kecerdasan buatan generatif sedang mengalami perubahan, perusahaan berusaha menggunakan teknologi dan solusi yang lebih baik. Terapkan teknologi baru dengan aman dan bertanggung jawab.
Sepuluh Prospek
Model Bahasa Besar
Pada tahun 2024, China akan memiliki model tujuan umum multibahasa yang sebanding dengan GPT-4;
Long Context akan memimpin terobosan berikutnya dalam teknologi LLM;
Sebelum model bahasa besar yang lebih menjanjikan muncul, untuk mencapai hasil yang lebih baik di bidang vertikal, tiga metode berikut akan berjalan berdampingan:
i) Tanpa mengubah distribusi data, gunakan data yang lebih umum untuk pra-pelatihan model skala besar umum, dan jangan secara khusus memperkenalkan data industri,
ii) Gunakan data khusus industri untuk menyempurnakan (Fine-Tuning) model besar umum,
iii) Gunakan kumpulan data dengan proporsi data industri yang lebih tinggi untuk pra-pelatihan model vertikal.
Model Multimoda
4 Model diagram Vinsen CLIP + Difusi saat ini adalah keadaan transisi, dan struktur model terintegrasi akan muncul dalam 2 tahun ke depan;
Model Text-to-Image generasi berikutnya akan memiliki kemampuan kontrol yang lebih kuat.Ini akan menggabungkan kemampuan model yang mendasari dan metode kontrol front-end, dan desain model akan fokus pada kombinasi dengan metode kontrol;
Sebelum tahun 2025, mode video dan 3D akan mengantarkan model tonggak, sangat meningkatkan efek pembangkitan;
Kecerdasan yang terkandung (Embodied AI) yang diwakili oleh PALM-E telah menunjukkan potensi besar dalam arah persepsi, pemahaman, dan pengambilan keputusan robot, tetapi ada tantangan besar dalam pelatihan dan keandalan saat ini;
Dalam jangka pendek, Transformer menjadi struktur jaringan utama dari berbagai modalitas, tetapi metode umum untuk mengompresi seluruh dunia digital belum muncul, Transformer bukanlah akhir dari teknologi kecerdasan buatan.
Peluang bisnis
Dalam 3 tahun, kekuatan pendorong inti dari aplikasi AI subversif akan berasal dari inovasi model yang mendasarinya, keduanya tidak dapat dipisahkan, dan peran model akan lebih besar daripada peran desain produk;
Pasar AI generatif saat ini sedang dalam tahap awal dominasi teknologi, dan ada peluang bagi perusahaan platform dengan nilai pasar ratusan miliar dolar.
Baca teks aslinya