Tencent Cloud Wu Yunsheng: Model umum dan model industri tidak berlawanan

Sumber gambar: Dihasilkan oleh AI Tak Terbatas

"Kami lebih suka menyelesaikan 100% masalah pelanggan daripada memecahkan 70%-80% dari 100 masalah pelanggan."

Pada 7 Juli, di Forum Tencent World Artificial Intelligence Conference (WAIC) 2023, ketika ditanya mengapa model berskala besar yang berorientasi industri diluncurkan pertama kali, Wu Yunsheng, wakil presiden Tencent Cloud dan kepala Tencent Cloud Intelligence, menjawab seperti ini .

Model skala besar adalah topik terpanas di dunia AI tahun ini. Dibandingkan dengan Baidu, Ali, dan raksasa lain yang pertama kali meluncurkan model skala besar serba guna yang mendasarinya, Tencent memusatkan perhatiannya langsung pada industri-sebelum WAIC diadakan, pada 19 Juni, Tencent Cloud secara resmi mengumumkan MaaS (Model as a Service ) panorama, yang telah 10 industri besar telah mengekspor lebih dari 50 solusi, mencakup berbagai skenario seperti wisata budaya, keuangan, media, pendidikan, dan urusan pemerintahan.

Tentu saja, penerapan dan pendaratan skenario menjadi tema di seluruh WAIC Tencent Forum.

"Model besar untuk keperluan umum bukan satu-satunya arah untuk aplikasi model. Model untuk industri vertikal akan menjadi titik kritis dari nilai model besar. "Li Qiang, wakil presiden Tencent dan presiden bisnis pemerintah dan perusahaan Tencent, memprediksi pada forum.

Wu Yunsheng mengambil layanan pelanggan pintar OTA (Online Travel Agency) sebagai contoh, dan menjelaskan bahwa pengguna sering kali memiliki banyak niat yang tercampur dalam proses komunikasi yang sebenarnya. Dalam proses komunikasi, niat juga dapat beralih sewaktu-waktu.

"(Pengguna) baru saja meminta untuk memesan hotel pada tanggal 10, dan mesin hendak menjawab, dan tiba-tiba berkata, biarkan saya melihat hotel pada tanggal 11." Menghadapi proses yang sangat rumit dalam adegan layanan pelanggan, sang jenderal model besar tidak bisa sempurna Untuk menyelesaikan tugas, perlu merekonstruksi beberapa model kompleks yang dikombinasikan dengan skenario tertentu.

Namun, model skala besar tujuan umum saat ini masih dalam tahap awal penelitian dan pengembangan, dan akan menghadapi masalah biaya tinggi dalam aplikasi industri.Wu Yunsheng mengatakan bahwa dalam beberapa skenario tertentu, karena model tujuan umum besar -model skala tidak dapat 100% memenuhi kebutuhan, maka "menilai tingkat biaya solusi, tidak ada yang terlalu masuk akal." Meskipun solusi untuk berbagai industri dan skenario akan sangat bervariasi, tidak ada masalah dalam meningkatkan efisiensi perusahaan lebih dari 30% secara umum.

Wu Yunsheng, wakil presiden Tencent Cloud dan kepala Tencent Cloud Intelligence. Sumber: Tencent

Di forum tersebut, Tencent Cloud juga memperkenalkan pemutakhiran penting baru-baru ini di sekitar model besar. Dua basis teknis utamanya - Xingmai Network dan Vector Database semuanya telah mengalami peningkatan kapasitas. Jaringan komputasi kinerja tinggi Xingmai yang ditingkatkan dapat meningkatkan pemanfaatan GPU hingga 40%, menghemat biaya pelatihan model hingga 30%-60%, dan meningkatkan kinerja komunikasi model besar AI hampir 10 kali lipat.

Dan tepat pada tanggal 4 Juli, Tencent Cloud secara resmi merilis database vektor asli AI Dibandingkan dengan metode tradisional, ini digunakan untuk klasifikasi, deduplikasi, dan pembersihan data pra-pelatihan model besar, dan database dapat mencapai 10 kali lipat peningkatan efisiensi. Menggunakannya sebagai basis pengetahuan eksternal untuk inferensi model dapat mengurangi biaya sebesar 2-4 kali lipat.

Pada WAIC tahun ini, sebuah fenomena menarik juga muncul: lebih dari 30 model skala besar tujuan umum dan industri diluncurkan pada pertemuan tersebut, dan mereka semua mengatakan akan membuat model skala besar. Isu homogenisasi langsung menjadi fokus pembahasan: Apakah kewirausahaan di bidang AI masih bermakna? Setiap pabrik besar memiliki model besarnya sendiri, jika semua orang memilikinya, apakah model besar tersebut akan tetap menjadi Game Changer?

Wu Yunsheng percaya bahwa pada tahap awal pengembangan model besar, tidak perlu terburu-buru membuat penilaian atas masalah ini. "Saya ingin melihat bahwa ketika industri berkembang pesat, melalui kombinasi teknologi dan industri, mengeksplorasi berbagai kemungkinan dan meningkatkan efisiensi industri dan industri," kata Wu Yunsheng.

Penilaian ini juga datang dari optimismenya tentang potensi komersial model besar AI. Dalam gelombang terakhir AI dengan terobosan satu titik, banyak perusahaan AI jatuh ke dalam dilema pengiriman dan implementasi proyek dan privatisasi, dan tidak dapat mencapai profitabilitas.

"Di era model besar, situasinya mungkin berbeda dari sebelumnya." Wu Yunsheng percaya bahwa dengan perkembangan teknologi, termasuk pengembangan daya komputasi yang mendasari dan chip GPU, parameter model yang berharga ratusan miliar di masa lalu semakin kecil dan semakin kecil; Tencent Ada juga banyak kemajuan dalam penguatan pelatihan dan penguatan penalaran, dan biayanya turun dengan cepat. Di sisi lain, kemungkinan penerapan model besar terus berkembang, dan nilainya terus meningkat.

Saat ini, Tencent memperluas teknologi dan ekologi aplikasinya di sekitar model besar AI, dan juga memperkuat keterkaitannya dengan industri. Pada 6 Juli, Organisasi Pengembangan Industri Perserikatan Bangsa-Bangsa dan Huawei serta mitra lainnya bersama-sama mengumumkan pembentukan "Aliansi Kecerdasan Buatan Industri dan Manufaktur Global" di WAIC.

Wu Yunsheng juga menekankan bahwa peningkatan basis teknis adalah "melatih kekuatan internal": "Tidak peduli apakah itu model skala besar tujuan umum atau model skala besar industri, itu harus memiliki kemampuan dukungan yang mendasarinya , termasuk daya komputasi yang besar, data, dll.."

"Di era model skala besar, keterbukaan sangat penting, dan semua orang harus terbuka. Teknologi yang mendasarinya berubah terlalu cepat, dan kemampuan perluasannya sangat luas. Jika digabungkan dengan industri tertentu, akan ada banyak penelitian dan biaya pengembangan." Wu Yunsheng berkata bahwa hanya dengan membuka lebih banyak industri, hanya dengan bergabungnya para pakar dan berbagai personel, kita dapat mengembangkan ekosistem yang lebih sehat dan menciptakan lebih banyak kemungkinan.

Berikut rekaman wawancara media dan Wu Yunsheng, diedit oleh 36 Krypton:

**Media:**Tencent Cloud meluncurkan model skala besar yang berorientasi industri pada awalnya, bukan model skala besar untuk tujuan umum. Apakah ini pertimbangan pendapatan?

Wu Yunsheng: Ini tidak ada hubungannya dengan biaya dan investasi. Kami selalu menekankan bahwa kami ingin menyelesaikan masalah pelanggan, kami lebih suka menyelesaikan masalah satu pelanggan 100% daripada menyelesaikan 100 masalah pelanggan sebesar 70%-80%. Kita dapat mengurangi masalahnya, tetapi kita harus menyelesaikan masalah ini.

Media: Sepertinya model umum dan model industri bertentangan, bagaimana Anda melihat hubungan keduanya di masa depan?

Wu Yunsheng: Pertama-tama, saya ingin memperjelas bahwa saya pribadi tidak menentang keduanya. Maket dasar adalah sesuatu seperti tumpuan yang memenuhi kebutuhan tanpa penyesuaian khusus. Model industri harus didasarkan pada model umum untuk secara efektif meningkatkan produktivitas dan melayani publik. Hanya dengan mendalami industri ini kita dapat memecahkan masalah yang sangat penting.

Fungsi peta Vincent juga akan memiliki poin industri yang sangat rinci dan spesifik - misalnya, membuat peta iklan untuk sebuah paket, dan beberapa pelanggan akan memiliki kebutuhan khusus, seperti beberapa sertifikasi khusus. Ketika dihadapkan dengan masalah praktis, diperlukan pendekatan yang berbeda.

**Media:**Area apa yang akan menjadi fokus Tencent tahun ini, dan apa tujuan pengembangannya? Apa saja peningkatan dan iterasi terbaru?

**Wu Yunsheng:**Strategi besar kami adalah fokus pada penerapan masalah praktis, berharap dapat menyelesaikan 100% masalah pelanggan dalam setiap skenario tertentu, alih-alih menemukan 100 produk untuk menyelesaikan 70%-80% masalah. Oleh karena itu, kami akan fokus pada industri tertentu dan bekerja dengan pelanggan untuk menyelesaikan masalah industri.

Misalnya, dalam industri perjalanan budaya, pelanggan di bidang OTA (Online Travel Agency) akan menggabungkan skenario bisnis mereka sendiri, menggunakan teknologi model berskala besar dalam proses bisnis, dan menggunakan sumber daya terkait data untuk menyempurnakan skala besar. model. Dalam hal pengembangan teknologi, model dan jaringan daya komputasi kami telah diulang dan ditingkatkan, dan kami akan terus mengulangi teknologi terkait.

**Media: **Sejak rilis terakhir model industri, apakah ada perubahan signifikan dalam jumlah perusahaan yang mengakses model tersebut?

Wu Yunsheng: Kami memiliki banyak kontak dengan perusahaan, dan kami akan mempelajari dengan jujur skenario aktual pelanggan dan cara memenuhi kebutuhan bisnis saat ini. "Akses" tidak ditentukan secara spesifik. Ada berbagai kebutuhan dalam proses eksplorasi. Mungkin Anda biasanya lebih sering melihat AIGC.

Saya mengatakan sesuatu yang sedikit berbeda. Kami memiliki klien perusahaan yang mengerjakan perangkat lunak tingkat perusahaan dan perlu membuat formulir cerdas. Misalnya, dalam rapat manajemen, formulir baru ditambahkan. Beberapa item di bawah formulir diperlukan, beberapa tidak diperlukan, dan beberapa drop-down hanya dapat memilih 4 atau 5 opsi. Setelah opsi selesai, perlu diubah menjadi proses, yang disetujui oleh A, B, dan C, dan persetujuan setiap orang berbeda.

Metode aslinya adalah merancang formulir dalam sistem dengan alat dan kode bahasanya sendiri, menyusun seluruh proses, dan kemudian memanggil organisasi internal untuk mewujudkan proses tersebut. Tetapi persyaratan saat ini adalah mengambil foto dan memasukkannya ke dalam sistem, dan menggambarkannya dengan kode sistem (bahasa skrip sendiri).Individu hanya membutuhkan komunikasi dan komunikasi bahasa alami yang sederhana, seperti mana yang diperlukan dan mana yang tidak diperlukan Langkah pertama Ke mana harus pergi, ke mana harus pergi pada langkah kedua, gunakan bahasa sistem Anda sendiri untuk merancang proses docking.

Contoh ini adalah persyaratan yang sangat spesifik yang tidak dapat sepenuhnya ditangani oleh model umum. Oleh karena itu, kami akan melakukan pertukaran mendalam dengan perusahaan untuk melihat tentang bidang apa tabel tersebut dan apa bahasa scriptingnya. Teknologi umum mungkin dapat menyelesaikan 60%-70% masalah secara langsung, tetapi jika pelanggan ingin menyelesaikan masalah 100%, diperlukan komunikasi yang lebih mendalam.

**Media: **Berapa biaya yang akan dihemat perusahaan dengan penerapan model industri skala besar? Dibandingkan dengan model skala besar tujuan umum, di bidang apa model skala besar industri akan memiliki keunggulan?

**Wu Yunsheng: **Biaya yang dihemat sebenarnya sangat bervariasi di perusahaan yang berbeda dan skenario yang berbeda. Misalnya, dalam skenario layanan pelanggan, ada perbedaan besar dalam ukuran layanan pelanggan itu sendiri di perusahaan dan berapa banyak anggaran yang dimilikinya. Dalam hal pengalaman sebenarnya, saya rasa tidak masalah untuk meningkatkan efisiensi lebih dari 30%.

Ketika model besar umum dihadapkan dengan industri tertentu, mungkin tidak dapat sepenuhnya menyelesaikan masalah yang dihadapi oleh industri tersebut. Misalnya, apa yang dibutuhkan layanan pelanggan bukanlah obrolan tanya-jawab yang sederhana, tetapi robot dan model besar yang dapat memahami niat manusia, mencari basis data, mengekstrak informasi yang diperlukan, dan kemudian menggabungkannya menjadi teks yang dapat dipahami manusia untuk balasan.

Yang paling penting adalah bahwa proses komunikasi pengguna yang sebenarnya sering bercampur dengan banyak niat, ada banyak persyaratan dalam satu deskripsi, dan niat dapat beralih kapan saja selama proses komunikasi, sangat sulit dan prosesnya sangat rumit, terutama saat berinteraksi dengan sistem pelanggan model yang kompleks. Proses ini tidak boleh diselesaikan dengan model umum yang besar, dan perlu digabungkan dengan skenario khusus.

**Media:**Rentang seperti apa yang dapat dikontrol Tencent pada biaya model skala besar perusahaan?

Wu Yunsheng: Kami menekankan bahwa melalui teknologi ini, perusahaan dapat mengurangi biaya, meningkatkan efisiensi, dan meningkatkan efisiensi produksi, tetapi kami tidak akan pernah mengatakan pada tingkat berapa untuk mengendalikan biaya. Produk kami baru dirilis kurang dari sebulan, dan kami memiliki beberapa kerja sama di tahap awal, tetapi kami tentu tidak dapat memberikan data secara keseluruhan.

**36 Krypton:**Dalam gelombang terakhir AI, aplikasi teknologi yang dipimpin oleh CV (pengenalan gambar) lebih merupakan aplikasi satu titik, seperti memanggil penagihan api, tetapi setelah itu, perusahaan mulai mengerjakan proyek dan Privatisasi membuatnya sulit memperoleh keuntungan. Apakah model besar AI akan mengalami hal yang sama di masa mendatang?

Wu Yunsheng: Saya masih optimis, dilihat dari titik waktu saat ini, akan ada tantangan yang relatif besar. Tetapi apakah Anda melihat ke depan setengah tahun atau memprediksi setengah tahun ke depan, perkembangan teknologi sangat cepat, termasuk daya komputasi dan chip GPU yang mendasarinya. Model besar dulunya adalah model dengan ratusan miliar parameter, tetapi dengan perkembangan teknologi, parameter model semakin kecil, dan kemampuannya masih dipertahankan pada level yang sangat kuat. Pada saat yang sama, kami telah membuat banyak kemajuan dalam penguatan pelatihan dan penguatan penalaran, dan biayanya turun dengan cepat.

Di sisi lain, dalam hal penerapan, kami melihat lebih banyak kemungkinan, dan tren penerapan serta nilai yang dapat dihasilkan terus meningkat.

**Media: **Apa pendapat Anda tentang keseimbangan antara pembangunan kapasitas yang mendasari dan penerapan skenario?

Wu Yunsheng: Kami tidak pernah ingin melihat model besar dari satu perspektif. Terlepas dari model skala besar tujuan umum atau model industri skala besar, kemampuan pendukung yang mendasari diperlukan, termasuk daya komputasi yang besar, data, dll., Yang merupakan dimensi kekuatan internal. Adegan adalah dimensi lain. Untuk memecahkan masalah praktis, gunakan 50% kekuatan internal, 30% kekuatan eksternal lainnya, dan tambahkan 20% lagi. Dalam ekologi model besar, kami melihat masalah dari perspektif yang berbeda. Tapi kalau bicara kekuatan internal saja sudah pasti tidak ada masalah.

**Media:**Banyak CEO telah menyebutkan bahwa model besar adalah pengubah permainan untuk industri komputasi. Sekarang semua pabrikan besar meluncurkan model skala besar, apakah penilaian ini tidak dapat dipertahankan? Apakah kita membutuhkan begitu banyak model besar untuk keperluan umum, atau apakah model tersebut sudah mubazir?

Wu Yunsheng: Lihat cara mendefinisikan pengubah permainan. Pada tahap ini, industri model berskala besar masih dalam tahap yang relatif awal, dan banyak kemungkinan telah lahir. Pada saat yang sama, kami melihat bahwa model besar membawa perubahan teknologi dan memiliki potensi besar.

Pandangan pribadi saya adalah tidak perlu terlalu bersemangat untuk membuat kesimpulan sekarang, saya ingin melihat bahwa pada tahap ketika seratus bunga bermekaran di industri, melalui kombinasi teknologi dan industri, berbagai kemungkinan dieksplorasi untuk meningkatkan efisiensi industri dan industri.

**Media: **Kombinasi model dan industri masih dalam tahap awal, masalah apa yang akan muncul pada tahap ini? Ada pandangan bahwa dibandingkan dengan model skala besar tujuan umum, biaya model industri skala besar mungkin tidak dioptimalkan, tetapi mungkin lebih tinggi.Bagaimana pendapat Anda tentang sudut pandang ini?

**Wu Yunsheng: **Teknologi model besar telah ada sejak lama dan berkembang pesat. Pemahaman industri tentang model besar masih pada tahap awal - saya tidak tahu apa yang dapat dilakukan model besar dan seberapa dalam dapat digabungkan dengan industri. Memang ada perubahan hubungan antara model industri dan model dasar, serta masalah biaya.

Memang ada pandangan bahwa jika model besar menyelesaikan semua masalah, biayanya akan lebih rendah, dan ada juga pandangan bahwa untuk industri tertentu, model besar tidak diperlukan, dan model kecil dapat digunakan.

Persoalan ini tidak bisa dinilai dari satu dimensi saja, tetapi harus dilihat secara objektif dan utuh. Saya telah menekankan bahwa model umum yang besar dapat memecahkan masalah umum yang tidak terintegrasi erat dengan industri. Tetapi jika Anda ingin masuk lebih dalam, Anda harus melangkah lebih jauh di tempat kejadian. Banyak masalah yang tampaknya sama, tetapi jika Anda masuk lebih dalam, Anda mungkin tidak menyelesaikan masalah yang sama. Dalam hal ini, tidak masuk akal untuk menilai biaya solusi.

**Media:**Dari perspektif industri, bagaimana cara menilai peningkatan pasar dan skenario tambahan yang ditimbulkan oleh perubahan teknologi berskala besar ke seluruh pasar komputasi awan?

Wu Yunsheng: Dapat dilihat bahwa setelah munculnya era model skala besar, permintaan daya komputasi telah meningkat pesat, terutama untuk daya komputasi terkait AI. Namun, dalam hal kuantifikasi spesifik cloud computing, sulit untuk memberikan angka, dan masih dalam proses pengembangan berkelanjutan.

Dalam hal adegan, semua lapisan masyarakat kini menggabungkan model besar, dan adegannya sangat kaya, termasuk adegan umum dan adegan industri. Skenario umum termasuk peningkatan konferensi pintar. Layanan pelanggan Qidian Tencent dan analisis Qidian yang dirilis pada 619 juga melakukan pekerjaan cerdas. Kami juga melakukan beberapa asisten kode di cloud. Dalam hal aplikasi universal dan peningkatan efisiensi, ada juga banyak aplikasi. Selain itu, setiap industri memiliki aplikasi di berbagai industri yang juga akan mendatangkan banyak permintaan.

Media: Selain lokasi pendaratan model skala besar, apakah Tencent akan menyediakan layanan untuk perusahaan model skala besar lainnya? Mesin gunung berapi mengatakan bahwa 70% pengguna model skala besar ada di gunung berapi, apa data Tencent?

**Wu Yunsheng:**Kami menyediakan serangkaian dukungan atau kemampuan cloud untuk perusahaan unicorn atau solusi model berskala besar lainnya. Kami telah merilis HCC komputer berkinerja tinggi, basis data vektor, dan kemampuan akselerasi yang lebih baik, yang dapat diberikan kepada produsen.

Selain kemampuan dasar, kami juga memiliki solusi fine-tuning terintegrasi berdasarkan model besar platform TI, serta serangkaian alat, proses, dan dukungan layanan.

**Media:**Banyak penyedia layanan SaaS telah terakumulasi selama bertahun-tahun. Apakah MaaS (Model sebagai Layanan) kami untuk mereka, atau untuk pelanggan industri teratas?

Wu Yunsheng: Ini adalah pelanggan kami.

**Media: Menggabungkan ** dengan industri adalah pendekatan Tencent saat ini. Huawei menjalin aliansi kemarin, apakah itu berarti persaingan lebih mudah untuk membentuk kontes antar raksasa?

Wu Yunsheng: Saya tidak melihat masalah ini seperti itu. Menurut saya keterbukaan sangat penting di era model besar, dan semua orang harus terbuka. Teknologi yang mendasarinya berubah terlalu cepat, dan kemampuan perluasan teknologinya sangat luas, dan akan menghabiskan banyak uang untuk mengintegrasikannya ke dalam industri tertentu. Dalam hal ini, hanya keterbukaan yang dapat menghasilkan nilai terbesar Hanya dengan membuka dan memungkinkan lebih banyak pakar industri dan personel dalam berbagai peran untuk bergabung, seluruh ekosistem dapat menjadi lebih sehat dan menciptakan lebih banyak kemungkinan.

Media: Apakah pembukaan untuk setiap perusahaan sama?

Wu Yunsheng: Keterbukaan yang saya sebutkan mengacu pada pembangunan kapasitas dan keterbukaan ekologis. Misalnya, membangun model keuangan yang besar tidak memerlukan satu orang untuk meringkas semua model keuangan yang besar. Orang yang berbeda memiliki pengalaman mendalam di bidang yang berbeda, dan membangun bersama adalah semacam keterbukaan. Membuka langsung ke pelanggan industri juga merupakan semacam pembukaan.

Selain itu, berdasarkan kemampuan yang disediakan oleh model besar, mitra meningkatkan aplikasi alat efisiensi atau solusi industri, dan menggabungkan berbagai bentuk aplikasi. Dalam hal memperkuat kekuatan internal model besar, para mitra berkembang, dan setiap orang menghadirkan aplikasi yang berbeda, yang juga merupakan semacam keterbukaan.