Dialog dengan Ji Xinhua, CEO Youkede: Model besar yang kompetitif tidak hanya berbaring dan menang jika mereka memiliki kartu

Pengarang| He Sisi

Sunting | Zhang Jin

Sumber gambar: Dihasilkan oleh AI Tak Terbatas

"Sampai batas tertentu, pelarangan daya komputasi di Amerika Serikat akan membatasi pengembangan model skala besar domestik, karena tidak ada cara untuk melatih model tanpa daya komputasi inti." Mengenai pentingnya daya komputasi untuk model besar, Ji Xinhua, Ketua dan CEO UKED Katakan demikian.

Sejak model besar menjadi populer di China pada bulan Februari tahun ini, daya komputasi langsung menjadi topik yang paling diperhatikan di industri, dan juga menjadi rintangan yang sulit diatasi dalam pelatihan model besar domestik. Faktanya, dari perspektif lain, ledakan pertumbuhan daya komputasi juga membawa peluang pengembangan yang belum pernah terjadi sebelumnya kepada vendor komputasi awan domestik.

Dalam hal ini, Ji Xinhua juga setuju. Dia mengatakan bahwa penonaktifan daya komputasi adalah hal yang buruk dan hal yang baik Di satu sisi, jika Anda ingin menyelesaikan masalah kemacetan dalam satu atau dua tahun, Anda perlu mempercepat penelitian dan pengembangan chip dalam negeri, yang bukanlah tugas yang mudah; di sisi lain, perusahaan semakin memperhatikan daya komputasi, ini malah akan mendorong pengembangan chip dalam negeri.

Sebagai produsen komputasi awan yang netral, Youkede telah lama merasa bahwa di balik persaingan model besar, pasar daya komputasi akan membawa perubahan besar.

"Saya berhubungan dengan Difusi Stabil untuk pertama kalinya pada November tahun lalu. Saat itu, saya pikir efeknya luar biasa, jadi saya mulai memperhatikan model besar," Ji Xinhua menjelaskan kepada Leifeng.com mengapa dia membayar memperhatikan model besar Pada saat yang sama, ia juga mengungkapkan bahwa karena Pada saat itu, perusahaan China belum mulai memperhatikan model skala besar, dan mereka tidak tahu berapa banyak nilai yang dapat diciptakannya, jadi mereka tidak memutuskan untuk melakukan bisnis terkait model skala besar pada saat itu.

Penerapan nyata model skala besar dan layanan perusahaan model skala besar oleh Inggris akan dimulai pada bulan Februari tahun ini, yang juga merupakan titik waktu bagi model skala besar untuk keluar dari lingkaran di China.

Leifeng.com mengetahui bahwa UKED pertama kali mengembangkan empat produk AI untuk penggunaan internal berdasarkan model skala besar, platform tanya jawab pengetahuan "Shiwen", platform asisten kode UCoder, platform asisten lukisan AI, dan platform manajemen keamanan model berskala besar Untuk pusat data yang dibangun sendiri dengan biaya rendah dan bernilai tambah tinggi, UKED telah menciptakan basis daya komputasi AIGC, yang secara fleksibel menyediakan berbagai sumber daya daya komputasi GPU untuk pelatihan model besar, penalaran , dan pengolahan data.

Segera setelah itu, UKED meluncurkan mesin all-in-one model skala besar yang diprivatisasi, yang terintegrasi dengan platform cloud pribadi full-stack UCloudStack yang dikembangkan secara independen oleh UKED, menyediakan solusi privatisasi untuk model virtualisasi, penyimpanan, jaringan, dan MaaS, digabungkan dengan model skala besar vertikal industri Perusahaan dapat menggunakan aplikasi model besar dengan satu klik.

Mengenai posisi UKED di era model besar, Ji Xinhua sekali lagi menekankan prinsip "netralitas". Dia menjelaskan bahwa netralitas berarti Inggris tidak hanya tidak memiliki persaingan dengan pelanggan, tetapi juga membantu perusahaan model besar menemukan pelanggan. Dalam hal ini, Ji Xinhua juga secara terbuka menggoda bahwa di era model besar, yang harus dilakukan Youke adalah "mak comblang".

Dari jawaban Ji Xinhua, secara tidak langsung kita juga bisa mendapatkan alasan R&D internal UKED dan penerapan produk model skala besar. Salah satunya agar karyawan perusahaan memahami model skala besar dan belajar menggunakan model skala besar. Atas dasar ini, mereka dapat sangat memahami model skala besar.Apa poin rasa sakitnya, dan dalam skenario apa hal itu dapat diterapkan, untuk melayani pelanggan dengan lebih baik.

Mengenai masa depan model besar, Ji Xinhua mengatakan bahwa ada terlalu banyak ketidakpastian di masa depan, tetapi bagaimanapun juga, industri Internet atau industri kecerdasan buatan membutuhkan daya komputasi. Kemampuan interkoneksi terbatas, jadi pekerjaan UKEDE di masa depan fokusnya adalah membangun basis daya komputasi berskala besar.

Berikut adalah percakapan antara Leifeng.com dan Ji Xinhua:

Model besar yang kompetitif tidak hanya berbaring dan menang jika memiliki kartu. Kemampuan teknik sangat penting untuk pelatihan model.

**Leifeng.com:**Banyak orang mengatakan bahwa hanya beberapa vendor cloud yang akhirnya dapat berpartisipasi dalam kompetisi model skala besar. Tidak semuanya memiliki jaringan berkecepatan tinggi. Menurut Anda, apa hambatan persaingan?

Ji Xinhua: Benar, teknologi seperti jaringan berkecepatan tinggi bukanlah ambang batas utama untuk bersaing dengan model besar. Termasuk Youkede dan sebagian besar vendor cloud mampu melakukannya. Sekarang jaringan memiliki dua struktur: yang pertama adalah jaringan RoCE, yang UKED sudah memiliki kemampuan ini pada tahun 2019.

Yang kedua adalah solusi jaringan IB yang direkomendasikan oleh Nvidia.Solusi ini relatif sederhana dan hanya perlu di-deploy dan dipelihara. Oleh karena itu, bagi vendor cloud atau khususnya perusahaan besar, teknologi bukanlah ambang batas utama.

**Leifeng.com:**Sebenarnya, katanya banyak perusahaan skala besar sudah mulai menimbun kartu?

Ji Xinhua: Ya, terutama beberapa produsen besar menimbun kartu, termasuk A800, H800, dan seterusnya. Di satu sisi, bisnis AI-nya sendiri perlu menggunakan kartu, dan dengan lebih banyak investasi modal, ia akan membeli sejumlah besar kartu sebelumnya; di sisi lain, perhatian skala besar domestik terhadap model besar dimulai pada Februari tahun ini, dan berbagai produsen Karena pentingnya, itu juga akan mempercepat kecepatan penimbunan kartu.

Leifeng.com: Apakah itu berarti semakin banyak kartu yang Anda miliki, semakin banyak Anda akan menang? Bagaimana vendor cloud lainnya bersaing dengan pemain besar?

Ji Xinhua: Saya tidak berbohong dan menang. Banyak perusahaan model AI skala besar sekarang menggunakan kartu kami. Fenomena ini sangat umum.

Ada beberapa alasan: pertama, tidak cukup hanya menggunakan satu kartu, dan kedua, mengapa perusahaan model besar mau bekerja sama dengan Youkede? Itu karena mereka merasa bahwa pabrik-pabrik besar memiliki daya komputasi, algoritme, data, dan skenario, dan mereka khawatir akan persaingan bisnis pada akhirnya ketika mereka bekerja sama dengan pabrik-pabrik besar. Sebagai vendor cloud yang netral dan aman, Ukerd tidak memiliki persaingan dengan perusahaan berskala besar. Pada saat yang sama, UKDE mampu mengembangkan platform daya komputasi, pustaka model, dll. dari pusat data dan arsitektur yang mendasarinya, dengan akumulasi teknis yang mendalam dan kemampuan layanan rekayasa sistem satu atap.

Lakukan pekerjaan dengan baik dalam layanan daya komputasi, dan lakukan pekerjaan dengan baik dalam peran "mak comblang" model besar

**Leifeng.com: **Kapan Youkede mulai memperhatikan model besar?

** Ji Xinhua: ** Kontak paling awal adalah selama Hari Nasional tahun lalu. Hal pertama yang saya lihat adalah Difusi Stabil. Saat itu, saya pikir efeknya luar biasa, jadi saya mulai memperhatikan model besar, jadi kami menindaklanjuti ChatGPT sebelumnya.

Leifeng.com: Jadi Anda memutuskan untuk melakukan ini selama Hari Nasional tahun lalu?

Ji Xinhua: Setelah Hari Nasional tahun lalu, UKED menetapkan AIGC sebagai tujuan tahun ini, dan merilis gambar platform lukisan AI pada November tahun lalu. Pada bulan Februari tahun ini, setelah berkomunikasi dengan perusahaan model skala besar terkemuka di China, saya menyadari bahwa pasar daya komputasi domestik akan mengalami perkembangan yang eksplosif, jadi saya memutuskan untuk melakukan ini pada akhir Maret.

Leifeng.com: Berapa banyak pelanggan potensial yang ada di perusahaan model berskala besar ini?

Ji Xinhua: Kami menyimpulkan bahwa ada 130 perusahaan model berskala besar di China, 78 perusahaan serba guna, dan 52 perusahaan vertikal. Dan masih terus bertambah, lebih dari 30 di antaranya sudah menjadi pelanggan kami.

Leifeng.com: Dalam bentuk apa layanan akan diekspor?

Ji Xinhua: Salah satunya adalah daya komputasi kami, dan yang lainnya adalah layanan ruang komputer, karena beberapa perusahaan membeli peralatan mereka sendiri dan meletakkannya di ruang komputer kami.

Leifeng.com: Bagaimana Anda memahami layanan ruang komputer? Apakah karena pelanggan itu sendiri tidak memiliki kemampuan operasional?

Ji Xinhua: Perusahaan itu sendiri membutuhkan ruang komputer di mana pun berada. Ruang komputer yang dibutuhkan oleh model besar memiliki dua karakteristik: satu menghabiskan banyak daya, dan yang lainnya adalah konsumsi daya dari mesin H100 melebihi 10kW Ruang komputer tidak dapat memenuhi permintaan ini, dan pusat data Ulanqab di Youkede sangat cocok. Selain itu, banyak perusahaan sekarang memiliki masalah memiliki server tetapi tidak dapat menggunakannya, Ukerde dapat membantu mereka membangun platform daya komputasi dan melakukan pekerjaan pemeliharaan selanjutnya.

Leifeng.com: Selain memberikan daya komputasi, Youkede juga merilis "Shiwen" beberapa waktu lalu?

Ji Xinhua: UKED telah membangun empat platform internal: platform pertanyaan dan jawaban pengetahuan "Shiwen", platform asisten kode UCoder, platform asisten lukisan AI, dan platform manajemen keamanan model besar. Faktanya, sebelum "Pengenalan Pertanyaan", hal pertama yang kami lakukan adalah sistem manajemen aplikasi model skala besar. Ini adalah produk pertama kami, dan kami berharap semua orang dapat menggunakan model skala besar di masa mendatang;

Kedua, untuk mengatasi masalah keamanan komersial, kami telah membuat beberapa batasan, termasuk pertanyaan Anda dan file yang diunggah, kami akan merekam dan memfilternya untuk mencegah informasi rahasia perusahaan bocor di Internet;

Ketiga, untuk masalah pengguna, termasuk masalah internal karyawan dan komunikasi dan umpan balik eksternal, sistem akan merekam secara otomatis, sehingga perusahaan dapat terus melakukan pelatihan modelnya sendiri di tahap selanjutnya.

Leifeng.com: Mengapa Anda membuat empat produk ini? Bisakah itu keluar?

Ji Xinhua: Pertama, agar karyawan perusahaan dapat memahami dan menggunakan model skala besar. Atas dasar ini, mereka dapat memahami secara mendalam apa kelemahan dari perusahaan model skala besar, dan dalam skenario apa mereka akan diimplementasikan, sehingga dapat melayani pelanggan dengan lebih baik.

Keempat produk tersebut saat ini digunakan secara internal oleh perusahaan, namun jika pelanggan membutuhkannya, kami juga dapat lebih banyak berkomunikasi.

Leifeng.com: Berdasarkan model apa platform ini?

**Ji Xinhua: **Latih dengan GPT 4 terlebih dahulu, lakukan verifikasi model, lalu secara bertahap gunakan model besar domestik atau model besar open source untuk mengoptimalkan. Dalam hal ini, saya juga menyebutkan konsep yang disebut "mengasah senjata di luar negeri dan berperang di dalam negeri".

Leifeng.com: Skenario apa lagi yang Anda optimis di masa depan?

Ji Xinhua: Jika dibedakan menurut toleransi untuk ketidakakuratan konten keluaran ChatGPT, kami telah membagi 10 skenario.

Yang pertama adalah terjemahan dan sulih suara. Kemampuan di bidang ini sudah sangat tinggi dan sepenuhnya dapat menggantikan manusia; yang kedua adalah NPC game; yang ketiga adalah interaksi sosial; yang keempat adalah keluaran konten dari e-commerce; yang kelima adalah desain game; keenam layanan pelanggan; ketujuh bantuan dokumen dan pemrograman; kedelapan manajemen pengetahuan dalam perusahaan; kesembilan skenario pendidikan dan asuransi; dan terakhir pendampingan pengacara dan dokter.

Leifeng.com: Apakah 10 adegan ini akan dilakukan pada waktu yang sama? Atau langkah demi langkah?

Ji Xinhua: Ucar tidak membuat model besar, kami hanya menghubungkan pelanggan dan mitra, yang dapat dipahami sebagai peran "mak comblang". Misalnya, menghubungkan pelanggan game ke MiniMax, dan menghubungkan pelanggan di industri e-commerce dan pendidikan ke Zhipu Huazhang.

Sulit bagi model skala besar domestik untuk mengejar GPT4, dan ada lebih banyak peluang bagi perusahaan pemula

Leifeng.com: Menurut Anda, berapa banyak jenis perusahaan model domestik besar yang dapat dibagi? Siapa pelanggan utama Youkede?

Ji Xinhua: Kami dibagi menjadi lima kategori. Kategori pertama adalah raksasa, termasuk Ali, Baidu, Toutiao, Huawei, JD.com, dll. Kategori kedua dimulai oleh para ilmuwan, seperti Zhipu Huazhang; kategori ketiga adalah perusahaan AI asli, AI Four Tigers, Daguan, Yunzhisheng, 4Paradigm, dll.; kategori keempat adalah perusahaan startup, seperti MiniMax; Kategori kelima adalah bahwa perusahaan terdaftar asli beralih ke model berskala besar, seperti Kunlun, 360, dan juga menyertakan pemimpin wirausaha seperti Wang Xiaochuan dan Li Kaifu.

Jenis produsen besar pertama bukanlah target pelanggan Youkede, dan jenis terakhir adalah pelanggan utama kami.

Leifeng.com: Artinya, pabrik besar memiliki kemampuan untuk membangun dirinya sendiri, tetapi perusahaan lain tidak memiliki kemampuan untuk membangun dirinya sendiri?

Ji Xinhua: Karena melibatkan bidang kecerdasan buatan, bukan hanya masalah jaringan, tetapi juga serangkaian masalah seperti penyimpanan dan ruang komputer. Misalnya, perusahaan start-up juga dapat membangun komputasi sendiri tenaga, tapi siklusnya akan sangat lama Tunggu dia membangunnya sendiri Setelah itu kompetisi selesai. Persaingan model besar adalah tentang kecepatan, dan siapa pun yang memiliki kecepatan tercepat dapat menempati posisi teratas.

Leifeng.com: Untuk pabrik besar, ada berapa tahapan dan node untuk model besar?

Ji Xinhua: Yang pertama adalah peluncuran model besar, dan yang kedua adalah verifikasi efek setelah peluncuran. Saat ini diketahui telah diluncurkan perusahaan seperti MiniMax, Zhipu, Baidu, Ali, HKUST Xunfei, dll.

**Leifeng.com:**Mana yang lebih baik, apakah ini terutama bergantung pada seberapa banyak daya komputasi yang digunakannya?

Ji Xinhua: Saya kira tidak. Lebih banyak daya komputasi untuk pelatihan mungkin belum tentu menghasilkan model yang baik, tetapi jika tautan inferensi digunakan lebih banyak, itu berarti ada banyak pengguna, dan lebih banyak umpan balik akan diperoleh Hal ini kondusif untuk melatih model yang baik.

Leifeng.com: Terlepas dari pelatihan atau penalaran, untuk membuat model besar, Anda harus terlebih dahulu memiliki daya komputasi?

Ji Xinhua: Ya, hal pertama adalah memiliki kartu. Jika Anda tidak memiliki kartu, Anda pasti tertinggal. Sekitar 40-50%. Jika dua masalah di atas diselesaikan, itu adalah masalah keamanan, dan masalah lalu lintas juga sangat penting.

Leifeng.com: Berapa level model domestik? Banyak orang mengatakan akan menyusul GPT4 pada akhir tahun ini.

Ji Xinhua: Saat ini, tidak ada model yang melampaui GPT3.5 di China. Tentu saja, sebenarnya sangat mudah untuk melampaui GPT3.5 dalam aspek tertentu. Sulit untuk mengungguli GPT4, kuncinya adalah makalah sebelum GPT3.5 dipublikasikan, tetapi GPT4 belum dipublikasikan, sehingga semua orang tidak tahu harus berbuat apa.

Leifeng.com: Apakah pabrikan besar dalam negeri ini tidak memiliki peluang untuk mengejar ketinggalan?

Ji Xinhua: Menurut saya pengaruh perusahaan besar tidak sebaik perusahaan pemula. Karena beberapa perusahaan start-up dengan keyakinan dan cita-cita sudah mulai melakukannya, dan Dachang sebenarnya sudah mulai setelah melihat popularitas ChatGPT.

Leifeng.com: Masuk akal bahwa produsen besar telah mengumpulkan teknologi, jadi bukankah mereka memiliki lebih banyak peluang?

Ji Xinhua: Ada banyak arah untuk AI. Di masa lalu, sebagian besar perusahaan mengira bahwa model skala besar vertikal memiliki peluang, tetapi tidak berpikir bahwa model skala besar serba guna memiliki peluang. Oleh karena itu, di masa lalu beberapa tahun, itu adalah beberapa tim wirausaha dengan keyakinan dan tim penelitian Ilmiah, seperti Zhipu Huazhang, MiniMax, Akademi Ilmu Pengetahuan China, dll.

Untuk pabrikan besar, lebih untuk melihat bahwa negara asing menindaklanjuti setelah melakukan ini, dan itu belum naik ke strategi perusahaan, sehingga mereka tidak memiliki banyak akumulasi dalam model besar untuk tujuan umum.

Leifeng.com: Masalah daya komputasi cepat atau lambat akan teratasi, jadi apa keuntungan UKEDe dalam hal model besar?

Ji Xinhua: Dapat disimpulkan dalam tiga poin: Pertama, menjaga netralitas dan tidak memiliki hubungan kompetitif dengan pengguna. Kedua, ia memiliki kemampuan untuk membangun satu set lengkap solusi AIGC untuk pusat data, jaringan, dan penyimpanan data, yang dapat membantu perusahaan kecil dan menengah dengan cepat membangun platform dan memecahkan masalah efisiensi penggunaan model besar; ketiga, dapat lebih baik membantu perusahaan model besar memperluas pelanggan.