Pola terbaru platform AI China dirilis! Skor komprehensif Baidu adalah yang pertama, eselon dua sangat kompetitif, dan model besar mempercepat evolusi vendor cloud
Tren model besar telah membawa ratusan juta "guncangan kecil" untuk segala sesuatu yang terkait dengannya.
Platform AI/ML adalah salah satunya.
Ini terkait erat dengan tren model besar, dan dapat secara langsung mencerminkan tingkat cadangan R&D teknologi AI dari vendor cloud utama, serta wawasan dan kemampuan pemahaman dari tren terbaru.
Siapa yang lebih kuat? Itu sedang dibicarakan oleh industri.
Di bawah perubahan drastis dalam angin teknologi, platform AI / ML juga memiliki standar evaluasi baru.
Forrester terbaru "** Laporan Platform Kecerdasan Buatan / Pembelajaran Mesin Cina Pertama **" yang dirilis oleh otoritas internasional memberikan referensi tepat waktu.
Forrester Research adalah perusahaan riset teknologi dan pasar independen yang menerbitkan laporan tematik yang sangat diakui di Cina dan di seluruh dunia.
The Forrester Wave, diterbitkan dua tahun sekali, adalah jenis laporan Forrester yang paling berpengaruh.
Laporan ini mensurvei 14 vendor cloud utama di pasar domestik, termasuk Baidu Intelligent Cloud, Alibaba Cloud, Huawei Cloud, Tencent Cloud, dll., Dan mengevaluasi mereka dari tiga aspek: kemampuan produk, perencanaan strategis, dan kinerja pasar.
Berdasarkan evaluasi komprehensif terhadap 25 segmen, Forrester membagi 14 vendor terkemuka menjadi empat kuadran: Pemimpin, Berkinerja Terbaik, Pesaing, dan Penantang.
Mari kita lihat sorotan spesifiknya.
Standar baru apa yang dibawa tren baru
Mari kita mulai dengan kesimpulan inti laporan.
Dalam bagan kuadran ini, tingkat strategis adalah sumbu horizontal, kemampuan produk adalah sumbu vertikal, dan dibagi menjadi empat kuadran: pemimpin, berkinerja sangat baik, pesaing dan penantang, dan juga mencerminkan kinerja pasar masing-masing perusahaan.
Distribusi kuadran adalah sebagai berikut:
Pemimpin (2), Pemain Terbaik (5), Pesaing (4), Penantang (3).
Di eselon pertama adalah Baidu Intelligent Cloud dan Alibaba Cloud. Di antara mereka, Baidu Intelligent Cloud tampil cemerlang dan memenangkan tempat pertama dalam skor komprehensif.
Eselon dua adalah yang paling kompetitif, dengan 5 vendor dalam posisi yang sangat kompak di kuadran.
Kesimpulan di atas merupakan hasil dari 25 evaluasi yang dilakukan oleh Forrester.
Selain memilah lanskap kompetitif platform AI/ML saat ini di pasar Tiongkok, Forrester selanjutnya mengusulkan referensi standar baru untuk mengevaluasi platform AI/ML.
Tiga poin berikut adalah yang paling kritis:
Toolchain komprehensif
Akselerator yang mudah digunakan
Model Ops pada skala
Mengapa?
Forrester percaya bahwa di bawah pengaruh AI generatif dan tren model besar, aplikasi AI menjadi lebih penting untuk mempromosikan produktivitas dan mempercepat inovasi bisnis.
Di pasar Cina saat ini, perusahaan sangat membutuhkan platform AI / ML yang dapat memecahkan masalah kompleks dalam lingkungan bisnis mereka sendiri.
Untuk memenuhi permintaan pasar, ketiga aspek yang disebutkan di atas sangat diperlukan.
Pertama, harus ada toolchain yang menyediakan manajemen data, pelatihan model, dan kemampuan pengembangan aplikasi AI. **
Ini juga merupakan inti dari platform AI/ML.
Forrester mengusulkan bahwa sisi platform tidak hanya harus memperhatikan alat utama dalam konstruksi model, pelatihan dan evaluasi, tetapi juga memperhatikan alat yang diperlukan untuk pengembangan aplikasi AI.
Misalnya, kerangka kerja AI dan notebook untuk para profesional; Alat visual low-code untuk pebisnis.
Selain itu, alat manajemen data juga memiliki dampak signifikan pada pembuatan model.
Kedua, ia menyediakan akselerator yang mudah digunakan untuk industri. **
Forrester menunjukkan bahwa sebagian besar perusahaan di pasar domestik kekurangan insinyur yang memahami algoritma AI dan pengetahuan bisnis, yang menyulitkan mereka untuk menyesuaikan algoritma dengan kebutuhan bisnis mereka.
Saat ini, mereka merangkul "pose" tren model besar, baik menggunakan model besar untuk fine-tuning, atau melakukan rekayasa cepat.
Oleh karena itu, alat akselerasi yang dapat mempercepat konstruksi model AI dan pengembangan aplikasi sangat penting. Alat visualisasi, pengembangan low-code, dan banyak lagi dapat lebih mempercepat inovasi.
Ketiga, mempercepat implementasi model besar melalui operasi model skala besar. **
Model Ops mencakup penyebaran model, pemantauan, pembaruan, dan otomatisasi, yang dapat memecahkan masalah seperti penyimpangan model, penurunan kinerja, pemeliharaan keamanan, dan pembaruan model, dan menyediakan pengujian A/B, penyetelan otomatis, dan pelatihan ulang model.
Ketika perusahaan merangkul tren model besar, platform AI/ML dengan operasi model skala besar dapat membantu perusahaan mengembangkan, menyebarkan, dan mengelola model AI dengan lebih baik, lebih lanjut mempromosikan transformasi digital perusahaan, mengurangi biaya, dan meningkatkan efisiensi.
Singkatnya, agar platform AI/ML menjadi pemimpin dalam tren baru, platform ini perlu menyediakan alat yang mudah digunakan, memenuhi kebutuhan industri, dan mempercepat adopsi AI oleh perusahaan.
Dan kemampuan apa yang lebih spesifik untuk dimiliki, harus kita analisis dari para pemimpin saat ini.
Bagaimana Anda mencapai kuadran Pemimpin? **
Dalam laporan Forrester ini, kinerja Baidu Intelligent Cloud sangat menarik.
Ini adalah satu-satunya vendor cloud yang memasuki kuadran "Pemimpin", dan juga memenangkan tempat pertama dalam skor keseluruhan dan tempat pertama dalam skor 9 subdivisi.
Dalam hal kemampuan produk, Baidu Intelligent Cloud berada di tingkat terdepan dalam empat subdivisi: data, pelatihan, penalaran prediktif, dan aplikasi.
Pada saat yang sama, dalam hal dimensi strategis dan ukuran pasar, Baidu juga memenangkan tempat pertama di banyak proyek ini.
Forrester menggambarkan Baidu Intelligent Cloud sebagai "salah satu pelopor model dasar China":
Baidu Intelligent Cloud menyematkan keluarga model pondasi ERNIE ke dalam portofolio dengan peta jalan produk yang solid, dan ekosistem aktifnya di sekitar PaddlePaddle adalah cara yang efektif untuk melibatkan pengembang AI untuk berinovasi bersama.
Kemampuan spesifiknya berasal dari platform AI Baidu, dan produknya termasuk BML, EasyDL dan platform model besar Qianfan cloud cerdas Baidu.
Mengambil platform AI cloud cerdas Baidu sebagai contoh, kita dapat menganalisis lebih spesifik kemampuan apa yang harus dimiliki platform AI/ML saat ini jika ingin menempati posisi terdepan di pasar.
Menurut dimensi laporan Forrester, kemampuan spesifik dapat dibagi menjadi lima aspek: data, pelatihan, penalaran prediktif, aplikasi, dan arsitektur. Ini juga merupakan lima elemen inti dalam pengembangan dan penerapan model AI.
**Mari kita mulai dengan data. **
Pada bagian pengolahan data, platform AI Baidu dapat memproses data terstruktur dan tidak terstruktur.
Lebih dari 65 jenis visualisasi data didukung, termasuk bagan pai, peta panas, plot sebar, peta, dan banyak lagi. Ini mendukung ** 10 + jenis komponen filter **, dan pengguna hanya perlu membuat konfigurasi sederhana dan drag-and-drop untuk mencapai pemantauan data real-time dan pengambilan keputusan tambahan.
Pada saat yang sama, ini juga mendukung 30+ anotasi format data, meningkatkan efisiensi tautan anotasi dengan tenaga kerja paling terkonsentrasi dalam proses pemodelan.
Perlu disebutkan bahwa platform AI Baidu menyediakan kemampuan anotasi pembelajaran aktif, sistem dapat secara langsung menganalisis pola gambar dari kumpulan data, secara otomatis menyaring gambar yang paling kritis, dan meminta anotasi terbatas.
Misalnya, jika ada 10.000 gambar yang perlu diberi label, sistem akan meletakkan gambar karakteristik di depan dan yang berulang di belakang, sehingga hanya 3.000 gambar pertama yang akan ditandai, dan 7.000 gambar terakhir dapat ditandai secara otomatis.
Menurut laporan, metode ini rata-rata dapat menghemat 70-90% tenaga kerja untuk pengguna perusahaan. Proporsi tenaga kerja manusia dalam "kecerdasan buatan" telah berkurang secara drastis.
Selain itu, dalam hal rekayasa fitur, platform AI Baidu mengintegrasikan kemampuan manajemen basis data fitur tingkat profesional, menyediakan fungsi seperti penambahan fitur, penghapusan, modifikasi dan kueri, produksi fitur, berbagi fitur, manajemen versi fitur, dan verifikasi data.
Berbagai bentuk data dalam batch dan streaming didukung untuk layanan prediksi, yang dapat memastikan bahwa karakteristik model konsisten selama pelatihan dan prediksi akhir, yang secara langsung berkaitan dengan keakuratan model.
Kemampuan di atas tercermin dalam angka-angka tertentu, dan laporan Forrester memberi platform AI Baidu skor 5 dari 5 (dari skor) untuk kemampuan datanya, jauh di depan vendor lain.
** Yang kedua adalah pelatihan model. **
Ini adalah salah satu aspek paling jelas dari tren terbaru dalam hal permintaan pasar, yang ditujukan tidak hanya untuk pengembang profesional, tetapi juga pebisnis yang tidak berspesialisasi dalam algoritma AI, sehingga mengharuskan platform AI/ML yang menyediakan kemampuan mudah digunakan dan fleksibel.
Lihat praktik platform AI Baidu.
Di satu sisi, ini mementingkan "luasnya" dan mendukung pemodelan dan pelatihan berbagai data, seperti gambar, video, teks, dan ucapan.
Metode pemodelan juga sangat fleksibel, mendukung berbagai metode pemodelan seperti pengembangan notebook/WebIDE, pengembangan visual drag-and-drop, penyetelan parameter skrip, pekerjaan khusus, dll., Yang dapat menyelesaikan pengembangan model presisi tinggi yang disesuaikan untuk orang-orang dengan tingkat profesional yang berbeda.
Di sisi lain adalah "kedalaman". Dengan dukungan tim algoritma dayungnya sendiri, platform AI Baidu telah melakukan pengoptimalan mendalam terhadap sejumlah besar operator adegan. Termasuk klasifikasi gambar, deteksi objek, klasifikasi teks, anotasi urutan, dll.
Misalnya, PP YOLO, yang sangat dioptimalkan berdasarkan operator Paddle, telah melampaui tolok ukur YOLO V3 di bidang deteksi objek.
Kemudahan penggunaan juga merupakan fokus besar. Pada platform Baidu AI, pemodelan kode nol dan pemodelan visual dapat direalisasikan. Yang pertama, pengguna hanya perlu mengunggah data dan memilih jenis untuk memulai pemodelan. Yang terakhir dapat merakit proses pemodelan dengan menyeret dan menjatuhkan komponen dan mengatur parameter setiap bagian.
Selain itu, jumlah komputasi AI meningkat setidaknya 10 kali per tahun, dan kemampuan untuk menyesuaikan sumber daya tugas dalam pelatihan pembelajaran mendalam menjadi sangat penting. Platform AI Baidu mendukung pelatihan terdistribusi multi-mesin dan multi-kartu, dan menyediakan berbagai jenis sumber daya komputasi.
Selain itu, Baidu sendiri memiliki pengalaman yang kaya dalam melatih model super besar, dan dapat mengintegrasikan kemampuannya sendiri dalam model visual besar, AI generatif, dll. Misalnya, pencarian hyperparameter otomatis, pemrosesan otomatis data yang tidak seimbang, dan pra-pelatihan skala ultra-besar dapat dilakukan.
Akibatnya, pada platform Baidu AI, Anda juga dapat melihat banyak alat pengembangan untuk meningkatkan efisiensi pemrograman.
Dimensi ketiga dari kompetensi adalah penalaran. **
Dengan pengembangan model besar, pasar inferensi akan semakin berkembang dan bahkan tumbuh secara eksponensial, yang menimbulkan tantangan besar bagi platform AI/ML.
Dari perspektif platform AI Baidu, mereka terutama berfokus pada efisiensi pengembangan, optimalisasi kinerja, fleksibilitas, dan keluasan.
Modul inferensinya, Model Serve, mendukung 16 kerangka kerja AI, termasuk Paddle, Tensor Flow, dan PyTorch yang paling umum, serta Matlab/R untuk komputasi ilmiah dan peningkatan Xg untuk pembelajaran mesin.
Dalam hal pengoptimalan performa, penjadwal inferensi asinkron secara langsung diabstraksi pada lapisan penjadwalan untuk mencapai pekerja inferensi heterogen, meningkatkan performa seluruh server dan pemanfaatan GPU lebih dari 1 kali.
Pada saat yang sama, ini mendukung pemrosesan batch otomatis, mengklasifikasikan tugas dengan panjang berbeda, dan mengkompilasi tugas dengan ukuran yang sama ke dalam batch yang sama untuk memanfaatkan sepenuhnya sumber daya heterogen, yang dapat meningkatkan efisiensi sebesar 70% berdasarkan pemisahan asinkron.
Area keempat yang harus difokuskan adalah aplikasi. **
Aplikasi dalam laporan ini terutama memeriksa efisiensi aplikasi dari setiap platform.
Yaitu, bagaimana menggunakan sumber daya yang ada untuk dengan cepat mengubah data menjadi produktivitas bisnis.
Platform AI Baidu dapat memberikan kemampuan manajemen siklus hidup penuh untuk proses pengembangan AI, mulai dari pengumpulan dan pembersihan data, hingga pengembangan dan pelatihan model, manajemen model, hingga manajemen layanan inferensi cloud dan offline.
Perlu disebutkan bahwa platform Baidu AI adalah platform pertama di China yang mencapai tingkat unggulan standar MLOps dari Akademi Teknologi Informasi dan Komunikasi.
Saat ini, kemampuan platform AI Baidu telah diekspor ke industri seperti keuangan, energi, dan transportasi. Melayani Shanghai Pudong Development Bank, Bank of Beijing, serta State Grid, China Southern Power Grid, dll.
Pada tahun 2022, jumlah pengguna cloud publik yang membayar platform AI cloud cerdas Baidu akan meningkat sebesar 49%, jumlah pelanggan yang diprivatisasi akan meningkat sebesar 32%, dan jumlah pengembang akan meningkat sebesar 1,228 juta, dengan tingkat pertumbuhan sekitar 40%; Tingkat pembelian kembali telah meningkat dari tahun ke tahun, dan tingkat pembelian kembali di industri-industri utama telah mencapai 50%.
Akhirnya, dalam hal arsitektur, desain arsitektur platform AI Baidu menerima skor penuh dalam skor Forrester.
Jika dapat diringkas dalam satu kalimat, platform AI Baidu telah mencapai tingkat "pemimpin", yaitu telah melakukannya:
Ada banyak algoritma, alat, operasi cepat, hasil yang baik, dan juga menghemat server dan tenaga kerja, sambil memastikan keamanan dan kemudahan penggunaan.
Melalui analisis kemampuan keseluruhan platform AI Baidu, tidak sulit untuk menemukan bahwa banyak dari alat dan ide ini sejalan dengan kebutuhan baru dari tren model besar saat ini.
Bahkan, dalam konteks perubahan drastis ke arah teknologi, bukan hanya tren untuk menyesuaikan arsitektur yang ada untuk beradaptasi dengan perubahan permintaan, tetapi juga untuk mengusulkan cara-cara baru untuk menghadapinya.
Di era model besar, pola persaingan baru AI di cloud telah ditentukan sebelumnya
Jadi, dengan dampak gelombang model besar, perubahan baru apa yang telah terjadi dalam permintaan pasar untuk platform AI/ML?
Di masa lalu, banyak model CV dan NLP disebut SOTA, tetapi mereka masih lebih sering digunakan dalam bisnis non-inti di industri. Sekarang, dengan kemampuannya yang luar biasa untuk menumbangkan alur kerja tradisional, model-model besar mulai semakin dikenal, dan dianggap sebagai kunci untuk menerobos kemacetan kecerdasan di berbagai industri.
Namun, bagi vendor cloud, bukan berarti era model besar "dimulai dari nol" di era model kecil.
Bahkan, dengan pendalaman penerapan model besar, bidang teknis seperti agen semakin menarik perhatian. Intinya terletak pada kenyataan bahwa model besar didasarkan pada kemampuannya sendiri dan menghubungkan model kecil dengan penjadwalan yang matang untuk menyelesaikan masalah dalam aplikasi praktis, yang dianggap lebih cepat dan lebih berharga dalam skenario produksi.
Oleh karena itu, di "era baru" yang dibuka oleh model besar, bagi "pemimpin" platform AI/ML, akumulasi teknis di era model kecil dan inovasi teknologi di era model besar saling melengkapi dan sangat diperlukan.
Platform AI Baidu di "era baru" menyerahkan lembar jawaban - Platform Model Besar Qianfan Cloud Cerdas Baidu adalah contohnya.
Sebagai platform model besar tingkat perusahaan satu atap, Baidu Intelligent Cloud Qianfan Platform pada dasarnya adalah produk dari akumulasi mendalam Baidu di lapisan chip, lapisan kerangka kerja, lapisan model, dan lapisan aplikasi.
Hal ini diwujudkan dalam lima aspek:
Pertama, pada tingkat daya komputasi, platform cloud Qianfan cerdas Baidu dapat menyediakan layanan komputasi heterogen yang efisien dan hemat biaya.
Dalam proses pelatihan model besar, melalui strategi pelatihan paralel terdistribusi dan kemampuan interkoneksi tingkat mikrodetik, rasio akselerasi pelatihan kluster skala 10.000 kartu pada platform Baidu Qianfan dapat mencapai 95%. Pada saat yang sama, waktu pelatihan efektif cluster Vanka dapat mencapai 96%, yang sangat mengurangi biaya daya dan waktu komputasi.
Kedua, di ** tingkat model **, platform Baidu Qianfan telah mengelola 44 model besar arus utama di dalam dan luar negeri, termasuk model besar Wenxin, seri Llama, ChatGLM, dll., Dan mendukung pengguna untuk dengan cepat memanggil API dan langsung mendapatkan kemampuan model besar.
Untuk model besar pihak ketiga, platform Baidu Qianfan juga telah dioptimalkan dengan cara yang ditargetkan, termasuk peningkatan Cina, peningkatan kinerja, peningkatan konteks, dan sebagainya.
Baidu mengungkapkan bahwa jumlah panggilan API model besar pada platform Qianfan Baidu terus meningkat dengan kecepatan tinggi. Saat ini, platform Baidu Qianfan telah melayani lebih dari 20.000 pelanggan.
Ketiga, bagi pelanggan yang ingin melakukan pengembangan sekunder berdasarkan model besar yang ada, platform Baidu Qianfan menyediakan rantai alat siklus hidup penuh untuk pelatihan ulang, penyempurnaan, evaluasi dan penyebaran model besar, serta 41 dataset berkualitas tinggi, yang dapat mewujudkan pengoptimalan model cepat untuk skenario bisnis tertentu.
Keempat, di tingkat aplikasi, sebagai tanggapan terhadap kebutuhan perusahaan untuk mengembangkan aplikasi asli AI berdasarkan model besar, platform Baidu Qianfan menyediakan serangkaian komponen dan kerangka kerja kemampuan.
Misalnya, ada 226 templat bawaan, sehingga pengembang dapat dengan cepat meningkatkan kualitas jawaban model besar meskipun mereka tidak terbiasa dengan rekayasa cepat.
Pada Konferensi Dunia Baidu pada 17 Oktober, Baidu Intelligent Cloud juga merilis "** Baidu Qianfan AI Native Application Development Workbench **". Secara khusus, "meja kerja" ini terdiri dari dua bagian: komponen aplikasi + kerangka kerja aplikasi.
**Layanan komponen aplikasi terdiri dari dua komponen: AI dan cloud dasar. **
Diantaranya, komponen AI, yaitu enkapsulasi berbasis komponen dari kemampuan model besar, termasuk komponen model bahasa besar seperti Q&A dan Chain of Thought (CoT), serta komponen multimodal seperti diagram Wensheng dan pengenalan suara.
Komponen cloud dasar mencakup layanan cloud tradisional seperti database vektor dan penyimpanan objek.
** Kerangka kerja aplikasi berorientasi pada tugas skenario tertentu **, yang dapat dipahami sebagai kombinasi efektif dari komponen aplikasi di atas berdasarkan kemampuan model besar.
Saat ini, platform Baidu Qianfan menyediakan kerangka kerja aplikasi asli AI yang umum digunakan seperti Retrieval Enhanced Generation (RAG) dan Agent.
Di antara mereka, kerangka kerja RAG dapat menggabungkan pengetahuan dalam domain kepemilikan perusahaan dengan kemampuan Q&A model besar untuk membuat jawaban yang lebih akurat untuk pengetahuan profesional.
Berdasarkan kerangka kerja RAG ini, Sany Heavy Industry dengan cepat mewujudkan pengembangan dan peluncuran aplikasi layanan pelanggan cerdas di situs web resmi.
Shen Dou, wakil presiden eksekutif Baidu Group dan presiden Baidu Intelligent Cloud Business Group, mengungkapkan bahwa bahkan jika Anda perlu memproses ribuan dokumen kata panjang, biaya membangun "asisten kecil" seperti itu hanya beberapa ratus yuan; Setelah itu, biaya setiap informasi untuk pengguna hanya beberapa sen.
Berdasarkan kerangka agen, model besar dapat secara otomatis membongkar tugas yang diberikan oleh manusia, secara otomatis merencanakan dan memanggil berbagai komponen untuk menyelesaikan tugas secara kolaboratif, dan pada saat yang sama memberikan umpan balik diri sesuai dengan efek penyelesaian tugas untuk meningkatkan kemampuannya sendiri.
Saat ini, berdasarkan kerangka kerja agen ini, Zhongtian Iron and Steel telah membangun "pusat penjadwalan perusahaan" yang cerdas untuk mewujudkan persepsi otomatis, dekomposisi, dan pelaksanaan instruksi tugas.
Misalnya, ketika ditemukan bahwa output baja tidak memenuhi standar, model besar dapat secara otomatis memanggil berbagai sumber daya dan API yang dikelola oleh platform untuk mengetahui alasan ketidakpatuhan, menyesuaikan jadwal produksi tepat waktu dan mengirim email untuk memberi tahu operator.
Terakhir, Baidu Qianfan juga meluncurkan "AI Native App Store", yang menghubungkan sisi penawaran dan sisi permintaan aplikasi native AI, serta menyediakan tempat berkumpulnya peluang bisnis model skala besar.
Tidak sulit untuk melihat bahwa, di satu sisi, peluncuran cepat platform model besar Qianfan cloud cerdas Baidu mendapat manfaat dari pengembangan teknologi model besar Baidu sendiri; Di sisi lain, kemampuan produk yang dikumpulkan oleh platform AI Baidu selama bertahun-tahun, serta pengalaman praktisnya yang kaya di industri ini, telah membuat platform Qianfan Baidu memimpin dalam memainkan peran yang efektif di sisi aplikasi.
Menurut data IDC, pasar layanan cloud publik AI China akan menunjukkan pertumbuhan positif sebesar 80,6% pada tahun 2022, dengan ukuran pasar keseluruhan mencapai 7,97 miliar yuan.
Analisis IDC percaya bahwa implementasi AI generatif dan model besar saat ini masih dalam tahap awal, dan kemampuan ini dapat diperbarui dan diulang lebih cepat di cloud publik, yang akan membawa manfaat signifikan bagi layanan cloud publik AI dalam jangka pendek.
Gartner juga menunjukkan bahwa AI generatif didorong oleh model besar, yang mengedepankan persyaratan untuk infrastruktur komputasi yang kuat dan sangat skalabel. "Cloud menyediakan solusi dan platform yang sempurna, dan pemain kunci dalam perlombaan AI generatif harus menjadi vendor cloud teratas."
Dikombinasikan dengan laporan terbaru dari Forrester, dapat dilihat bahwa untuk vendor cloud, layanan cloud AI telah menjadi fokus persaingan baru.
Dan bagaimana mengukur daya saing, sekarang kriteria evaluasi secara bertahap jelas.
Dalam analisis akhir, ada dua aspek inti:
Pertama, dari perspektif pengembang dan pengguna perusahaan, apakah kemampuan platform layanan cloud AI benar-benar dapat dengan biaya efektif memecahkan masalah praktis yang dihadapi oleh bisnis yang kompleks, serta kekurangan bakat profesional dalam proses peningkatan cerdas, terutama di bawah gelombang model besar.
Kedua, dari perspektif tren teknologi, lebih terintegrasi dengan model besar.
Tata letak platform AI Baidu dapat dianggap sebagai jawaban referensi yang diberikan oleh vendor cloud AI terkemuka dalam perubahan terbaru dalam lanskap kompetitif.
Adapun hasilnya? Dalam lebih banyak kasus pendaratan, Anda dapat melihat bab yang sebenarnya.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Pola terbaru platform AI China dirilis! Skor komprehensif Baidu adalah yang pertama, eselon dua sangat kompetitif, dan model besar mempercepat evolusi vendor cloud
Sumber: Qubits
Tren model besar telah membawa ratusan juta "guncangan kecil" untuk segala sesuatu yang terkait dengannya.
Platform AI/ML adalah salah satunya.
Ini terkait erat dengan tren model besar, dan dapat secara langsung mencerminkan tingkat cadangan R&D teknologi AI dari vendor cloud utama, serta wawasan dan kemampuan pemahaman dari tren terbaru.
Siapa yang lebih kuat? Itu sedang dibicarakan oleh industri.
Forrester terbaru "** Laporan Platform Kecerdasan Buatan / Pembelajaran Mesin Cina Pertama **" yang dirilis oleh otoritas internasional memberikan referensi tepat waktu.
Forrester Research adalah perusahaan riset teknologi dan pasar independen yang menerbitkan laporan tematik yang sangat diakui di Cina dan di seluruh dunia.
The Forrester Wave, diterbitkan dua tahun sekali, adalah jenis laporan Forrester yang paling berpengaruh.
Berdasarkan evaluasi komprehensif terhadap 25 segmen, Forrester membagi 14 vendor terkemuka menjadi empat kuadran: Pemimpin, Berkinerja Terbaik, Pesaing, dan Penantang.
Mari kita lihat sorotan spesifiknya.
Standar baru apa yang dibawa tren baru
Mari kita mulai dengan kesimpulan inti laporan.
Dalam bagan kuadran ini, tingkat strategis adalah sumbu horizontal, kemampuan produk adalah sumbu vertikal, dan dibagi menjadi empat kuadran: pemimpin, berkinerja sangat baik, pesaing dan penantang, dan juga mencerminkan kinerja pasar masing-masing perusahaan.
Pemimpin (2), Pemain Terbaik (5), Pesaing (4), Penantang (3).
Di eselon pertama adalah Baidu Intelligent Cloud dan Alibaba Cloud. Di antara mereka, Baidu Intelligent Cloud tampil cemerlang dan memenangkan tempat pertama dalam skor komprehensif.
Eselon dua adalah yang paling kompetitif, dengan 5 vendor dalam posisi yang sangat kompak di kuadran.
Kesimpulan di atas merupakan hasil dari 25 evaluasi yang dilakukan oleh Forrester.
Selain memilah lanskap kompetitif platform AI/ML saat ini di pasar Tiongkok, Forrester selanjutnya mengusulkan referensi standar baru untuk mengevaluasi platform AI/ML.
Tiga poin berikut adalah yang paling kritis:
Mengapa?
Forrester percaya bahwa di bawah pengaruh AI generatif dan tren model besar, aplikasi AI menjadi lebih penting untuk mempromosikan produktivitas dan mempercepat inovasi bisnis.
Di pasar Cina saat ini, perusahaan sangat membutuhkan platform AI / ML yang dapat memecahkan masalah kompleks dalam lingkungan bisnis mereka sendiri.
Untuk memenuhi permintaan pasar, ketiga aspek yang disebutkan di atas sangat diperlukan.
Pertama, harus ada toolchain yang menyediakan manajemen data, pelatihan model, dan kemampuan pengembangan aplikasi AI. **
Ini juga merupakan inti dari platform AI/ML.
Forrester mengusulkan bahwa sisi platform tidak hanya harus memperhatikan alat utama dalam konstruksi model, pelatihan dan evaluasi, tetapi juga memperhatikan alat yang diperlukan untuk pengembangan aplikasi AI.
Misalnya, kerangka kerja AI dan notebook untuk para profesional; Alat visual low-code untuk pebisnis.
Selain itu, alat manajemen data juga memiliki dampak signifikan pada pembuatan model.
Forrester menunjukkan bahwa sebagian besar perusahaan di pasar domestik kekurangan insinyur yang memahami algoritma AI dan pengetahuan bisnis, yang menyulitkan mereka untuk menyesuaikan algoritma dengan kebutuhan bisnis mereka.
Saat ini, mereka merangkul "pose" tren model besar, baik menggunakan model besar untuk fine-tuning, atau melakukan rekayasa cepat.
Oleh karena itu, alat akselerasi yang dapat mempercepat konstruksi model AI dan pengembangan aplikasi sangat penting. Alat visualisasi, pengembangan low-code, dan banyak lagi dapat lebih mempercepat inovasi.
Model Ops mencakup penyebaran model, pemantauan, pembaruan, dan otomatisasi, yang dapat memecahkan masalah seperti penyimpangan model, penurunan kinerja, pemeliharaan keamanan, dan pembaruan model, dan menyediakan pengujian A/B, penyetelan otomatis, dan pelatihan ulang model.
Ketika perusahaan merangkul tren model besar, platform AI/ML dengan operasi model skala besar dapat membantu perusahaan mengembangkan, menyebarkan, dan mengelola model AI dengan lebih baik, lebih lanjut mempromosikan transformasi digital perusahaan, mengurangi biaya, dan meningkatkan efisiensi.
Dan kemampuan apa yang lebih spesifik untuk dimiliki, harus kita analisis dari para pemimpin saat ini.
Bagaimana Anda mencapai kuadran Pemimpin? **
Dalam laporan Forrester ini, kinerja Baidu Intelligent Cloud sangat menarik.
Ini adalah satu-satunya vendor cloud yang memasuki kuadran "Pemimpin", dan juga memenangkan tempat pertama dalam skor keseluruhan dan tempat pertama dalam skor 9 subdivisi.
Dalam hal kemampuan produk, Baidu Intelligent Cloud berada di tingkat terdepan dalam empat subdivisi: data, pelatihan, penalaran prediktif, dan aplikasi.
Pada saat yang sama, dalam hal dimensi strategis dan ukuran pasar, Baidu juga memenangkan tempat pertama di banyak proyek ini.
Kemampuan spesifiknya berasal dari platform AI Baidu, dan produknya termasuk BML, EasyDL dan platform model besar Qianfan cloud cerdas Baidu.
Mengambil platform AI cloud cerdas Baidu sebagai contoh, kita dapat menganalisis lebih spesifik kemampuan apa yang harus dimiliki platform AI/ML saat ini jika ingin menempati posisi terdepan di pasar.
Menurut dimensi laporan Forrester, kemampuan spesifik dapat dibagi menjadi lima aspek: data, pelatihan, penalaran prediktif, aplikasi, dan arsitektur. Ini juga merupakan lima elemen inti dalam pengembangan dan penerapan model AI.
**Mari kita mulai dengan data. **
Pada bagian pengolahan data, platform AI Baidu dapat memproses data terstruktur dan tidak terstruktur.
Lebih dari 65 jenis visualisasi data didukung, termasuk bagan pai, peta panas, plot sebar, peta, dan banyak lagi. Ini mendukung ** 10 + jenis komponen filter **, dan pengguna hanya perlu membuat konfigurasi sederhana dan drag-and-drop untuk mencapai pemantauan data real-time dan pengambilan keputusan tambahan.
Pada saat yang sama, ini juga mendukung 30+ anotasi format data, meningkatkan efisiensi tautan anotasi dengan tenaga kerja paling terkonsentrasi dalam proses pemodelan.
Misalnya, jika ada 10.000 gambar yang perlu diberi label, sistem akan meletakkan gambar karakteristik di depan dan yang berulang di belakang, sehingga hanya 3.000 gambar pertama yang akan ditandai, dan 7.000 gambar terakhir dapat ditandai secara otomatis.
Menurut laporan, metode ini rata-rata dapat menghemat 70-90% tenaga kerja untuk pengguna perusahaan. Proporsi tenaga kerja manusia dalam "kecerdasan buatan" telah berkurang secara drastis.
Selain itu, dalam hal rekayasa fitur, platform AI Baidu mengintegrasikan kemampuan manajemen basis data fitur tingkat profesional, menyediakan fungsi seperti penambahan fitur, penghapusan, modifikasi dan kueri, produksi fitur, berbagi fitur, manajemen versi fitur, dan verifikasi data.
Berbagai bentuk data dalam batch dan streaming didukung untuk layanan prediksi, yang dapat memastikan bahwa karakteristik model konsisten selama pelatihan dan prediksi akhir, yang secara langsung berkaitan dengan keakuratan model.
Kemampuan di atas tercermin dalam angka-angka tertentu, dan laporan Forrester memberi platform AI Baidu skor 5 dari 5 (dari skor) untuk kemampuan datanya, jauh di depan vendor lain.
Ini adalah salah satu aspek paling jelas dari tren terbaru dalam hal permintaan pasar, yang ditujukan tidak hanya untuk pengembang profesional, tetapi juga pebisnis yang tidak berspesialisasi dalam algoritma AI, sehingga mengharuskan platform AI/ML yang menyediakan kemampuan mudah digunakan dan fleksibel.
Lihat praktik platform AI Baidu.
Di satu sisi, ini mementingkan "luasnya" dan mendukung pemodelan dan pelatihan berbagai data, seperti gambar, video, teks, dan ucapan.
Metode pemodelan juga sangat fleksibel, mendukung berbagai metode pemodelan seperti pengembangan notebook/WebIDE, pengembangan visual drag-and-drop, penyetelan parameter skrip, pekerjaan khusus, dll., Yang dapat menyelesaikan pengembangan model presisi tinggi yang disesuaikan untuk orang-orang dengan tingkat profesional yang berbeda.
Di sisi lain adalah "kedalaman". Dengan dukungan tim algoritma dayungnya sendiri, platform AI Baidu telah melakukan pengoptimalan mendalam terhadap sejumlah besar operator adegan. Termasuk klasifikasi gambar, deteksi objek, klasifikasi teks, anotasi urutan, dll.
Misalnya, PP YOLO, yang sangat dioptimalkan berdasarkan operator Paddle, telah melampaui tolok ukur YOLO V3 di bidang deteksi objek.
Selain itu, jumlah komputasi AI meningkat setidaknya 10 kali per tahun, dan kemampuan untuk menyesuaikan sumber daya tugas dalam pelatihan pembelajaran mendalam menjadi sangat penting. Platform AI Baidu mendukung pelatihan terdistribusi multi-mesin dan multi-kartu, dan menyediakan berbagai jenis sumber daya komputasi.
Selain itu, Baidu sendiri memiliki pengalaman yang kaya dalam melatih model super besar, dan dapat mengintegrasikan kemampuannya sendiri dalam model visual besar, AI generatif, dll. Misalnya, pencarian hyperparameter otomatis, pemrosesan otomatis data yang tidak seimbang, dan pra-pelatihan skala ultra-besar dapat dilakukan.
Akibatnya, pada platform Baidu AI, Anda juga dapat melihat banyak alat pengembangan untuk meningkatkan efisiensi pemrograman.
Dimensi ketiga dari kompetensi adalah penalaran. **
Dengan pengembangan model besar, pasar inferensi akan semakin berkembang dan bahkan tumbuh secara eksponensial, yang menimbulkan tantangan besar bagi platform AI/ML.
Dari perspektif platform AI Baidu, mereka terutama berfokus pada efisiensi pengembangan, optimalisasi kinerja, fleksibilitas, dan keluasan.
Modul inferensinya, Model Serve, mendukung 16 kerangka kerja AI, termasuk Paddle, Tensor Flow, dan PyTorch yang paling umum, serta Matlab/R untuk komputasi ilmiah dan peningkatan Xg untuk pembelajaran mesin.
Dalam hal pengoptimalan performa, penjadwal inferensi asinkron secara langsung diabstraksi pada lapisan penjadwalan untuk mencapai pekerja inferensi heterogen, meningkatkan performa seluruh server dan pemanfaatan GPU lebih dari 1 kali.
Pada saat yang sama, ini mendukung pemrosesan batch otomatis, mengklasifikasikan tugas dengan panjang berbeda, dan mengkompilasi tugas dengan ukuran yang sama ke dalam batch yang sama untuk memanfaatkan sepenuhnya sumber daya heterogen, yang dapat meningkatkan efisiensi sebesar 70% berdasarkan pemisahan asinkron.
Aplikasi dalam laporan ini terutama memeriksa efisiensi aplikasi dari setiap platform.
Yaitu, bagaimana menggunakan sumber daya yang ada untuk dengan cepat mengubah data menjadi produktivitas bisnis.
Platform AI Baidu dapat memberikan kemampuan manajemen siklus hidup penuh untuk proses pengembangan AI, mulai dari pengumpulan dan pembersihan data, hingga pengembangan dan pelatihan model, manajemen model, hingga manajemen layanan inferensi cloud dan offline.
Saat ini, kemampuan platform AI Baidu telah diekspor ke industri seperti keuangan, energi, dan transportasi. Melayani Shanghai Pudong Development Bank, Bank of Beijing, serta State Grid, China Southern Power Grid, dll.
Pada tahun 2022, jumlah pengguna cloud publik yang membayar platform AI cloud cerdas Baidu akan meningkat sebesar 49%, jumlah pelanggan yang diprivatisasi akan meningkat sebesar 32%, dan jumlah pengembang akan meningkat sebesar 1,228 juta, dengan tingkat pertumbuhan sekitar 40%; Tingkat pembelian kembali telah meningkat dari tahun ke tahun, dan tingkat pembelian kembali di industri-industri utama telah mencapai 50%.
Akhirnya, dalam hal arsitektur, desain arsitektur platform AI Baidu menerima skor penuh dalam skor Forrester.
Melalui analisis kemampuan keseluruhan platform AI Baidu, tidak sulit untuk menemukan bahwa banyak dari alat dan ide ini sejalan dengan kebutuhan baru dari tren model besar saat ini.
Bahkan, dalam konteks perubahan drastis ke arah teknologi, bukan hanya tren untuk menyesuaikan arsitektur yang ada untuk beradaptasi dengan perubahan permintaan, tetapi juga untuk mengusulkan cara-cara baru untuk menghadapinya.
Di era model besar, pola persaingan baru AI di cloud telah ditentukan sebelumnya
Jadi, dengan dampak gelombang model besar, perubahan baru apa yang telah terjadi dalam permintaan pasar untuk platform AI/ML?
Di masa lalu, banyak model CV dan NLP disebut SOTA, tetapi mereka masih lebih sering digunakan dalam bisnis non-inti di industri. Sekarang, dengan kemampuannya yang luar biasa untuk menumbangkan alur kerja tradisional, model-model besar mulai semakin dikenal, dan dianggap sebagai kunci untuk menerobos kemacetan kecerdasan di berbagai industri.
Namun, bagi vendor cloud, bukan berarti era model besar "dimulai dari nol" di era model kecil.
Bahkan, dengan pendalaman penerapan model besar, bidang teknis seperti agen semakin menarik perhatian. Intinya terletak pada kenyataan bahwa model besar didasarkan pada kemampuannya sendiri dan menghubungkan model kecil dengan penjadwalan yang matang untuk menyelesaikan masalah dalam aplikasi praktis, yang dianggap lebih cepat dan lebih berharga dalam skenario produksi.
Oleh karena itu, di "era baru" yang dibuka oleh model besar, bagi "pemimpin" platform AI/ML, akumulasi teknis di era model kecil dan inovasi teknologi di era model besar saling melengkapi dan sangat diperlukan.
Sebagai platform model besar tingkat perusahaan satu atap, Baidu Intelligent Cloud Qianfan Platform pada dasarnya adalah produk dari akumulasi mendalam Baidu di lapisan chip, lapisan kerangka kerja, lapisan model, dan lapisan aplikasi.
Hal ini diwujudkan dalam lima aspek:
Pertama, pada tingkat daya komputasi, platform cloud Qianfan cerdas Baidu dapat menyediakan layanan komputasi heterogen yang efisien dan hemat biaya.
Dalam proses pelatihan model besar, melalui strategi pelatihan paralel terdistribusi dan kemampuan interkoneksi tingkat mikrodetik, rasio akselerasi pelatihan kluster skala 10.000 kartu pada platform Baidu Qianfan dapat mencapai 95%. Pada saat yang sama, waktu pelatihan efektif cluster Vanka dapat mencapai 96%, yang sangat mengurangi biaya daya dan waktu komputasi.
Untuk model besar pihak ketiga, platform Baidu Qianfan juga telah dioptimalkan dengan cara yang ditargetkan, termasuk peningkatan Cina, peningkatan kinerja, peningkatan konteks, dan sebagainya.
Baidu mengungkapkan bahwa jumlah panggilan API model besar pada platform Qianfan Baidu terus meningkat dengan kecepatan tinggi. Saat ini, platform Baidu Qianfan telah melayani lebih dari 20.000 pelanggan.
Ketiga, bagi pelanggan yang ingin melakukan pengembangan sekunder berdasarkan model besar yang ada, platform Baidu Qianfan menyediakan rantai alat siklus hidup penuh untuk pelatihan ulang, penyempurnaan, evaluasi dan penyebaran model besar, serta 41 dataset berkualitas tinggi, yang dapat mewujudkan pengoptimalan model cepat untuk skenario bisnis tertentu.
Keempat, di tingkat aplikasi, sebagai tanggapan terhadap kebutuhan perusahaan untuk mengembangkan aplikasi asli AI berdasarkan model besar, platform Baidu Qianfan menyediakan serangkaian komponen dan kerangka kerja kemampuan.
Misalnya, ada 226 templat bawaan, sehingga pengembang dapat dengan cepat meningkatkan kualitas jawaban model besar meskipun mereka tidak terbiasa dengan rekayasa cepat.
Pada Konferensi Dunia Baidu pada 17 Oktober, Baidu Intelligent Cloud juga merilis "** Baidu Qianfan AI Native Application Development Workbench **". Secara khusus, "meja kerja" ini terdiri dari dua bagian: komponen aplikasi + kerangka kerja aplikasi.
Diantaranya, komponen AI, yaitu enkapsulasi berbasis komponen dari kemampuan model besar, termasuk komponen model bahasa besar seperti Q&A dan Chain of Thought (CoT), serta komponen multimodal seperti diagram Wensheng dan pengenalan suara.
Komponen cloud dasar mencakup layanan cloud tradisional seperti database vektor dan penyimpanan objek.
** Kerangka kerja aplikasi berorientasi pada tugas skenario tertentu **, yang dapat dipahami sebagai kombinasi efektif dari komponen aplikasi di atas berdasarkan kemampuan model besar.
Saat ini, platform Baidu Qianfan menyediakan kerangka kerja aplikasi asli AI yang umum digunakan seperti Retrieval Enhanced Generation (RAG) dan Agent.
Di antara mereka, kerangka kerja RAG dapat menggabungkan pengetahuan dalam domain kepemilikan perusahaan dengan kemampuan Q&A model besar untuk membuat jawaban yang lebih akurat untuk pengetahuan profesional.
Berdasarkan kerangka kerja RAG ini, Sany Heavy Industry dengan cepat mewujudkan pengembangan dan peluncuran aplikasi layanan pelanggan cerdas di situs web resmi.
Berdasarkan kerangka agen, model besar dapat secara otomatis membongkar tugas yang diberikan oleh manusia, secara otomatis merencanakan dan memanggil berbagai komponen untuk menyelesaikan tugas secara kolaboratif, dan pada saat yang sama memberikan umpan balik diri sesuai dengan efek penyelesaian tugas untuk meningkatkan kemampuannya sendiri.
Saat ini, berdasarkan kerangka kerja agen ini, Zhongtian Iron and Steel telah membangun "pusat penjadwalan perusahaan" yang cerdas untuk mewujudkan persepsi otomatis, dekomposisi, dan pelaksanaan instruksi tugas.
Misalnya, ketika ditemukan bahwa output baja tidak memenuhi standar, model besar dapat secara otomatis memanggil berbagai sumber daya dan API yang dikelola oleh platform untuk mengetahui alasan ketidakpatuhan, menyesuaikan jadwal produksi tepat waktu dan mengirim email untuk memberi tahu operator.
Analisis IDC percaya bahwa implementasi AI generatif dan model besar saat ini masih dalam tahap awal, dan kemampuan ini dapat diperbarui dan diulang lebih cepat di cloud publik, yang akan membawa manfaat signifikan bagi layanan cloud publik AI dalam jangka pendek.
Gartner juga menunjukkan bahwa AI generatif didorong oleh model besar, yang mengedepankan persyaratan untuk infrastruktur komputasi yang kuat dan sangat skalabel. "Cloud menyediakan solusi dan platform yang sempurna, dan pemain kunci dalam perlombaan AI generatif harus menjadi vendor cloud teratas."
Dikombinasikan dengan laporan terbaru dari Forrester, dapat dilihat bahwa untuk vendor cloud, layanan cloud AI telah menjadi fokus persaingan baru.
Dan bagaimana mengukur daya saing, sekarang kriteria evaluasi secara bertahap jelas.
Dalam analisis akhir, ada dua aspek inti:
Pertama, dari perspektif pengembang dan pengguna perusahaan, apakah kemampuan platform layanan cloud AI benar-benar dapat dengan biaya efektif memecahkan masalah praktis yang dihadapi oleh bisnis yang kompleks, serta kekurangan bakat profesional dalam proses peningkatan cerdas, terutama di bawah gelombang model besar.
Kedua, dari perspektif tren teknologi, lebih terintegrasi dengan model besar.
Tata letak platform AI Baidu dapat dianggap sebagai jawaban referensi yang diberikan oleh vendor cloud AI terkemuka dalam perubahan terbaru dalam lanskap kompetitif.
Adapun hasilnya? Dalam lebih banyak kasus pendaratan, Anda dapat melihat bab yang sebenarnya.