Mengapa MosaicML menjual $1,3 miliar hanya setelah 2 tahun didirikan?

MosaicML diakuisisi oleh raksasa data besar Databricks dengan harga sekitar US$1,3 miliar Valuasinya naik dua kali lipat dalam transaksi ini, menjadikannya akuisisi terbesar pada paruh pertama tahun ini. Ini baru berdiri selama 2 tahun dan memiliki lebih dari 60 karyawan Apa yang mendukung penilaian tinggi MosaicML?

Baru-baru ini, ada gelombang investasi dan akuisisi di bidang AI. Salesforce, sebuah perusahaan terkenal di dunia, menyuntikkan $450 juta ke dalam Anthropic, sementara Runway berhasil mengumpulkan dana sebesar $141 juta. Selain itu, Snowflake juga mengumumkan penyelesaian akuisisi Neeva, sementara raksasa domestik China Meituan mengakuisisi perusahaan AI Light Years Away seharga 2,065 miliar.

Kesepakatan paling terkenal, bagaimanapun, tidak diragukan lagi adalah akuisisi dari startup MosaicML. Dapat dipahami bahwa MosaicML diakuisisi oleh raksasa data besar Databricks dengan harga sekitar US$1,3 miliar, dan valuasinya meningkat enam kali lipat dalam transaksi ini, menjadikannya akuisisi terbesar pada paruh pertama tahun ini. Ini baru berdiri selama 2 tahun dan memiliki lebih dari 60 karyawan Apa yang mendukung penilaian tinggi MosaicML?

Databricks Mengakuisisi MosaicML untuk Mempercepat Demokratisasi Teknologi AI Generatif

Databricks baru-baru ini secara resmi mengumumkan bahwa mereka telah mengakuisisi MosaicML, startup kecerdasan buatan generatif, dengan harga sekitar $1,3 miliar (sekitar 9,3 miliar yuan) untuk menyediakan layanan guna membangun alat mirip ChatGPT untuk perusahaan.

Setelah akuisisi, MosaicML akan menjadi bagian dari platform Databricks Lakehouse.Seluruh tim dan teknologi MosaicML akan berada di bawah panji Databricks, menyediakan platform terpadu bagi perusahaan untuk mengelola aset data dan dapat menggunakan data hak milik mereka sendiri untuk membangun, memiliki dan melindungi Model AI generatif sendiri.

MosaicML adalah perusahaan AI generatif yang sangat muda, didirikan di San Francisco pada tahun 2021. Perusahaan ini hanya mengungkapkan satu putaran pembiayaan kepada publik dan hanya memiliki 62 karyawan. Pada putaran terakhir pembiayaan, valuasinya adalah 220 juta dolar AS, artinya valuasi akuisisi MosaicML langsung melonjak 6 kali lipat. Kesepakatan itu adalah akuisisi terbesar yang diumumkan di bidang AI generatif sepanjang tahun ini. Belum lama ini, raksasa cloud computing Snowflake baru saja mengumumkan akuisisi perusahaan AI generatif lainnya, Neeva. Setelah hiruk pikuk investasi selama beberapa bulan, gelombang besar akuisisi korporasi terhadap startup AI generatif tampaknya sedang berlangsung.

Databricks berasal dari UC Berkeley dan berpartisipasi dalam pengembangan proyek Apache Spark. Sebagai raksasa penyimpanan dan analisis data, pada tahun 2022, ini akan bernilai $31 miliar, membantu perusahaan besar seperti AT&T, Shell, dan Walgreens memproses data. Beberapa waktu lalu, saya baru saja membuka Dolly model besar saya sendiri, yang bertujuan untuk mendapatkan efek yang mirip dengan ChatGPT dengan parameter yang lebih sedikit. Setelah komputasi awan menjadi lebih populer, konsep "integrasi danau dan gudang" yang diusulkan oleh Spark sangat memengaruhi sejumlah perusahaan rintisan data besar. Sejak didirikan pada tahun 2013, Databricks telah berkembang pesat menjadi perusahaan Data Infra terpanas di dunia. Tahun lalu, Databricks mengumumkan pendapatan tahunan lebih dari $1 miliar, dan setelah menyelesaikan putaran pembiayaan terakhir pada Agustus 2021, valuasi terbarunya mencapai $38 miliar.

Keunggulan model seri MosaicML MPT

Model seri MPT MosaicML merupakan subkelas dari kelas dasar HuggingFace PretrainedModel dan sepenuhnya kompatibel dengan ekosistem HuggingFace. Model MPT-7B adalah salah satu model MosaicML paling populer dengan miliaran parameter dan dapat menangani lebih dari 2.000 tugas pemrosesan bahasa alami. Di antara mereka, lapisan pengoptimalan MPT-7B mencakup FlashAttention dan norma lapisan presisi rendah, dll., Yang dapat membuat model 2-7 kali lebih cepat daripada metode pelatihan tradisional, dan skalabilitas sumber daya yang hampir linier memastikan bahwa model dengan miliaran parameter dapat digunakan di Kereta dalam hitungan jam, bukan hari. MosaicML juga merilis model MPT-30B bahasa besar open source baru yang tersedia secara komersial, yang memiliki 30 miliar parameter dan mengungguli GPT-3.

Sumber data: Evaluasi MT-Bench model mainstream MosaicML

Keunggulan model seri MPT adalah efisiensi tinggi dan biaya rendah. Kompleksitas model kecerdasan buatan yang menggunakan sejumlah besar data untuk "pelatihan" telah meningkat tajam. Melatih sebuah model sekarang menelan biaya setidaknya jutaan dolar, yang umumnya tidak terjangkau untuk perusahaan kecil dan menengah kecuali perusahaan besar. Model seri MPT MosaicML memungkinkan perusahaan untuk melatih model bahasa mereka sendiri dengan biaya lebih rendah dan dengan efisiensi lebih tinggi, sehingga mereka dapat lebih mudah menerapkan teknologi AI generatif dan mencapai kinerja bisnis yang lebih baik. Sebagian besar model bahasa sumber terbuka hanya dapat menangani urutan dengan paling banyak beberapa ribu token (lihat Gambar 1). Namun, dengan platform MosaicML dan satu node 8xA100-40GB, pengguna dapat dengan mudah menyempurnakan MPT-7B untuk menangani panjang konteks hingga 65k. Kemampuan untuk menangani adaptasi panjang konteks ekstrim ini berasal dari ALiBi, salah satu pilihan arsitektural utama dalam MPT-7B.

Misalnya, teks lengkap The Great Gatsby memiliki kurang dari 68k Token. Dalam satu pengujian, model StoryWriter membaca The Great Gatsby dan menghasilkan sebuah epilog. Salah satu epilog pembuatan model ditunjukkan pada Gambar 2. Penulis Cerita membaca The Great Gatsby dalam waktu sekitar 20 detik (sekitar 150.000 kata per menit). Karena panjang urutan yang lebih panjang, kecepatan "mengetik" lebih lambat daripada model MPT-7B lainnya, sekitar 105 kata per menit. Meskipun StoryWriter telah disesuaikan dengan panjang konteks 65k, ALiBi memungkinkan model untuk menyimpulkan input yang lebih panjang daripada yang dilatihkan: 68k token dalam kasus The Great Gatsby dan hingga 84k token dalam pengujian.

Gambar 2: MPT-7B-StoryWriter-65k+ menulis epilog untuk The Great Gatsby. Hasil dari epilog adalah untuk memberikan teks lengkap "The Great Gatsby" (sekitar 68k token) sebagai input ke model, diikuti dengan kata "epilog" dan memungkinkan model untuk terus menghasilkan.

Mempopulerkan teknologi AI generatif

Teknologi AI generatif adalah cabang kecerdasan buatan yang menggunakan data dalam jumlah besar dan algoritme pembelajaran mendalam untuk secara otomatis menghasilkan konten seperti teks asli, gambar, dan kode komputer. Munculnya teknologi ini memungkinkan orang untuk memproses dan menganalisis data dengan lebih nyaman dan melayani kebutuhan manusia dengan lebih baik. Dengan pesatnya perkembangan data besar dan teknologi kecerdasan buatan, teknologi AI generatif telah banyak digunakan dalam pemrosesan bahasa alami, pengenalan gambar dan realitas virtual, dan bidang lainnya. Misalnya, di bidang pemrosesan bahasa alami, GPT-4 telah menjadi salah satu model AI generatif paling populer, yang dapat digunakan untuk tugas seperti membuat artikel, menerjemahkan bahasa, dan menjawab pertanyaan. Di bidang pengenalan gambar, StyleGAN2 dapat menghasilkan gambar berkualitas tinggi, yang dapat digunakan dalam pengembangan game, produksi film dan televisi, serta realitas virtual.

Naveen Rao, CEO MosaicML, sebelumnya menyatakan bahwa sejak 2018, kompleksitas model kecerdasan buatan yang menggunakan data dalam jumlah besar untuk "pelatihan" telah meningkat tajam, dan melatih model sekarang menelan biaya setidaknya jutaan dolar. umumnya tidak mampu membelinya. Setelah akuisisi ini, produk gabungan dari platform Lakehouse Databricks dan teknologi MosaicML akan memungkinkan perusahaan untuk menggunakan data milik mereka sendiri untuk melatih dan membangun model AI generatif secara sederhana, cepat, dan dengan biaya rendah. tempat. Menurut Databricks, dengan platform dan dukungan teknis dari Databricks dan MosaicML, biaya pelatihan dan penggunaan LLM untuk perusahaan akan berkurang secara signifikan, dan diperkirakan akan turun hingga ribuan dolar. Ini memfasilitasi mempopulerkan AI generatif.

Signifikansi akuisisi Databricks atas MosaicML

Tujuan utama akuisisi MosaicML oleh Databricks adalah untuk mempercepat pengembangan dan demokratisasi teknologi AI generatif. Dengan mengintegrasikan teknologi dan sumber daya kedua perusahaan, Databricks dapat memenuhi kebutuhan pelanggan dengan lebih baik dan memberikan solusi yang lebih efisien dan nyaman. Secara khusus, akuisisi tersebut akan membawa perubahan pada aspek-aspek berikut:

1. Model bahasa besar yang lebih efisien

Setelah Databricks mengakuisisi MosaicML, ia dapat mengintegrasikan model seri MPT ke dalam platform Lakehouse untuk memberi pelanggan model bahasa besar yang lebih efisien dan berbiaya lebih rendah. Ini akan membantu perusahaan menangani tugas pemrosesan bahasa alami dengan lebih baik dan meningkatkan efisiensi dan akurasi bisnis.

2. Kecepatan latihan model lebih cepat

Model seri MPT MosaicML menghadirkan pelatihan cepat, yang akan membantu Databricks menyediakan layanan pelatihan model yang lebih cepat. Ini sangat penting untuk bisnis yang perlu merespons permintaan pasar dengan cepat, membantu mereka memenuhi kebutuhan pelanggan dengan lebih baik.

3. Demokratisasi yang lebih besar

Akuisisi Databricks atas MosaicML juga berarti bahwa demokratisasi teknologi AI generatif akan semakin meningkat. Model seri MPT MosaicML dapat memudahkan perusahaan kecil dan menengah untuk melatih model bahasa mereka sendiri, sehingga mereka dapat menerapkan teknologi AI generatif dengan lebih baik dan mencapai kinerja bisnis yang lebih baik. Ini akan membantu mempromosikan pengembangan dan penerapan teknologi AI generatif, dan mempromosikan mempopulerkan dan mengembangkan teknologi kecerdasan buatan.

Ringkas

Aplikasi AI generatif dirancang untuk menghasilkan teks mentah, gambar, dan kode komputer berdasarkan isyarat bahasa alami pengguna. Ketertarikan pada teknologi telah melonjak sejak startup kecerdasan buatan OpenAI meluncurkan ChatGPT, chatbot AI generatif online, November lalu. "Setiap organisasi harus mendapat manfaat dari revolusi AI dan memiliki kontrol lebih besar atas bagaimana datanya digunakan. Databricks dan MosaicML memiliki peluang luar biasa untuk mendemokratisasi AI dan menjadikan Lakehouse sebagai pusat kekuatan generasi bangunan Tempat terbaik untuk kecerdasan buatan, kata Ali Ghodsi, salah satu pendiri dan CEO Databricks.

Signifikansi akuisisi Databricks atas MosaicML tidak hanya untuk mempercepat pengembangan dan demokratisasi teknologi AI generatif, tetapi juga untuk mengintegrasikan teknologi dan sumber daya kedua perusahaan untuk menyediakan solusi yang lebih efisien dan nyaman bagi pelanggan. Dengan pesatnya perkembangan dan penerapan teknologi kecerdasan buatan, teknologi AI generatif akan memainkan peran yang semakin penting.Akuisisi MosaicML oleh Databricks juga mencerminkan pentingnya dan investasi berbagai perusahaan ke arah ini. Perusahaan seperti Anthropic dan OpenAI melisensikan model bahasa off-the-shelf untuk bisnis, yang kemudian membangun aplikasi AI generatif di atasnya. Peluang telah diciptakan untuk startup seperti MosaicML, didorong oleh permintaan komersial yang kuat untuk model ini. Dari akuisisi Snowflake dan Databricks yang berturut-turut, kita dapat melihat bahwa perusahaan teknologi besar secara bertahap beralih dari penelitian dan pengembangan independen dan investasi strategis ke tahap merger dan akuisisi untuk teknologi AI generatif.

Sumber Referensi: