Apa kendala terbesar yang menghambat pengembangan AI? Beberapa tahun yang lalu, jawabannya mungkin berbeda-beda. Namun kini, karena model berukuran besar sudah lazim, hanya ada satu jawaban untuk pertanyaan ini—tidak cukup daya komputasi!
Atau dengan kata lain, chip komputasi AI khusus Nvidia saja tidak cukup.
Siapa pun yang mengendalikan chip AI Nvidia akan mengendalikan masa depan AI.
Sekarang, ada perusahaan seperti itu, yang memiliki puluhan ribu "kartu penghitung" AI Nvidia di tangannya, dan pelanggannya mencakup banyak raksasa AI seperti OpenAI dan Microsoft.
Sebagai "calo daya komputasi AI", ** perusahaan bernama CoreWeave ini telah mencapai penilaian perusahaan sebesar 8 miliar dolar AS dalam 4 tahun**. Selain menerima investasi eksklusif NVIDIA, CoreWeave juga menggunakan chip NVIDIA sebagai jaminan untuk memperoleh pembiayaan utang sebesar US$2,3 miliar dari institusi terkemuka seperti Blackstone dan Coatue.
Tidak ada yang bisa menghentikan ekspansi gila-gilaan CoreWeave. Bagaimana cara mereka menangani Nvidia, dari perusahaan "penambangan" mata uang kripto, hingga raksasa "infrastruktur daya komputasi" AI?
01 Dari "Kartu Penambangan" ke "Kartu Penghitungan"
Tim pendiri CoreWeave terdiri dari tiga orang yaitu Michael Intrator, Brian Venturo dan Brannin McBee. Ketiganya awalnya bekerja di bidang keuangan dan menjalankan hedge fund dan kantor keluarga.
Ketika mereka masih mengelola dana tersebut di New York, kegilaan penambangan mata uang kripto belum surut. Awalnya, mereka membeli GPU pertama hanya untuk mendapatkan penghasilan tambahan, dan kemudian mereka membeli lebih banyak lagi. Meja di Wall Street penuh dengan GPU .
“Pada tahun 2016, kami membeli GPU pertama kami, menyambungkannya, meletakkannya di meja biliar di kantor kami di Manhattan yang menghadap ke East River, dan menambang blok pertama di jaringan Ethereum. "Kenang CEO CoreWeave Michael Intrator dalam blog tahun 2021 pos.
Tak lama kemudian, pada tahun 2017, mereka resmi mengubah bisnis sampingannya menjadi sebuah perusahaan.Nama perusahaan tersebut awalnya terkait dengan cryptocurrency dan kemudian diubah menjadi CoreWeave. Ketika mereka memilih untuk mengucapkan selamat tinggal kepada Wall Street, sama seperti para taipan Silicon Valley yang ingin memulai bisnis di garasi mereka, mereka memindahkan perangkat keras GPU ke dalam garasi.Namun, garasi ini tidak berada di Silicon Valley di Pantai Barat, melainkan di Pantai Barat. pinggiran kota New Jersey di Pantai Timur. Itu milik salah satu pendirinya. Kakek laki-laki.
Tiga pendiri CoreWeave Michael Intrator (kiri), Brian Venturo (tengah) dan Brannin McBee (kanan)｜CoreWeave
Dalam dekade terakhir, GPU telah menjadi mesin penting bagi ledakan cryptocurrency dan teknologi kecerdasan buatan. Pada akhir tahun 2018, CoreWeave menjadi salah satu penambang Ethereum terbesar di Amerika Utara, memiliki lebih dari 50.000 GPU, mencakup lebih dari 1% jaringan Ethereum.
Selama periode ini, beberapa orang juga mulai memahami keinginan perusahaan lain terhadap sumber daya GPU. Mereka juga menyadari bahwa tidak ada keunggulan kompetitif yang bertahan lama di bidang mata uang kripto karena pasar sangat kompetitif dan sangat dipengaruhi oleh harga listrik.
Ketika harga mata uang kripto anjlok pada tahun 2018 dan 2019, mereka memutuskan untuk melakukan diversifikasi ke area lain yang lebih stabil tetapi juga membutuhkan banyak komputasi GPU. Mereka fokus pada tiga bidang utama, yaitu kecerdasan buatan, hiburan media, dan ilmu kehidupan,** dan mulai tahun 2019, mereka akan fokus pada pembelian chipset GPU tingkat perusahaan, membangun infrastruktur cloud khusus, dan menyesuaikan bisnis mereka dengan chip Nvidia**.
Ketika bisnis baru berada di jalur yang benar, bisnis penambangan Ethereum secara bertahap terpinggirkan. Keputusan untuk bertransformasi terbukti tepat dan membawa keberuntungan. Tak satu pun dari para pendiri yang memperkirakan gelombang AI yang akan datang, yang memungkinkan CoreWeave secara bertahap berkembang dari kantor kecil ke pusat data di seluruh negeri untuk memenuhi permintaan pasar AI yang terus berkembang.
Menurut salah satu pendirinya, Pendapatan CoreWeave akan mencapai sekitar US$30 juta pada tahun 2022 dan diperkirakan akan melebihi US$500 juta pada tahun 2023, meningkat lebih dari 10 kali lipat, dan perusahaan ini telah menandatangani kontrak senilai hampir US$2 miliar. . Tahun ini mereka mengumumkan investasi sebesar US$1,6 miliar pada pusat data di Texas, dengan rencana untuk memperluas menjadi 14 pusat data pada akhir tahun.
02 AI "Jaringan Listrik"
Hanya beberapa tahun setelah CoreWeave didirikan, GPU yang digunakan untuk AI telah menjadi salah satu aset paling berharga di dunia. Seperti lelucon Elon Musk dan yang lainnya, sekarang membeli GPU lebih sulit daripada membeli obat. Ketika AI generatif meramaikan pasar, permintaan akan GPU meningkat secara dramatis, dan CoreWeave berada pada posisi yang tepat untuk menyediakan sumber daya yang dibutuhkan perusahaan AI.
Sebagai penyedia layanan cloud, CoreWeave menyediakan layanan penyewaan sumber daya komputasi berkinerja tinggi, terutama bagi pelanggan yang membutuhkan banyak daya komputasi. Model pertama adalah infrastruktur sebagai layanan, menyewa GPU per jam. Pelanggan hanya perlu membayar sesuai dengan waktu penggunaan dan jumlah sumber daya komputasi. Untuk membayar biaya**, pelanggan besar juga memiliki fasilitas penyesuaian. Spanduknya adalah "35 kali lebih cepat dibandingkan penyedia cloud tradisional, biaya 80% lebih rendah, dan latensi 50% lebih rendah." Perusahaan ini berfokus pada layanan komputasi berkinerja tinggi, tidak seperti penyedia layanan cloud pada umumnya yang juga menyediakan penyimpanan, jaringan, dan layanan lainnya.
Tahun lalu, para eksekutif CoreWeave membeli chip terbaru Nvidia dalam jumlah besar tepat saat Stable Diffusion dan Midjourney dirilis. Belakangan, ketika mereka melihat peluncuran ChatGPT, mereka menyadari bahwa investasi sebesar itu masih jauh dari cukup. Orang-orang ini tidak hanya membutuhkan ribuan GPU, namun jutaan.
Mereka menggambarkan apa yang coba dilakukan CoreWeave sebagai “membangun jaringan listrik untuk pasar AI,” dan berpendapat bahwa “jika hal-hal ini tidak dibangun, maka AI tidak akan berkembang.”
CoreWeave membangun pusat data baru di Texas｜CoreWeave
Brannin McBee, chief strategy officer CoreWeave, mengatakan dalam podcast bahwa pada akhir tahun lalu, gabungan semua perusahaan komputasi hiperskala, termasuk Amazon, Google, Microsoft, dan Oracle, termasuk CoreWeave, menyediakan total sekitar 50 10,000 GPU** , dan pada akhir tahun ini, mungkin akan mendekati 1 juta.
Dalam hal tingkat pertumbuhan industri dan margin keuntungan, ia yakin bahwa permintaan pasar AI dapat dipecah menjadi dua tahap: model pelatihan dan pelaksanaan tugas inferensi. Saat ini, terdapat kekurangan chip dalam tahap pelatihan,** dan tahap inferensi akan menjadi peningkatan utama permintaan di masa depan. Titik di mana permintaan riil berada**.
Untuk model perusahaan AI, setelah keluar dari fase pelatihan, dalam dua tahun pertama peluncuran produk, setidaknya diperlukan satu juta GPU untuk eksekusi inferensi pada fase komersialisasi, namun infrastruktur AI global tidak cukup untuk memenuhi hal ini. Hal ini akan menjadi tantangan jangka panjang, dan dibutuhkan setidaknya dua tahun lagi sebelum kekurangan pasokan GPU mulai berkurang.
Saat ini, sebagian besar uang panas yang diinvestasikan di bidang AI harus digunakan dalam komputasi awan. Pada bulan Juni tahun ini, CNBC melaporkan bahwa Microsoft "telah setuju untuk menghabiskan miliaran dolar untuk infrastruktur komputasi awan startup CoreWeave selama beberapa tahun ke depan." Startup Star AI seperti Inflection AI baru-baru ini mengumpulkan dana sebesar $1,3 miliar untuk membangun cluster GPU skala besar, dan pilihan perusahaan adalah CoreWeave.
03 Pegang paha Nvidia
Pada bulan April tahun ini, CoreWeave menyelesaikan putaran pembiayaan Seri B senilai $221 juta. Investornya termasuk pembuat chip Nvidia, mantan CEO GitHub Nat Friedman, dan mantan eksekutif Apple Daniel Gross. Sebulan kemudian, perusahaan mengumumkan telah menerima investasi tambahan sebesar US$200 juta, sehingga total putaran pendanaan menjadi US$421 juta.
Pada bulan Agustus, CoreWeave memperoleh pendanaan utang lagi sebesar $2,3 miliar dengan menggunakan NVIDIA H100 yang banyak dicari sebagai jaminan. Dana tersebut akan digunakan untuk memperoleh lebih banyak chip dan membangun lebih banyak pusat data.
Menurut berita terbaru dari Bloomberg, CoreWeave saat ini sedang bersiap untuk menjual 10% sahamnya, dan valuasi perusahaannya telah mencapai maksimum $8 miliar.
Pendiri Nvidia Jensen Huang mengatakan dalam panggilan konferensi pendapatan perusahaan tahun ini: "Anda akan melihat sejumlah besar penyedia layanan cloud khusus GPU baru." "Salah satu yang terkenal adalah CoreWeave, dan mereka melakukan pekerjaan dengan sangat baik."
Hubungan CoreWeave dengan NVIDIA telah dimulai pada tahun 2020. Perusahaan mengumumkan pada tahun itu bahwa mereka akan bergabung dengan program penyedia layanan cloud dari Jaringan Mitra NVIDIA, dengan tujuan utama memperkenalkan akselerasi GPU ke cloud. Pada Konferensi Grafis Komputer Siggraph 2023 baru-baru ini, Jen-Hsun Huang muncul, dan setiap stan CoreWeave secara khusus ditandai "Didukung oleh NVIDIA" dalam huruf kecil.
Jen-Hsun Huang muncul di stan CoreWeave | CoreWeave
Para eksekutif NVIDIA, termasuk Jen-Hsun Huang, tidak segan-segan mendukung CoreWeave.
Direktur Global Pengembangan Bisnis, Cloud, dan Mitra Strategis NVIDIA menyebut CoreWeave sebagai "penyedia solusi cloud komputasi elit pertama di jaringan mitra NVIDIA. Mereka memberi pelanggan beragam pilihan komputasi, dari A100 hingga A40, dalam skala yang belum pernah terjadi sebelumnya, dan memberikan hasil kelas dunia dalam kecerdasan buatan, pembelajaran mesin, efek visual, dan banyak lagi. NVIDIA bangga dengan CoreWeave.” Eksekutif Nvidia lainnya memposisikannya sebagai “platform komputasi dengan kinerja tertinggi dan paling hemat energi."
Pujian tersebut juga terkait dengan kepentingan Nvidia sendiri. Nvidia perlu memastikan bahwa pengguna akhir komputasi mereka dapat mengakses sumber daya komputasi mereka dengan kinerja setinggi mungkin, dalam skala besar, seperti halnya pelanggan ingin mendapatkan chip generasi baru segera setelah dirilis. Hal ini juga yang membuat mereka tidak pelit mempromosikan kerjasamanya dengan CoreWeave, dan tidak ada salahnya untuk lebih mengembangkan “downline” setianya**.
CoreWeave dibangun untuk memenuhi standar dan persyaratan NVIDIA, beroperasi dalam skala besar, menghadirkan chip generasi baru secara online dalam waktu beberapa bulan setelah peluncurannya, dibandingkan dengan waktu yang dibutuhkan oleh perusahaan komputasi hiperskala tradisional. Ini memberi CoreWeave akses tinggi dalam NVIDIA.
Brannin McBee berkata, "Sebagai sebuah bisnis, hal ini membuat kami mendapatkan kepercayaan di mata Nvidia, karena mereka tahu bahwa infrastruktur kami akan dikirimkan ke pelanggan lebih cepat dibandingkan perusahaan lain mana pun di pasar, dan akan dikirimkan dalam konfigurasi kinerja tertinggi. ."
04 Geng Keras Raksasa Lembah Silikon
Namun, bagaimana CoreWeave menangani dirinya dalam menghadapi persaingan dari raksasa Silicon Valley?
Dari perspektif industri, Pesaing CoreWeave dalam operasi infrastruktur AI mencakup raksasa teknologi seperti Microsoft, Google, dan Amazon.
Pada akhir Agustus, CEO Google Cloud Thomas Kurian mengatakan pada konferensi tahunan Next bahwa lebih dari 50% startup AI di industri ini dan lebih dari 70% unicorn AI generatif adalah pelanggan Google Cloud.
Bagaimana sebuah perusahaan start-up yang bernilai $8 miliar bisa terhindar dari kehancuran oleh sekelompok raksasa bernilai triliunan dolar? Jawaban langsungnya terletak pada: fleksibilitas dan fokus bisnis dari perusahaan-perusahaan kecil itu sendiri, serta lanskap strategis yang sensitif di antara perusahaan-perusahaan teknologi.
Para eksekutif CoreWeave suka membuat analogi: "General Motors bisa membuat mobil listrik, tapi itu tidak berarti mobil itu akan menjadi Tesla." Mereka percaya bahwa AI menghadirkan tantangan yang tidak bisa ditangani oleh platform cloud tradisional, sehingga memungkinkan perusahaan berkembang untuk memiliki keunggulan dibandingkan pemain mapan yang terpaksa beradaptasi.
Raksasa Silicon Valley seperti Amazon, Google, dan Microsoft ibarat kapal induk, yang membutuhkan lebih banyak waktu dan ruang setiap kali mereka menyesuaikan arah. Dalam pandangannya, mereka memerlukan waktu untuk beradaptasi dengan cara baru dalam membangun infrastruktur AI, dan biasanya diperlukan waktu beberapa saat setelah chip terbaru dirilis untuk menyediakan akses berskala besar. Sekarang orang-orang memberikan perhatian lebih besar untuk membangun superkomputer, yang memerlukan tugas kolaboratif yang tinggi antara komputer-komputer tersebut dan throughput data yang lebih tinggi, namun sumber daya utama dari raksasa tersebut tidak digunakan di sini.
“Saat ketiga raksasa ini membangun layanan cloud, mereka melakukannya untuk melayani ratusan ribu atau bahkan jutaan kasus penggunaan tujuan umum dalam basis pengguna mereka, dan di area tersebut, mungkin hanya ada sebagian kecil dari kapasitas yang didedikasikan untuk mereka. ke komputasi GPU.” kata Brian Venturo, Chief Technology Officer CoreWeave.
CoreWeave percaya bahwa fleksibilitas dan profesionalismenya memungkinkannya menonjol di bidang infrastruktur AI, memiliki keunggulan kompetitif dalam kinerja dan efektivitas biaya, dan lebih cocok untuk aplikasi AI. CoreWeave memiliki lebih dari 200 karyawan dan lebih banyak pelanggan daripada karyawan, namun CoreWeave telah mencapai kesepakatan dengan Inflection AI dan bahkan pendukung OpenAI, Microsoft, untuk menyediakan sistem dan chip kustom dengan konfigurasi lebih banyak daripada yang dilengkapi untuk komputasi tujuan umum. Server lebih efisien**.
Saat ini dalam hal skala, CoreWeave mengklaim memiliki lebih dari 45.000 GPU Nvidia kelas atas yang dapat digunakan sesuai permintaan. Bukan hanya kuantitas yang penting, namun akses yang diberikan. Dalam hal pemilihan, CoreWeave mengklaim mempertahankan pilihan GPU Nvidia terluas di industri untuk berbagai kebutuhan komputasi. Mereka merancang sistem untuk beban kerja yang "berukuran tepat", mengklaim "tidak lebih dan tidak kurang: tepat".
Mengenai harga, spanduk CoreWeave "80% lebih murah dibandingkan pesaing".
Di sisi lain, pengambilan keputusan Nvidia juga penting. Dengan mengendalikan sumber daya GPU yang langka dan memilih dari siapa barang tersebut akan diambil, hal ini juga akan mempengaruhi keseluruhan pasar. Meskipun pasokannya terbatas, Nvidia telah mengalokasikan sejumlah besar chip AI terbaru ke CoreWeave, sehingga mengalihkan pasokan dari penyedia layanan cloud terkemuka termasuk AWS. Alasannya adalah perusahaan-perusahaan ini mencoba mengembangkan chip AI mereka sendiri untuk mengurangi ketergantungan mereka pada Nvidia.
Para eksekutif CoreWeave berpandangan bahwa "tidak membuat chip sendiri jelas bukan suatu kerugian" karena hal itu akan membantu mereka memperjuangkan lebih banyak GPU dari Nvidia. Bagaimanapun, mereka tidak memiliki konflik kepentingan dengan Nvidia, yang mungkin tidak terjadi pada raksasa Silicon Valley yang memiliki selera besar.
Namun, raksasa teknologi ini masih menjadi pelanggan besar Nvidia. Pada akhir Agustus tahun ini, Huang Renxun muncul di konferensi tahunan Google Cloud Berikutnya dan mengumumkan kerja sama baru dengan Google.Superkomputer GPU Google A3 VM akan diluncurkan ke pasar pada bulan September, dilengkapi dengan GPU H100 Nvidia.
Pada konferensi Google Cloud Next2023, Huang Renxun tampak mengumumkan kerja samanya dengan Google Cloud | Google Cloud
Selain itu, jika tiba-tiba muncul chip baru yang performanya lebih baik dari NVIDIA, atau tidak kalah dengannya, apa dampaknya terhadap bisnis CoreWeave?
Brannin McBee percaya bahwa masa pakai chip yang sama mencakup dua hingga tiga tahun pertama untuk pelatihan model dan kemudian empat hingga lima tahun untuk eksekusi inferensi, dan tidak banyak risiko dalam jangka pendek. Selain itu, Nvidia bekerja keras untuk membangun ekosistem terbuka di sekitar perangkat kerasnya untuk meningkatkan keterikatan industri terhadap teknologi chipnya.Produsen lain jelas sangat termotivasi untuk memasuki bidang ini, namun mereka kekurangan ekosistem, yang merupakan celah yang tidak dapat diabaikan.
Dengan tidak adanya teknologi manufaktur chip hard-core, keunggulan dan kesuksesan relatif CoreWeave terkait erat dengan rantai pasokan dan stabilitas mitranya. Ketika industri kekurangan pasokan GPU, ketergantungan ini masih menjadi keuntungan.
Dari "tambang" mata uang kripto hingga "tambang kekuatan komputasi" kecerdasan buatan, sejarah kesuksesan CoreWeave sangat mencengangkan - sebutir emas di masa dapat membuat perusahaan rintisan berkembang pesat meskipun perusahaan tersebut jatuh. Di era pertumbuhan AI yang pesat ini, keinginan industri akan kekuatan komputasi telah menciptakan perusahaan Nvidia yang bernilai triliunan dolar, dan hal ini tentunya juga menciptakan perusahaan seperti CoreWeave yang dapat memanfaatkan peluang dan melakukan yang terbaik.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
NVIDIA sangat mendukung "calo daya komputasi AI" ini dengan valuasi 56 miliar dalam 4 tahun
Apa kendala terbesar yang menghambat pengembangan AI? Beberapa tahun yang lalu, jawabannya mungkin berbeda-beda. Namun kini, karena model berukuran besar sudah lazim, hanya ada satu jawaban untuk pertanyaan ini—tidak cukup daya komputasi!
Atau dengan kata lain, chip komputasi AI khusus Nvidia saja tidak cukup.
Siapa pun yang mengendalikan chip AI Nvidia akan mengendalikan masa depan AI.
Sekarang, ada perusahaan seperti itu, yang memiliki puluhan ribu "kartu penghitung" AI Nvidia di tangannya, dan pelanggannya mencakup banyak raksasa AI seperti OpenAI dan Microsoft.
Sebagai "calo daya komputasi AI", ** perusahaan bernama CoreWeave ini telah mencapai penilaian perusahaan sebesar 8 miliar dolar AS dalam 4 tahun**. Selain menerima investasi eksklusif NVIDIA, CoreWeave juga menggunakan chip NVIDIA sebagai jaminan untuk memperoleh pembiayaan utang sebesar US$2,3 miliar dari institusi terkemuka seperti Blackstone dan Coatue.
Tidak ada yang bisa menghentikan ekspansi gila-gilaan CoreWeave. Bagaimana cara mereka menangani Nvidia, dari perusahaan "penambangan" mata uang kripto, hingga raksasa "infrastruktur daya komputasi" AI?
01 Dari "Kartu Penambangan" ke "Kartu Penghitungan"
Tim pendiri CoreWeave terdiri dari tiga orang yaitu Michael Intrator, Brian Venturo dan Brannin McBee. Ketiganya awalnya bekerja di bidang keuangan dan menjalankan hedge fund dan kantor keluarga.
Ketika mereka masih mengelola dana tersebut di New York, kegilaan penambangan mata uang kripto belum surut. Awalnya, mereka membeli GPU pertama hanya untuk mendapatkan penghasilan tambahan, dan kemudian mereka membeli lebih banyak lagi. Meja di Wall Street penuh dengan GPU .
“Pada tahun 2016, kami membeli GPU pertama kami, menyambungkannya, meletakkannya di meja biliar di kantor kami di Manhattan yang menghadap ke East River, dan menambang blok pertama di jaringan Ethereum. "Kenang CEO CoreWeave Michael Intrator dalam blog tahun 2021 pos.
Tak lama kemudian, pada tahun 2017, mereka resmi mengubah bisnis sampingannya menjadi sebuah perusahaan.Nama perusahaan tersebut awalnya terkait dengan cryptocurrency dan kemudian diubah menjadi CoreWeave. Ketika mereka memilih untuk mengucapkan selamat tinggal kepada Wall Street, sama seperti para taipan Silicon Valley yang ingin memulai bisnis di garasi mereka, mereka memindahkan perangkat keras GPU ke dalam garasi.Namun, garasi ini tidak berada di Silicon Valley di Pantai Barat, melainkan di Pantai Barat. pinggiran kota New Jersey di Pantai Timur. Itu milik salah satu pendirinya. Kakek laki-laki.
Dalam dekade terakhir, GPU telah menjadi mesin penting bagi ledakan cryptocurrency dan teknologi kecerdasan buatan. Pada akhir tahun 2018, CoreWeave menjadi salah satu penambang Ethereum terbesar di Amerika Utara, memiliki lebih dari 50.000 GPU, mencakup lebih dari 1% jaringan Ethereum.
Selama periode ini, beberapa orang juga mulai memahami keinginan perusahaan lain terhadap sumber daya GPU. Mereka juga menyadari bahwa tidak ada keunggulan kompetitif yang bertahan lama di bidang mata uang kripto karena pasar sangat kompetitif dan sangat dipengaruhi oleh harga listrik.
Ketika harga mata uang kripto anjlok pada tahun 2018 dan 2019, mereka memutuskan untuk melakukan diversifikasi ke area lain yang lebih stabil tetapi juga membutuhkan banyak komputasi GPU. Mereka fokus pada tiga bidang utama, yaitu kecerdasan buatan, hiburan media, dan ilmu kehidupan,** dan mulai tahun 2019, mereka akan fokus pada pembelian chipset GPU tingkat perusahaan, membangun infrastruktur cloud khusus, dan menyesuaikan bisnis mereka dengan chip Nvidia**.
Ketika bisnis baru berada di jalur yang benar, bisnis penambangan Ethereum secara bertahap terpinggirkan. Keputusan untuk bertransformasi terbukti tepat dan membawa keberuntungan. Tak satu pun dari para pendiri yang memperkirakan gelombang AI yang akan datang, yang memungkinkan CoreWeave secara bertahap berkembang dari kantor kecil ke pusat data di seluruh negeri untuk memenuhi permintaan pasar AI yang terus berkembang.
Menurut salah satu pendirinya, Pendapatan CoreWeave akan mencapai sekitar US$30 juta pada tahun 2022 dan diperkirakan akan melebihi US$500 juta pada tahun 2023, meningkat lebih dari 10 kali lipat, dan perusahaan ini telah menandatangani kontrak senilai hampir US$2 miliar. . Tahun ini mereka mengumumkan investasi sebesar US$1,6 miliar pada pusat data di Texas, dengan rencana untuk memperluas menjadi 14 pusat data pada akhir tahun.
02 AI "Jaringan Listrik"
Hanya beberapa tahun setelah CoreWeave didirikan, GPU yang digunakan untuk AI telah menjadi salah satu aset paling berharga di dunia. Seperti lelucon Elon Musk dan yang lainnya, sekarang membeli GPU lebih sulit daripada membeli obat. Ketika AI generatif meramaikan pasar, permintaan akan GPU meningkat secara dramatis, dan CoreWeave berada pada posisi yang tepat untuk menyediakan sumber daya yang dibutuhkan perusahaan AI.
Sebagai penyedia layanan cloud, CoreWeave menyediakan layanan penyewaan sumber daya komputasi berkinerja tinggi, terutama bagi pelanggan yang membutuhkan banyak daya komputasi. Model pertama adalah infrastruktur sebagai layanan, menyewa GPU per jam. Pelanggan hanya perlu membayar sesuai dengan waktu penggunaan dan jumlah sumber daya komputasi. Untuk membayar biaya**, pelanggan besar juga memiliki fasilitas penyesuaian. Spanduknya adalah "35 kali lebih cepat dibandingkan penyedia cloud tradisional, biaya 80% lebih rendah, dan latensi 50% lebih rendah." Perusahaan ini berfokus pada layanan komputasi berkinerja tinggi, tidak seperti penyedia layanan cloud pada umumnya yang juga menyediakan penyimpanan, jaringan, dan layanan lainnya.
Tahun lalu, para eksekutif CoreWeave membeli chip terbaru Nvidia dalam jumlah besar tepat saat Stable Diffusion dan Midjourney dirilis. Belakangan, ketika mereka melihat peluncuran ChatGPT, mereka menyadari bahwa investasi sebesar itu masih jauh dari cukup. Orang-orang ini tidak hanya membutuhkan ribuan GPU, namun jutaan.
Mereka menggambarkan apa yang coba dilakukan CoreWeave sebagai “membangun jaringan listrik untuk pasar AI,” dan berpendapat bahwa “jika hal-hal ini tidak dibangun, maka AI tidak akan berkembang.”
Brannin McBee, chief strategy officer CoreWeave, mengatakan dalam podcast bahwa pada akhir tahun lalu, gabungan semua perusahaan komputasi hiperskala, termasuk Amazon, Google, Microsoft, dan Oracle, termasuk CoreWeave, menyediakan total sekitar 50 10,000 GPU** , dan pada akhir tahun ini, mungkin akan mendekati 1 juta.
Dalam hal tingkat pertumbuhan industri dan margin keuntungan, ia yakin bahwa permintaan pasar AI dapat dipecah menjadi dua tahap: model pelatihan dan pelaksanaan tugas inferensi. Saat ini, terdapat kekurangan chip dalam tahap pelatihan,** dan tahap inferensi akan menjadi peningkatan utama permintaan di masa depan. Titik di mana permintaan riil berada**.
Untuk model perusahaan AI, setelah keluar dari fase pelatihan, dalam dua tahun pertama peluncuran produk, setidaknya diperlukan satu juta GPU untuk eksekusi inferensi pada fase komersialisasi, namun infrastruktur AI global tidak cukup untuk memenuhi hal ini. Hal ini akan menjadi tantangan jangka panjang, dan dibutuhkan setidaknya dua tahun lagi sebelum kekurangan pasokan GPU mulai berkurang.
Saat ini, sebagian besar uang panas yang diinvestasikan di bidang AI harus digunakan dalam komputasi awan. Pada bulan Juni tahun ini, CNBC melaporkan bahwa Microsoft "telah setuju untuk menghabiskan miliaran dolar untuk infrastruktur komputasi awan startup CoreWeave selama beberapa tahun ke depan." Startup Star AI seperti Inflection AI baru-baru ini mengumpulkan dana sebesar $1,3 miliar untuk membangun cluster GPU skala besar, dan pilihan perusahaan adalah CoreWeave.
03 Pegang paha Nvidia
Pada bulan April tahun ini, CoreWeave menyelesaikan putaran pembiayaan Seri B senilai $221 juta. Investornya termasuk pembuat chip Nvidia, mantan CEO GitHub Nat Friedman, dan mantan eksekutif Apple Daniel Gross. Sebulan kemudian, perusahaan mengumumkan telah menerima investasi tambahan sebesar US$200 juta, sehingga total putaran pendanaan menjadi US$421 juta.
Pada bulan Agustus, CoreWeave memperoleh pendanaan utang lagi sebesar $2,3 miliar dengan menggunakan NVIDIA H100 yang banyak dicari sebagai jaminan. Dana tersebut akan digunakan untuk memperoleh lebih banyak chip dan membangun lebih banyak pusat data.
Menurut berita terbaru dari Bloomberg, CoreWeave saat ini sedang bersiap untuk menjual 10% sahamnya, dan valuasi perusahaannya telah mencapai maksimum $8 miliar.
Pendiri Nvidia Jensen Huang mengatakan dalam panggilan konferensi pendapatan perusahaan tahun ini: "Anda akan melihat sejumlah besar penyedia layanan cloud khusus GPU baru." "Salah satu yang terkenal adalah CoreWeave, dan mereka melakukan pekerjaan dengan sangat baik."
Hubungan CoreWeave dengan NVIDIA telah dimulai pada tahun 2020. Perusahaan mengumumkan pada tahun itu bahwa mereka akan bergabung dengan program penyedia layanan cloud dari Jaringan Mitra NVIDIA, dengan tujuan utama memperkenalkan akselerasi GPU ke cloud. Pada Konferensi Grafis Komputer Siggraph 2023 baru-baru ini, Jen-Hsun Huang muncul, dan setiap stan CoreWeave secara khusus ditandai "Didukung oleh NVIDIA" dalam huruf kecil.
Para eksekutif NVIDIA, termasuk Jen-Hsun Huang, tidak segan-segan mendukung CoreWeave.
Direktur Global Pengembangan Bisnis, Cloud, dan Mitra Strategis NVIDIA menyebut CoreWeave sebagai "penyedia solusi cloud komputasi elit pertama di jaringan mitra NVIDIA. Mereka memberi pelanggan beragam pilihan komputasi, dari A100 hingga A40, dalam skala yang belum pernah terjadi sebelumnya, dan memberikan hasil kelas dunia dalam kecerdasan buatan, pembelajaran mesin, efek visual, dan banyak lagi. NVIDIA bangga dengan CoreWeave.” Eksekutif Nvidia lainnya memposisikannya sebagai “platform komputasi dengan kinerja tertinggi dan paling hemat energi."
Pujian tersebut juga terkait dengan kepentingan Nvidia sendiri. Nvidia perlu memastikan bahwa pengguna akhir komputasi mereka dapat mengakses sumber daya komputasi mereka dengan kinerja setinggi mungkin, dalam skala besar, seperti halnya pelanggan ingin mendapatkan chip generasi baru segera setelah dirilis. Hal ini juga yang membuat mereka tidak pelit mempromosikan kerjasamanya dengan CoreWeave, dan tidak ada salahnya untuk lebih mengembangkan “downline” setianya**.
CoreWeave dibangun untuk memenuhi standar dan persyaratan NVIDIA, beroperasi dalam skala besar, menghadirkan chip generasi baru secara online dalam waktu beberapa bulan setelah peluncurannya, dibandingkan dengan waktu yang dibutuhkan oleh perusahaan komputasi hiperskala tradisional. Ini memberi CoreWeave akses tinggi dalam NVIDIA.
Brannin McBee berkata, "Sebagai sebuah bisnis, hal ini membuat kami mendapatkan kepercayaan di mata Nvidia, karena mereka tahu bahwa infrastruktur kami akan dikirimkan ke pelanggan lebih cepat dibandingkan perusahaan lain mana pun di pasar, dan akan dikirimkan dalam konfigurasi kinerja tertinggi. ."
04 Geng Keras Raksasa Lembah Silikon
Namun, bagaimana CoreWeave menangani dirinya dalam menghadapi persaingan dari raksasa Silicon Valley?
Dari perspektif industri, Pesaing CoreWeave dalam operasi infrastruktur AI mencakup raksasa teknologi seperti Microsoft, Google, dan Amazon.
Pada akhir Agustus, CEO Google Cloud Thomas Kurian mengatakan pada konferensi tahunan Next bahwa lebih dari 50% startup AI di industri ini dan lebih dari 70% unicorn AI generatif adalah pelanggan Google Cloud.
Bagaimana sebuah perusahaan start-up yang bernilai $8 miliar bisa terhindar dari kehancuran oleh sekelompok raksasa bernilai triliunan dolar? Jawaban langsungnya terletak pada: fleksibilitas dan fokus bisnis dari perusahaan-perusahaan kecil itu sendiri, serta lanskap strategis yang sensitif di antara perusahaan-perusahaan teknologi.
Para eksekutif CoreWeave suka membuat analogi: "General Motors bisa membuat mobil listrik, tapi itu tidak berarti mobil itu akan menjadi Tesla." Mereka percaya bahwa AI menghadirkan tantangan yang tidak bisa ditangani oleh platform cloud tradisional, sehingga memungkinkan perusahaan berkembang untuk memiliki keunggulan dibandingkan pemain mapan yang terpaksa beradaptasi.
Raksasa Silicon Valley seperti Amazon, Google, dan Microsoft ibarat kapal induk, yang membutuhkan lebih banyak waktu dan ruang setiap kali mereka menyesuaikan arah. Dalam pandangannya, mereka memerlukan waktu untuk beradaptasi dengan cara baru dalam membangun infrastruktur AI, dan biasanya diperlukan waktu beberapa saat setelah chip terbaru dirilis untuk menyediakan akses berskala besar. Sekarang orang-orang memberikan perhatian lebih besar untuk membangun superkomputer, yang memerlukan tugas kolaboratif yang tinggi antara komputer-komputer tersebut dan throughput data yang lebih tinggi, namun sumber daya utama dari raksasa tersebut tidak digunakan di sini.
“Saat ketiga raksasa ini membangun layanan cloud, mereka melakukannya untuk melayani ratusan ribu atau bahkan jutaan kasus penggunaan tujuan umum dalam basis pengguna mereka, dan di area tersebut, mungkin hanya ada sebagian kecil dari kapasitas yang didedikasikan untuk mereka. ke komputasi GPU.” kata Brian Venturo, Chief Technology Officer CoreWeave.
CoreWeave percaya bahwa fleksibilitas dan profesionalismenya memungkinkannya menonjol di bidang infrastruktur AI, memiliki keunggulan kompetitif dalam kinerja dan efektivitas biaya, dan lebih cocok untuk aplikasi AI. CoreWeave memiliki lebih dari 200 karyawan dan lebih banyak pelanggan daripada karyawan, namun CoreWeave telah mencapai kesepakatan dengan Inflection AI dan bahkan pendukung OpenAI, Microsoft, untuk menyediakan sistem dan chip kustom dengan konfigurasi lebih banyak daripada yang dilengkapi untuk komputasi tujuan umum. Server lebih efisien**.
Saat ini dalam hal skala, CoreWeave mengklaim memiliki lebih dari 45.000 GPU Nvidia kelas atas yang dapat digunakan sesuai permintaan. Bukan hanya kuantitas yang penting, namun akses yang diberikan. Dalam hal pemilihan, CoreWeave mengklaim mempertahankan pilihan GPU Nvidia terluas di industri untuk berbagai kebutuhan komputasi. Mereka merancang sistem untuk beban kerja yang "berukuran tepat", mengklaim "tidak lebih dan tidak kurang: tepat".
Mengenai harga, spanduk CoreWeave "80% lebih murah dibandingkan pesaing".
Di sisi lain, pengambilan keputusan Nvidia juga penting. Dengan mengendalikan sumber daya GPU yang langka dan memilih dari siapa barang tersebut akan diambil, hal ini juga akan mempengaruhi keseluruhan pasar. Meskipun pasokannya terbatas, Nvidia telah mengalokasikan sejumlah besar chip AI terbaru ke CoreWeave, sehingga mengalihkan pasokan dari penyedia layanan cloud terkemuka termasuk AWS. Alasannya adalah perusahaan-perusahaan ini mencoba mengembangkan chip AI mereka sendiri untuk mengurangi ketergantungan mereka pada Nvidia.
Para eksekutif CoreWeave berpandangan bahwa "tidak membuat chip sendiri jelas bukan suatu kerugian" karena hal itu akan membantu mereka memperjuangkan lebih banyak GPU dari Nvidia. Bagaimanapun, mereka tidak memiliki konflik kepentingan dengan Nvidia, yang mungkin tidak terjadi pada raksasa Silicon Valley yang memiliki selera besar.
Namun, raksasa teknologi ini masih menjadi pelanggan besar Nvidia. Pada akhir Agustus tahun ini, Huang Renxun muncul di konferensi tahunan Google Cloud Berikutnya dan mengumumkan kerja sama baru dengan Google.Superkomputer GPU Google A3 VM akan diluncurkan ke pasar pada bulan September, dilengkapi dengan GPU H100 Nvidia.
Selain itu, jika tiba-tiba muncul chip baru yang performanya lebih baik dari NVIDIA, atau tidak kalah dengannya, apa dampaknya terhadap bisnis CoreWeave?
Brannin McBee percaya bahwa masa pakai chip yang sama mencakup dua hingga tiga tahun pertama untuk pelatihan model dan kemudian empat hingga lima tahun untuk eksekusi inferensi, dan tidak banyak risiko dalam jangka pendek. Selain itu, Nvidia bekerja keras untuk membangun ekosistem terbuka di sekitar perangkat kerasnya untuk meningkatkan keterikatan industri terhadap teknologi chipnya.Produsen lain jelas sangat termotivasi untuk memasuki bidang ini, namun mereka kekurangan ekosistem, yang merupakan celah yang tidak dapat diabaikan.
Dengan tidak adanya teknologi manufaktur chip hard-core, keunggulan dan kesuksesan relatif CoreWeave terkait erat dengan rantai pasokan dan stabilitas mitranya. Ketika industri kekurangan pasokan GPU, ketergantungan ini masih menjadi keuntungan.
Dari "tambang" mata uang kripto hingga "tambang kekuatan komputasi" kecerdasan buatan, sejarah kesuksesan CoreWeave sangat mencengangkan - sebutir emas di masa dapat membuat perusahaan rintisan berkembang pesat meskipun perusahaan tersebut jatuh. Di era pertumbuhan AI yang pesat ini, keinginan industri akan kekuatan komputasi telah menciptakan perusahaan Nvidia yang bernilai triliunan dolar, dan hal ini tentunya juga menciptakan perusahaan seperti CoreWeave yang dapat memanfaatkan peluang dan melakukan yang terbaik.