Kekuatan komputasi AI telah meningkat sebesar 680 juta kali lipat dalam 70 tahun, dan tiga tahap sejarah telah menyaksikan ledakan eksponensial teknologi AI

**Sumber:**Xinzhiyuan

Sebuah gambaran menunjukkan bahwa kekuatan komputasi AI telah berkembang 670 juta kali dalam lebih dari 70 tahun. Di masa depan, AI akan melampaui manusia dalam segala aspek kemampuannya. Yang menarik adalah industri AI baru saja memasuki tahap embrio. tahap sebelum wabah.

Komputer elektronik lahir pada tahun 1940-an, dan dalam waktu 10 tahun setelah kemunculan komputer, aplikasi AI pertama dalam sejarah manusia muncul.

Lebih dari 70 tahun kemudian, model AI kini tidak hanya dapat menulis puisi, tetapi juga menghasilkan gambar berdasarkan petunjuk teks, dan bahkan membantu manusia menemukan struktur protein yang tidak diketahui.

Jadi, apa yang mendorong pertumbuhan eksponensial teknologi AI dalam waktu singkat?

Bagan panjang dari "Dunia Kita dalam Data" menelusuri sejarah perkembangan AI melalui perubahan daya komputasi yang digunakan untuk melatih model AI sebagai skala.

Gambar definisi tinggi besar:

Sumber data pada gambar tersebut berasal dari makalah yang diterbitkan oleh peneliti dari MIT dan universitas lain.

Alamat kertas:

Selain makalah, ada juga tim peneliti yang telah membuat tabel visual berdasarkan data makalah ini, ikon-ikonnya dapat diperbesar dan diperkecil untuk mendapatkan data yang detail.

Alamat formulir:

Penulis bagan ini terutama memperkirakan jumlah perhitungan pelatihan setiap model dengan menghitung jumlah operasi dan waktu GPU. Adapun model mana yang harus dipilih sebagai perwakilan dari model penting, penulis terutama menentukan melalui tiga properti:

Sangat penting: Suatu sistem memiliki dampak historis yang signifikan, meningkatkan SOTA secara signifikan, atau telah dikutip lebih dari 1.000 kali.

Relevansi: Penulis hanya menyertakan makalah yang berisi hasil eksperimen dan komponen pembelajaran mesin utama, dan tujuan makalah ini adalah untuk mendorong pengembangan SOTA yang ada.

Keunikan: Jika makalah lain yang menjelaskan sistem yang sama lebih berpengaruh, makalah tersebut akan dikeluarkan dari kumpulan data penulis.

Tiga era perkembangan AI

Pada tahun 1950-an, matematikawan Amerika Claude Shannon melatih robot tikus bernama Theseus untuk menavigasi labirin dan mengingat jalurnya—contoh pertama pembelajaran buatan.

Theseus dibangun di atas 40 operasi floating point (FLOP). FLOP umumnya digunakan sebagai ukuran kinerja komputasi perangkat keras komputer. Semakin tinggi jumlah FLOP, semakin besar daya komputasi dan semakin kuat sistemnya.

Kekuatan komputasi, data pelatihan yang tersedia, dan algoritme adalah tiga elemen utama kemajuan AI. Pada dekade awal pengembangan AI, daya komputasi yang dibutuhkan meningkat sesuai dengan Hukum Moore - daya komputasi meningkat dua kali lipat dalam waktu sekitar 20 bulan.

Namun, pada tahun 2012 yang menandai dimulainya era pembelajaran mendalam dengan AlexNet, sebuah AI pengenalan gambar, waktu penggandaan tersebut telah dipersingkat secara signifikan menjadi enam bulan karena para peneliti berinvestasi lebih banyak pada komputasi dan prosesor.

Dengan munculnya AlphaGo pada tahun 2015—sebuah program komputer yang mengalahkan manusia pemain Go profesional—para peneliti menemukan era ketiga: era model AI berskala besar dengan tuntutan komputasi yang lebih besar dibandingkan semua sistem AI sebelumnya.

Kemajuan Teknologi AI di Masa Depan

Melihat ke belakang selama satu dekade terakhir, kekuatan komputasi telah berkembang begitu pesat sehingga hampir mencengangkan.

Misalnya, daya komputasi yang digunakan untuk melatih Minerva, AI yang dapat memecahkan masalah matematika kompleks, hampir 6 juta kali lipat dibandingkan yang digunakan untuk melatih AlexNet satu dekade lalu.

Pertumbuhan komputasi ini, ditambah dengan banyaknya kumpulan data yang tersedia dan algoritme yang lebih baik, telah memungkinkan AI mencapai banyak kemajuan dalam waktu yang sangat singkat. Saat ini, AI tidak hanya mampu mencapai tingkat kinerja manusia, tetapi bahkan melampaui manusia di banyak bidang.

Kemampuan AI akan terus melampaui manusia dalam segala aspek

Seperti yang terlihat jelas pada grafik di atas, AI telah melampaui kinerja manusia di banyak bidang dan akan segera melampaui kinerja manusia di bidang lain juga.

Gambar di bawah menunjukkan pada tahun berapa AI telah mencapai atau melampaui tingkat kemampuan manusia yang biasa digunakan dalam pekerjaan dan kehidupan sehari-hari.

### Potensi pengembangan teknologi AI cukup memadai

Sulit untuk mengatakan apakah pertumbuhan komputasi akan mempertahankan kecepatan yang sama. Model skala besar membutuhkan lebih banyak daya komputasi untuk dilatih. Jika pasokan daya komputasi tidak dapat terus bertambah, hal ini dapat memperlambat kemajuan pengembangan teknologi AI.

Demikian pula, penggunaan semua data yang tersedia saat ini untuk melatih model AI juga dapat menghambat pengembangan dan penerapan model baru.

Namun pada tahun 2023, sejumlah besar modal akan mengalir ke industri AI, terutama AI generatif yang diwakili oleh model bahasa besar. Mungkin terobosan-terobosan baru akan segera muncul. Tampaknya ketiga elemen di atas yang mendorong perkembangan teknologi AI akan lebih dioptimalkan dan dikembangkan di masa depan.

Pada paruh pertama tahun 2023, skala pembiayaan startup di industri AI mencapai US$14 miliar, bahkan lebih besar dari total pembiayaan yang diterima dalam empat tahun terakhir.

Sebagian besar (78%) startup AI generatif masih dalam tahap awal pengembangan, dan bahkan 27% startup AI generatif belum mengumpulkan dana.

Terdapat lebih dari 360 perusahaan kecerdasan buatan generatif, 27% di antaranya belum mengumpulkan dana. Lebih dari setengahnya merupakan proyek tahap awal atau lebih awal, yang menunjukkan bahwa seluruh industri AI generatif masih dalam tahap awal.

Karena pengembangan model bahasa besar yang bersifat padat modal, kategori infrastruktur AI generatif telah menerima lebih dari 70% pendanaan sejak Q3 2022, yang hanya menyumbang 10% dari seluruh volume transaksi AI generatif. Sebagian besar pendanaan berasal dari minat investor terhadap infrastruktur baru seperti model dasar dan API, MLOps (operasi pembelajaran mesin), dan teknologi basis data vektor.

Referensi: