AI のコンピューティング能力は 70 年間で 6 億 8,000 万倍に増加し、3 つの歴史的段階で AI テクノロジーの爆発的な爆発が見られました。

**出典:**新志源

写真を見ると、AI の計算能力は 70 年以上で 6 億 7,000 万回も進化しており、将来的には、AI はその能力のあらゆる面で人間を超えるでしょう。本当にエキサイティングなのは、AI 業界がまだ初期段階に入ったばかりであるということです。発症前の段階。

電子コンピュータは 1940 年代に誕生し、コンピュータの出現から 10 年以内に人類史上初の AI アプリケーションが登場しました。

70 年以上が経ち、AI モデルは詩を書くだけでなく、テキストのプロンプトに基づいて画像を生成し、人間が未知のタンパク質構造を発見するのを支援することもできるようになりました。

では、何がこれほど短期間で AI テクノロジーの急激な成長を引き起こしたのでしょうか?

「Our World in Data」の長いグラフは、AI モデルをスケールとしてトレーニングするために使用されるコンピューティング能力の変化を通じて AI 開発の歴史をたどります。

大規模な高精細画像:

図のデータの出典は、MIT およびその他の大学の研究者によって発表された論文からのものです。

用紙のアドレス:

論文に加えて、研究チームはこの論文のデータに基づいて視覚的な表を作成しており、アイコンを拡大または縮小して詳細なデータを取得できます。

フォームアドレス:

グラフの作成者は、主に演算数と GPU 時間を計算することで各モデルのトレーニングの計算量を見積もっており、重要なモデルの代表としてどのモデルを選択するかについては、主に次の 3 つのプロパティによって決定しています。

重大な重要性: システムは歴史的に重大な影響を及ぼしているか、SOTA を大幅に改善しているか、または 1,000 回以上引用されています。

関連性: 著者は実験結果と主要な機械学習コンポーネントを含む論文のみを取り上げており、この論文の目的は既存の SOTA の開発を促進することです。

独自性: 同じシステムを説明する別の論文の方が影響力がある場合、その論文は著者のデータセットから除外されます。

AI 開発の 3 つの時代

1950 年代、アメリカの数学者クロード シャノンは、テセウスという名前のロボット マウスに迷路を移動し、その道を記憶できるように訓練しました。これは人工学習の最初の例です。

Theseus は 40 の浮動小数点演算 (FLOP) に基づいて構築されています。 FLOP は、コンピュータ ハードウェアのコンピューティング パフォーマンスの尺度として一般的に使用されます。 FLOP の数が多いほど、コンピューティング能力が向上し、システムがより強力になります。

コンピューティング能力、利用可能なトレーニング データ、およびアルゴリズムは、AI の進歩の 3 つの主要な要素です。 AI 開発の初期の数十年間、ムーアの法則に従って必要なコンピューティング能力は増大し、コンピューティング能力は約 20 か月で 2 倍になりました。

しかし、画像認識 AI である AlexNet による深層学習時代の始まりとなった 2012 年までに、研究者がコンピューティングとプロセッサにさらに投資したことで、その倍増時間は 6 か月に大幅に短縮されました。

2015 年に人間のプロ棋士を破ったコンピューター プログラム AlphaGo が登場すると、研究者たちは第 3 の時代、つまり、これまでのすべての AI システムよりも大きな計算量を必要とする大規模 AI モデルの時代を発見しました。

AI テクノロジーの今後の進歩

過去 10 年間を振り返ると、コンピューティング能力は気が遠くなるようなスピードで成長しました。

たとえば、複雑な数学的問題を解決できる AI である Minerva のトレーニングに使用されるコンピューティング能力は、10 年前に AlexNet をトレーニングするために使用されていた計算能力のほぼ 600 万倍でした。

コンピューティングのこの成長は、利用可能な膨大な数のデータセットとより優れたアルゴリズムと相まって、AI が非常に短期間で大きな進歩を遂げることを可能にしました。今日、AI は人間のパフォーマンス レベルに達するだけでなく、多くの分野で人間を超えることさえできます。

AI の能力はあらゆる面で人間を超え続けるでしょう

上のグラフから明らかなように、AI は多くの分野ですでに人間のパフォーマンスを上回っており、間もなく他の分野でも人間のパフォーマンスを超えるでしょう。

以下の図は、AI が日常の仕事や生活で使用される一般的な能力において人間のレベルに達したか、それを超えたかを示しています。

### AI 技術開発の可能性は十分です

コンピューティングの成長が同じペースを維持するかどうかを言うのは難しい。大規模なモデルのトレーニングにはますます多くのコンピューティング パワーが必要となり、コンピューティング パワーの供給が増加し続けられない場合、AI テクノロジーの開発の進歩が遅れる可能性があります。

同様に、AI モデルのトレーニングに現在利用可能なデータをすべて使い切ってしまうと、新しいモデルの開発と実装が妨げられる可能性があります。

しかし、2023年にはAI産業、特に大規模な言語モデルに代表される生成AIに多額の資本が注ぎ込まれるだろう。おそらく、さらなるブレークスルーが生まれようとしており、AI技術の発展を促進する上記の3つの要素は、今後さらに最適化され発展していくと思われます。

2023年上半期のAI業界のスタートアップの資金調達規模は140億米ドルに達し、過去4年間に受けた資金調達総額をさらに上回った。

生成 AI スタートアップの多く (78%) はまだ開発の初期段階にあり、生成 AI スタートアップの 27% でさえまだ資金を調達していません。

生成人工知能企業は 360 社以上あり、そのうち 27% はまだ資金調達を行っていません。半数以上が初期段階またはそれ以前のプロジェクトであり、生成 AI 業界全体がまだ非常に初期段階にあることを示しています。

大規模な言語モデルの開発には資本集約的な性質があるため、生成 AI インフラストラクチャ カテゴリは 2022 年第 3 四半期以降、資金の 70% 以上を受け取りましたが、生成 AI 取引量全体のわずか 10% にすぎません。資金の多くは、基盤となるモデルや API、MLOps (機械学習オペレーション)、ベクトル データベース テクノロジなどの新興インフラストラクチャに対する投資家の関心から来ています。

参考文献: