3 年以内に、破壊的な AI アプリケーションの中核となる原動力は、基礎となるモデルの革新から生まれ、この 2 つは切り離すことができず、モデルの役割は製品設計の役割よりも大きくなるでしょう。
現在の生成 AI 市場はテクノロジー優位性の初期段階にあり、数千億ドルの市場価値を持つプラットフォーム企業にとってチャンスがあります。
原文を読む
原文表示
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
研究レポート | 「生成 AI」: 応用、研究、監督が連携して生成人工知能の革新の道を切り開く
出典: Qiming Venture Partners
原題：「Qiming Headlines | Qiming Venture Partners と Unfinished Research が共同でレポート「Generative AI」を発表 | The State of Generative AI 2023」
2023 年世界人工知能会議 (WAIC)** Qiming Venture Partners フォーラム「生成 AI と大規模モデル: 変化とイノベーション」で、Qiming Venture Partners は Unfinished Research と提携し、大ヒットレポート「Generative AI と大規模モデル: 変化とイノベーション」を共同リリースしました。 AI 》| 2023 年の生成 AI の現状。 **
**この段階の最も重要な特徴は、応用、研究、監督がすべて協力して生成人工知能の革新的な道を切り開くことです。 **
革新的なアプリケーション
人々は、生成人工知能による新しいビジネス エコロジーの出現をすぐに認識し、計算、モデル、アプリケーションなどのテクノロジーの層を重ね、テキスト、画像、ビデオ、コード、3D 構造、マルチコンテンツなどの生成されたコンテンツを目にしました。 -モダリティ。大規模モデルと小規模モデルについては、オープン データ、垂直データ、合成データ、ベクトル データも参照してください。
生成型人工知能は中国でより熱心に受け入れられているようです: 政府は一般的な人工知能の開発を奨励しており、大企業はそれを無視することはできず、ナレッジワークに従事する多くの中小企業がすでにそれを最初に使用しています。 ** この革新的なテクノロジーに立ち向かうには、あらゆる企業が関与します。彼らは異なるリズムと異なる関与度を持っており、新しいテクノロジーの波の下で防御者、革新者、そして採用者になりました。利益率は恒久的に変更されます。 **
コンピューティング能力は現在最も不足しているリソースであり、最も収益性の高い位置にもあります。 **大型モデルのコスト構造の中で最も大きな部分を占めるのはコンピューティング能力であり、実際には GPU のパフォーマンスがこの新興産業のペースを決定します。 ** コンピューティング能力とモデルの進歩に伴い、より多くの新興企業が流入しています。彼らは時間の配当をつかんでいますが、同時に競争と巨大な潰しの可能性にも直面しています。これはスタートアップのブルーオーシャンとも言えますが、その水路の下には隠れた暗礁もあります。
**競争はイノベーションを促進します。 **2022 年に生産性ツールを目指して新興企業が急速に台頭したのとは異なり、2023 年には、より多くの新興企業が基盤技術の革新に注力することになるでしょう。大規模な新興企業も差別化を始めており、優位性を保っています。一般的な大規模スタートアップと同時に、医療、電子商取引、科学研究、産業、自動運転、ロボット工学などの特定の方向に特化した垂直型大規模企業も数多く出現し始めた。 **
フロンティアリサーチ
2022 年と 2023 年は、生成型人工知能技術がブレークスルーを起こす 2 年です。私たちが論文を整理したところ、生成型人工知能の分野における顕著な特徴は、研究とイノベーションのプロセスが密接に統合されていることであり、その多くは社内で実装されていることがわかりました。企業は、ユースケースと製品を迅速に展開します。 **研究と起業家精神、新興企業とベンチャーキャピタルのこの統合は重要な役割を果たしており、一部の基盤技術の研究を含め、米国の巨大テクノロジー企業と主要な人工知能企業の研究投資と人材は、数年間にわたって大学を上回っています。年および他の研究機関。
**人工知能のフロンティアは未来へと突き進んでいます。 **GPT-4 の技術レポートから Microsoft の研究論文まで、GPT-4 が人間に近い文書処理能力、数学的推論能力、および多くの専門分野の知識を備えていることが示されています。 「これは、汎用人工知能 (AGI) システムの (まだ不完全ではあるが) 初期バージョンであると合理的に考えられると考えています。」 言いすぎです。信頼度の調整、長期記憶、継続的学習、個別化、計画と概念の飛躍、透明性、認知的誤謬と非合理性など。 **
**過去 6 か月間の最も重要な研究の方向性は、大型モデルにおける知性の神秘的で刺激的な「出現」を解読して理解することです。 **大規模なモデルでは、次の単語を予測する能力を超える必要があるだけでなく、次の単語を予測する「高速思考」のメカニズムを監視する、より豊かで複雑な「低速思考」の深いメカニズムも必要です。
**最高の最先端の研究とは、大規模なテクノロジーの応用で遭遇する問題を研究し、解決することでなければなりません。 **幻覚を軽減し、実際のコンテンツをより正確に出力するために大規模なモデルを調整し、より強力な推論能力を訓練する方法、モデルをより集中的に訓練し、しきい値を下げ、新製品を発売し、あらゆる立場のより多くの人々に利用してもらう方法に関する研究。生活と消費者 人間のように現実の物理世界と対話する方法、複雑な作業で人間のアシスタントとなり、科学実験の設計や実施を手伝う方法、雇用に影響を与え、政策対応を行う方法、人工知能を作る方法安全で信頼できる。
規制| セキュリティ| ポリシー| 人材
生成人工知能に対する政府の規制対応は非常にタイムリーであり、国ごとに異なる特徴が現れています。 **中国は生成型人工知能に対する規制措置を急速に導入し意見を求める一方で、一般的な人工知能の開発も奨励しており、北京、上海、深センは最も野心的な第一段階であり、いずれもより野心的な人工知能研究を提案している。イノベーションと産業目標。 ** EU は 5 年前に GDPR の先駆者となり、引き続き規制と法律の分野で先頭に立って取り組んでいます。米国は人工知能技術の主導的地位をより懸念しており、リスク管理の原則に基づいた規制の枠組みを形成しています。
** 長期的には、才能はコンピューティング能力よりも人工知能の将来により大きな影響を与えるでしょう。 **中国の研究者が発表した論文の数は米国を上回りましたが、研究でも起業家精神でも、ピラミッドの頂点では米国が依然として明らかな優位性を持っています。世界的に、人工知能の研究とイノベーションの焦点は大学から企業へと移りつつあります。米国でトップ 3 の研究者が最も多い機関は Google、マイクロソフト、メタであり、これらの機関を合わせて米国のトップ 学者の 30% が採用されています。 。中国では依然として大学が多数を占めており、トップ10にランクインしているのはアリババだけだ。
科学技術省は、人工知能企業が科学技術倫理審査を受け入れ、審査対象者が科学技術倫理（審査）委員会を設置することを提案した。米国の人工知能企業は、より早くから責任ある信頼できる人工知能部門を設立し始めましたが、生成人工知能が変化する際に、企業がより優れた技術とソリューションを使用して導入することを模索していることを反映して、昨年から今年にかけていくつかの調整が加えられました。新しいテクノロジーを安全かつ責任を持って利用します。
10 人の見込み客
大規模な言語モデル
2024 年に、中国は GPT-4 に匹敵する多言語汎用モデルを導入する予定です。
ロング コンテキストは、LLM テクノロジーの次のブレークスルーを導きます。
より有望な大規模言語モデルが出現する前に、垂直分野でより良い結果を達成するために、次の 3 つの方法が共存します。
i) データ分布を変更せずに、一般的な大規模モデルの事前トレーニングにはより一般的なデータを使用し、特に業界データを導入しません。
ii) 業界固有のデータを使用して、一般的な大規模モデルを微調整 (ファインチューニング) します。
iii) 垂直モデルの事前トレーニングには、業界データの割合が高いデータ セットを使用します。
マルチモーダル モデル
4 現在の CLIP + Diffusion のヴィンセン図モデルは過渡期であり、今後 2 年以内に統合モデル構造が出現する予定です。
次世代の Text-to-Image モデルは制御性が強化され、基礎となるモデルとフロントエンド制御メソッドの機能が結合され、モデルの設計は制御メソッドとの組み合わせに重点が置かれます。
2025 年までに、ビデオおよび 3D モードがマイルストーン モデルの到来を告げ、生成効果が大幅に向上します。
PALM-E に代表される身体化知能 (Embodied AI) は、ロボットの知覚、理解、意思決定の方向で大きな可能性を示していますが、現在のトレーニングと信頼性には大きな課題があります。
短期的には、Transformer は複数のモダリティのネットワーク構造の主流になりつつありますが、デジタル世界全体を圧縮する一般的な方法はまだ登場しておらず、Transformer は人工知能技術の終わりではありません。
ビジネスチャンス
3 年以内に、破壊的な AI アプリケーションの中核となる原動力は、基礎となるモデルの革新から生まれ、この 2 つは切り離すことができず、モデルの役割は製品設計の役割よりも大きくなるでしょう。
現在の生成 AI 市場はテクノロジー優位性の初期段階にあり、数千億ドルの市場価値を持つプラットフォーム企業にとってチャンスがあります。
原文を読む