小さなモデルでも大きなソリューションを提供できますが、スケールについて異なる考え方をする必要があります。 モデル自体を大きくするのではなく、複数のモデルを織り交ぜて、より高いレベルの目標を果たします。 **各モデルは、特定の目標を念頭に置いて設計されており、慎重にキュレーションされ、厳密に精査され、独自のデータセットでトレーニングされています。 Einstein Copilot のような AI エージェントを組み合わせたり調整したりできるとしたら、複数の人間が個人よりもチームとして多くの作業を行うことができたらどうでしょうか。 例えば、チームワークでしか成り立たない組織であるレストランは、ウェイターが注文、シェフが料理の準備、受付係が予約や注文、ドライバーが料理の配達を担当するなど、各メンバーに独自のスキルと重点分野があります。 では、同様の方法で編成された場合、LAMはどのように見えるでしょうか?
小規模モデルのオーケストレーションにより、1+1_2 のエンタープライズ作業がより柔軟かつ効率的になります
原産地:機械エネルギー
AIの使用はますます普及しており、個人によるAIの使用に限定されていません。 また、企業では、AIを使用してワークフローを改善し、作業を進めることがますます人気が高まっています。 ただし、より強力なモデルはより大きなモデルであることが多く、エンタープライズ展開が困難になることに言及する必要があります。 シルヴィオ・セーゼは、この問題についての彼の考えについて書いています、**モデルは大きくない方が良いです、小さいモデルは仕事の内容をよりよく扱うことができます。 **
以下は、原文の意味を変えずに機械の心で原文を翻訳・整理したものです。
ここ数ヶ月、私はLLMのよりアクティブで自律的な変種であるLAM(ラージアクションモデル)と呼んでいるものについて多くのことを書いてきました。 テキストや画像などのコンテンツを生成するだけでなく、タスク全体を完了し、人と一緒に、または自分でワークフローに参加することもできます。 今年の Dreamforce 2023 では、アインシュタイン副操縦士の発売により、そのビジョンが現実に向けて大きな一歩を踏み出しました。 Salesforce の AI 会話アシスタントである Einstein Copilot は、Salesforce プラットフォーム全体に展開され、顧客のほぼすべての作業に統合できるようになります。
アインシュタイン副操縦士:生成型AIの未来を垣間見る
箱から出してすぐにアインシュタイン副操縦士に感銘を受けないのは難しいです。 ほぼすべてのタイプのワークフローでユーザーを支援することにより、安全な方法で生産性を高めるようにゼロから設計されました。 自然言語で公開された質問を処理し、会社が安全な独自のデータから抽出された関連する信頼できる回答を提供できます。 これは、AIが企業でどこに向かっているのか、つまり日常の人間とコンピューターの相互作用を中心に設計され、さまざまなタスクを支援できる単一の信頼できるインターフェイスを明確に示しています。 これは、テクノロジーがビジネスのニーズを確実に満たすためのAIの力を示しており、顧客の働き方も変えることは間違いありません。 そして、LAMは、柔軟性と機能性を進化させるにつれて、このすでに非常に強力な力を次のレベルに引き上げます。
生成型 AI モデルを "小さくても大きくても"にする
最近、ジェネレーティブ AI のトピックの多くは、LLMとLAMを動かすモデルスケールとモデルアーキテクチャを中心に展開しています。 OpenAIのような企業は、パラメータの数が1,000億をはるかに超える規模の限界を押し広げ続けているため、大きいほど良いと結論付けるのは難しいことではありません。 実際、大規模なモデルは、他の方法ではパフォーマンスを達成することが困難または不可能であることを自慢することがよくあります。 また、モデルのサイズが大きくなると、非常に複雑な動作が発生し、大規模な戦略が大きなメリットをもたらす可能性があることが示唆されています。
戦略的にモデルをダウンサイジングすることが大きなメリットをもたらす方法
より大きなモデルが見出しを支配し続けていますが、より大きなモデルを追求することは最善の戦略ではありません。 最も明白なのは、最大のモデルは現在計算コストが高く、多くの企業が手の届かないところにあることです。 また、それらを展開する余裕のある企業でさえ、約束する高品質の出力が非常に遅くなる可能性があることを認める必要があります。 さらに、信頼性、セキュリティ、有害性、著作権などの所有権の主張に関する問題に直面していますが、これらはすべて、ハイパースケールモデルが依存する大規模なグローバルソースのデータセットに起因しています。
これらの欠点により、小さなモデルは多くの分野でますます魅力的になっています。 それらは比較的費用効果が高く、信じられないほどの速度に調整できます。 現在、特別に設計されたLLMは、エンドユーザーのモバイルデバイスを含め、場合によっては完全にエッジで実行することもできます。 また、必要なトレーニングが少ないため、お客様はデータセットの準備においてより積極的な管理の役割を担うことができます。 この時点で、データセットに含まれるコンテンツの品質、セキュリティ、さらには法的地位の面で大幅な改善を行うことができます。
より狭い領域に焦点を当てることにより、小さなモデルの出力の品質も「兄貴」と同等にすることができます。 ChatGPTのようなモデルは基本的にすべての人のために設計されており、宿題、夕食のレシピ、科学、技術、歴史、ポップカルチャーに関する質問に答えます。 対照的に、企業向けのジェネレーティブAIは、より小さく、より関連性の高い問題領域に焦点を当てることができ、またそうすべきです。 これは明らかにウィンウィンです:それはアウトプットの質を損なうことなく参入障壁を下げることを意味します。 **
小さなモデルのオーケストレーションが大きな可能性をもたらす方法
小さなモデルでも大きなソリューションを提供できますが、スケールについて異なる考え方をする必要があります。 モデル自体を大きくするのではなく、複数のモデルを織り交ぜて、より高いレベルの目標を果たします。 **各モデルは、特定の目標を念頭に置いて設計されており、慎重にキュレーションされ、厳密に精査され、独自のデータセットでトレーニングされています。 Einstein Copilot のような AI エージェントを組み合わせたり調整したりできるとしたら、複数の人間が個人よりもチームとして多くの作業を行うことができたらどうでしょうか。 例えば、チームワークでしか成り立たない組織であるレストランは、ウェイターが注文、シェフが料理の準備、受付係が予約や注文、ドライバーが料理の配達を担当するなど、各メンバーに独自のスキルと重点分野があります。 では、同様の方法で編成された場合、LAMはどのように見えるでしょうか?
私は最近オーケストレーションについて考えていますが、便利で自律的なエージェントを安全かつ効率的な方法で提供することは、最もエキサイティングなテクノロジーの1つですが、最も実用的でもあると思います。 最も重要なことは、オーケストレーションとは、最も野心的なソリューションでさえ透過的であり、作成者とそれと一緒に働く人々に知られていることを意味します。 この場合、スケールはますます大きなニューラルネットワークからではなく、人間にとって意味のある方法で編成された独立した明確に定義されたコンポーネントから得られることに注意してください。 たとえば、巨大なモデルをトレーニングして顧客の会議メモを記録し、結果から推論を引き出し、対応するCRMレコードを更新してからフォローアップ情報を送信する代わりに、これらの各タスクを個別にトレーニングされたモデルに割り当てます。
実際、私は研究キャリアのほとんどをロボット工学に費やしてきましたが、そのような振り付けが現実世界の空間でできると想像して、さらに遠くを見ずにはいられません。 工場、オフィス、病院、さらにはレストランでは、モックアップが人間と並んでさまざまなタスクを実行します。 高尚で遠くに聞こえますが、今のところ、オーケストレーションの可能性は非常に大きいです。
その利点について話しましょう。 まず第一に、オーケストレーションは、十分な大きさのデータセットを組み立て、単一のモデルをクロスドメインエージェントの問題を解決するための非常に柔軟なものにすることの難しさから私たちを救い、大量の非常に異なるデータを単一のトレーニングセットに入れるリスクも排除します。 **さらに、各モデルはRLHFによってさらに微調整することができます。 したがって、このシステムでは、各コンポーネントは非常に特殊化されており、より大きなタスクで重要だが管理しやすい手順を完了するために使用されます。
試運転中であろうと生産中であろうと、問題が発生した場合は、単一の専用モデルを使用して問題をより簡単に特定し、問題をよりよく理解して解決できます。 重大な障害でも、より堅牢なモジュール方式で処理できます。 また、複数のモデルが連携して動作するため、障害の制御と分離が容易になり、1つのコンポーネントに障害が発生した場合の継続性の機会が増えます。
ジェネレーティブ AI のアールヌーボー: 複数のモデルにわたるデザイン
さらに重要なことに、エンタープライズAIモデルの作成を、純粋に技術的なタスクから、人間の利害関係者が理解できる用語でビジネスプロセスをモデル化するタスクに引き上げます。 優れたマネージャーがチームに問題を分解して解決するように、AI オーケストレーターは問題を一連の専用モデルに分解する能力を持っています。
このビジョンで特にエキサイティングなのは、それが新しいスキルを指し示していることです、それはそれを新しい芸術とさえ呼ぶかもしれません、そして私はそれが企業で進化するのを見るのを楽しみにしています。 LAMオーケストレーションの専門家は、企業のニーズを単なるテクノロジープラットフォームではなくビジネスとして扱い、この洞察を使用して、大規模で意味のあるタスクを一連の小さなタスクに分割し、LAM「チーム」によって解決します。
彼らの仕事は、インフラストラクチャ、データサイエンス、ヒューマンマシンインターフェイスの設計を織り交ぜています。 前者は、これらのモデルチームが安全かつ効率的にデプロイできるようにし、後者は、より小さく、あいまいさの少ない問題を解決するために独自のデータセットを収集するよう努めています。 言い換えれば、オーケストレーションの専門家は、ニューラルネットワークの詳細ではなく、堅牢で堅牢なシステムを構築する方法に焦点を当てて、エンタープライズAIの新しい顔になる可能性があります。
実際、私が最終的に望んでいるのは、このスキルが珍しくも排他的でもなく、むしろ広く普及し、LAMのオーケストレーションを強力でパーソナライズされたソリューションに変え、私たちの職業生活においてますます重要な役割を果たすことです。 市場が出現するにつれて、参入障壁はさらに低くなり、信じられないほどの規模でジェネレーティブAIを強化するコパイロットのようなLAMオーケストレーションソリューションが世界にもたらす可能性があります。
この市場ソリューションを直接使用して、LAMオーケストレーションを実現する人もいます。 他の人はそれらをモジュールとして扱い、他のモジュールと組み合わせて、ニーズに応じてさまざまなサイズのソリューションを形成します。 しかし、いずれにしても、私が最も興奮しているのは、ジェネレーティブAIがエリートの少数の技術者グループによってではなく、さまざまな分野の専門家の創造性とビジョンによって形作られていることです。
実際、仕事の未来に対する私のビジョンは、AIが人間のスキルをサポートし、より高いレベルで考え、私たちを際立たせる創造性、スタイル、視点を維持しながら、私たちが行うすべてのことを簡素化する世界です。
概要
新しいビジョンの実現は段階的であり、LAMも例外ではありません。 しかし、近年、道のすべてのステップが変革をもたらすことを示しています。 LLMは設立当初から、ディスラプションとイノベーションのまれな可能性を示してきました。 Einstein Copilot などの支援エージェントは、直感的なインターフェイス、強力な信頼とセキュリティ機能、従来の Copilot システムとのシームレスな統合により、この基準を次のレベルに引き上げます。