大きなモデルを携帯電話に押し込まないでください

元のソース: 科学技術ニュース

著者: 張島

画像ソース:無制限のAIによって生成

ビジネスの霧の中で、これらの一見金色の「機会」は、多くの場合、人々を閉じ込める束縛です。

CNBCの最新ニュースによると、世界的なチップ大手クアルコムは、カリフォルニアの2つの主要拠点で約1,258人の従業員を削減する予定です。 実際、クアルコムは長い間、この「死亡リスト」をカリフォルニア州の雇用局に送ってきました:サンディエゴで1,064人、サンタクララで194人。 地震は12月13日に噴火する予定です。

クアルコムの前四半期のレポートは、この「血まみれ」をほのめかしています。 財務構造上は、携帯電話用チップがクアルコムの主力収益源で半数以上を占めていますが、第3四半期の売上高は前年同期比21.6%減となりました。 スマートフォン市場の飽和は、見えざる手のように、上流のサプライチェーンの巨人を静かに窒息させています。

現在、携帯電話市場の成長は、主にデバイスのアップグレードサイクルに依存しています。 2019年以来、5Gを搭載した電話の交換ブームは4年近く続いています。 しかし、カウンターポイントのシニアアナリストであるピーターリチャードソンは、2022年までに、世界の携帯電話の交換サイクルは歴史上最長の43か月に達したという冷たい真実を明らかにしました。

過去5年間、携帯電話業界はイノベーションの道を追いかけて行き詰まりを変えるのに苦労してきました。 しかし、Appleのような市場のリーダーでさえ印象的な新機能を思い付くのに苦労している間、他のベンダーは市場での地位を維持するのに苦労しています。 ますます多くの消費者が疑問を抱き始めています、新しい携帯電話に変更することの価値は何ですか?

一部の業界専門家は、本当の限界点はソフトウェア、特にAI分野のLLMやTransformerなどの大型モデルの背後にある力である可能性があると指摘しました。

これらの可能性を最大化する方法は不明ですが、これは国内の携帯電話の巨人が突破しようとすることを妨げるものではありません。 Huami OVらはAI大型モデルに照準を合わせ、新たな戦場を切り開くことを熱望している。

01 ケータイ巨大バトル ビッグモデルアリーナ

** 一時期、国内携帯電話メーカーが大型モデルの脚光を浴びているようだ。 **

8月14日、Xiaomiの年次記者会見で、Xiaomi AIの大型モデルが発表され、一瞬で注目を集めました。 CとCMMLUの2つの主要なテストプラットフォームでは、それぞれ中国で10位と1位を獲得しました。

Lei Junは、Xiaomiの13億パラメータの大型モデルが携帯電話で完全に実行されており、その強度は一部のシナリオで60億パラメータクラウドモデルに匹敵することさえあると自信を持って発表しました。 有名なXiaoaiのクラスメートもAI大型モデルの能力を強化し、会議当日に招待テストが開始されました。

大きなAIモデルを狙ったオオカミの煙は、Xiaomiで上昇しているだけではありません。

早くも2023月4日のHuawei開発者会議で、Yu Chengdongは手を振って、HarmonyOS 4が「Panguモデル」の祝福の恩恵を受けると発表しました。 異なるのは、Huaweiが大型モデルを携帯電話システムに深く統合して、より高いレベルの統合を実現することを決定したことです。

**Huamiに続いて、vivoとOPPOは大型モデルの分野で野心を示し続けています。 **

最近、OPPOは、業界で注目を集めた新しい「Xiaobuアシスタント」の最初の公開テストを発表しました。 この製品は、AndesGPTラージモデル技術に基づいています。

AndesGPTモデルは、OPPOのAndean Intelligent Cloudチームに基づくハイブリッドクラウドアーキテクチャに基づく高レベルの生成型ビッグ言語モデルです。 ユーザーは、Xiaobu音声アシスタントを起動して「Xiaobuビッグモデル」と言うことで、Xiaobu 1.0パブリックベータ登録に参加できます。 詳細については、11月16日のColorOS14の発売時に発表されます。

同業者の宣伝と同様に、AndesGPTも公式の紹介で「業界リーダー」の称号を獲得しており、このモデルは多くの権威あるレビューリストに頻繁に掲載されています。

一方、vivoは11月1日に年次開発者会議を開催するためにロックしました。 この集まりでは、vivoはAI大規模モデルと新しいオペレーティングシステムの独占的な研究開発を明らかにします。 そして、待望のOriginOS 4も公開されます。

特に興味深いのは、vivoで作成されたAI大規模モデルマトリックスが非常に豊富で、数十億、数百億、数千億の3つのパラメーターレベル、合計5つのモデルをカバーし、多様なコアアプリケーションシナリオに対応することを目的としていることです。

同様に、まだベールの後ろにあるこの製品のバッチは、多くの権威あるレビューに登場しています。 最新のデータによると、vivoの自社開発AI大型モデルは、CとCMMLUの2つの主要なプラットフォームで第1位にランクされています。

最近、携帯電話業界では、主要ブランドがAIモデルの深海に次々と突入しているのを目の当たりにしています。 **株式市場での激しい競争により、大手メーカーは新しいテクノロジーを使用して、ハイエンド市場でより競争力のあるイメージを作成することを望んでいます。 **

業界に深い洞察力を持つ多くの人々は、AI機能の利点を強調することは明らかに大手メーカーの戦略の重要な部分であると信じています。 ハイエンド製品に対するユーザーの欲求を刺激するだけでなく、製品の価格を押し上げ、それによってブランドにとってより有利な利益を生み出すことができます。

時間の経過とともに、実際の「AI携帯電話」の最初の波が現れようとしており、次の2年間は携帯電話のAIの革新の瞬間になります。

02 大型モデルがモバイルを競い合い、徐々に道筋が統一される

携帯電話メーカーは、携帯電話で大型モデルを実行するのは、実際の運用では水を飲んで食べるのと同じくらい簡単**と宣伝していますが、隠れた課題は予想をはるかに超えています。 **

Xiaomi技術委員会のAIラボの大規模モデルチームの責任者であるLuan Jian氏によると、携帯電話で大規模なモデルを実際に実行するには、携帯電話のハードウェア、特にプロセッサとメモリの要件は決して低くありません。

電話の作業メモリを占有しすぎると、他のアプリケーションが制限され、電話が応答しなくなったり、全体的なパフォーマンスが大幅に低下したり、最悪の場合、直接クラッシュしたりする可能性があります。

また、計算能力も判断の重要なポイントです。 キャラクターの生成には数秒かかりますが、これはユーザーエクスペリエンスにとって悲惨です。 人々の平均読書速度が毎秒約十数文字であることを考えると、モデルの「生成速度」はそれよりもはるかに速いに違いありません。

消費電力の問題は無視できません。 多くのオンラインモデルデモでは、この重要なリンクを見落としがちです。 高負荷のコンピューティングチップは携帯電話を急速に熱くし、長時間動作させると必然的にバッテリー寿命に深刻なダメージを与えます。

要約すると、大きな電話モデルの本当の課題は、処理速度、熱放散、バッテリー寿命の微妙なバランスを見つける方法です。 したがって、業界の焦点はデバイスとクラウドのコラボレーションにもあります。 **

少し前に、MediaTekとOPPOは、大規模モデルテクノロジーを消費者の実際の使用に近づけることを目的として、エンドサイドの大型モデル用の軽量展開ソリューションを共同開発することで合意に達しました。

10月18日、MediaTekはAI分野でのvivoとの緊密な協力と共同デバッグも発表し、携帯電話側に10億から70億のAI大型言語モデルと10億のAIビジュアルモデルの着陸を実現し、消費者にエンドツーエンドの生成AIアプリケーションの革新的な体験を共同でもたらした。

エンドサイドの大規模モデルの利点は、ユーザーがより速い応答速度を享受できると同時に、データをクラウドにアップロードする必要がないため、より安全であることです。 現在、多くの主流メーカーは、エンドサイドで大型モデルを実行するという目標を達成するために、モバイル端末にAI大型モデルを展開するソリューションを開発しています。

**ただし、モバイルだけですべての問題が解決するとは想定できません。 **Xiaomiが明らかにしたように、彼らはデバイスとクラウドを組み合わせる戦略に従い続けます。 一部の機能は、エンドサイドモデルを介して実装できる場合、クラウドに転送する必要はありません。

Vivoの状況を見ると、正確なデータが不足しているものの、クラウドとオンプレミスを組み合わせた大規模なモデル戦略も採用すると推測するのが妥当です。

660億、1,300億、1,750億のクラウド大規模モデルは、その大規模モデルのパラメータの大きさから、より複雑な問題に対処するための処理能力を確保するように設計されています。 10億と70億のオーダーのローカルモデルは、ユーザーのプライバシー、エネルギー効率、迅速な対応を確保するように設計されています。

これは、Vivoが連携するためにデバイスクラウドアプローチを採用する可能性が高いことを意味します、つまり、問題の複雑さを評価して、ローカルで処理するかクラウドに移行するかを決定します。

クラウドとローカルの大規模モデルを組み合わせることで、コストを効果的に節約できるだけでなく、携帯電話とAIの大規模モデルを統合するための好ましい戦略の1つである、コンピューティング能力、パフォーマンス、エネルギー消費、プライバシー保護におけるユーザーのニーズを満たすことができます。

03 メーカーも追随、いくつかの潜在的な課題

一部の業界は、携帯電話で大型モデルを実行する現在の試みを鋭い剣と見なしています。 しかし、舞台裏を深く掘り下げると、本当に変化を求めるのではなく、状況に対応する近視眼的な感覚を明らかにすることは避けられません。 **

まず、「ビッグモデル」の定義はまだ曖昧です。 Xiaomiのエンドサイドモデルを例にとると、そのパラメータ数は13億に達し、GPT2の1.5Bパラメータと大差ありませんが、これは本当に「ビッグモデル」の称号を与えるのに十分ですか?

業界には疑問を投げかけている人がたくさんいます:携帯電話側での大型モデルの実践は、テクノロジーの真の飛躍ではなく、市場の短期的なブームに対応するためのものです。 携帯電話が本当に大きなモデルを楽に運転できる場合、グラフィックスの巨人NVIDIAの存在の意味は何ですか?

さらに、大型モデルを携帯電話に適合させるために、メーカーは剪定、蒸留、定量などの戦略を通じてそれらを大幅に圧縮する必要があります。 連続モデルのクリッピングと蒸留によってパラメータを1,750億からわずか10億に減らす可能性のあるvivoの場合、この操作があまりにも遠いかどうかを検討する価値があります。

大規模なモデルは、パラメータの数の単純な重ね合わせではなく、その真の価値はディープラーニングの「深さ」にあることを認識してください。 多数のパラメータは、より多くの情報、知識、およびコンテキストがキャプチャされることを意味します。

したがって、数千億のパラメータを持つモデルが数十億のパラメータにカットされると、元の学習の深さの一部が失われることになります。 AIの日常的なアプリケーションでは、影響は大きくないかもしれませんが、AIからの深い洞察と理解を期待するハイエンドユーザーにとって、この損失は受け入れられません。

**Xiaomiがエンドサイドモデルをクラウドモデルと比較できると主張したとしても、詳細は無視できません。 **13億個のパラメータを持つエンドサイドモデルは、数千億個のパラメータを持つクラウドモデルと比較するのは当然困難です。 このギャップを補うために、Xiaomiは特定のシナリオでエンドサイドモデルをクラウドモデルと比較することを選択できますが、完全に比較することはできません。

これらのレベルから、携帯電話での大型モデルの現在の実装は少し「やり過ぎ」のようです。 平均的なユーザーにとって、彼らはモデルのパラメータの数をあまり気にしませんが、それが彼らにどのような価値をもたらすことができるかについてもっと気にします。 vivoとXiaomiによるこれらの試みは励みになりますが、それらの真の目的と重要性についても反映する必要があります。

さらに、多くの携帯電話メーカーがAI大規模モデルのアプリケーションを積極的に模索していますが、将来の道はまだ未知数に満ちています。 **携帯電話市場では、次の「キラー」アプリが何であるかがやがて明らかになります。 **

現在、携帯電話メーカーのAI大型モデルへの特定のアプリケーションは、「音声アシスタント」に焦点を合わせすぎているようです。 この一方向の追求は、ユーザーの実際のニーズを実際に考慮するのではなく、科学技術のホットなトレンドにのみ応えますか?

有名なブロガーによるvivoの新しいAIモデルの最近の共有を例にとると、OriginOS 4で新しい外観で発表されましたが、コアは現在の音声アシスタントと比較してそれほど破壊的ではありません。

要するに、携帯電話でのAIモデルの真の採用はまだ衰退しています。 今日の取り組みは、氷山の最初の旅にすぎません。

リソース：

テンセントテクノロジー-Xiaomiのビッグモデルの「野心」は終わりから始まります