Youkede CEO、Ji Xinhua 氏との対話: 競争力のある大手モデルは、カードを持っていればただ横たわって勝つわけではありません

著者| ヘ・シシ

編集 | 張晋

画像ソース: Unbounded AI によって生成

「米国でのコンピューティング能力の禁止は、中国での大規模モデルの開発をある程度制限するでしょう。コアとなるコンピューティング能力がなければモデルをトレーニングする方法がないからです。」 大規模モデルにおけるコンピューティング能力の重要性について、Youkede会長兼CEOのJi Xinhua氏 そう言ってください。

今年2月に大規模モデルが中国で普及して以来、計算能力は即座に業界で最も懸念されるテーマとなり、国内の大規模モデルのトレーニングでは乗り越えるのが難しいハードルにもなった。実際、別の観点から見ると、コンピューティング能力の爆発的な成長は、国内のクラウド コンピューティング ベンダーに前例のない開発の機会ももたらしています。

この点に関しては、季新華氏も同意した。同氏は、計算能力の無効化は悪いことでもあり、良いことでもあるが、一方でボトルネックの問題を1～2年以内に解決したいのであれば、国産チップの研究開発を加速する必要があると述べた。これは簡単な仕事ではありません;その一方で、企業はコンピューティング能力にますます注目しており、これはむしろ国産チップの開発を促進することになります。

Youkede は中立的なクラウド コンピューティング メーカーとして、大規模モデルの競争の裏で、コンピューティング パワー市場に大きな変化が訪れると長年感じてきました。

「昨年の11月に初めて安定拡散に触れました。その時、その効果がすごいと思い、大型モデルに注目するようになりました。」 季新華氏は、金を払った理由を雷峰網に説明した。同時に、当時は中国企業が大型モデルに注目し始めていなかったし、それがどれだけの価値を生むのかも分かっていなかったので、中国企業は大型モデルに注目していたと明かした。当時は模型関連の大規模事業を行う決意はありませんでした。

英国による大型モデルの本格的な適用と大型モデル企業のサービスは今年2月に開始され、中国で大型モデルが市場から外れる時期でもある。

Leifeng.com は、UKED が最初に大規模モデルに基づいて社内向けに 4 つの AI 製品、知識質疑応答プラットフォーム「Shiwen」、UCoder コード アシスタント プラットフォーム、AI ペイント アシスタント プラットフォーム、および大規模モデルのセキュリティ管理プラットフォーム低コストで付加価値の高い自社構築データセンターのために、UKED は大規模モデルのトレーニング、推論にさまざまな GPU コンピューティング パワー リソースを柔軟に提供する AIGC コンピューティング パワー ベースを構築しました。 、データ処理。

その直後、UKED は、UKED が独自に開発したフルスタック プライベート クラウド プラットフォーム UCloudStack を組み込んだ民営化された大規模モデルのオールインワン マシンを発売し、仮想化、ストレージ、ネットワーク、MaaS モデルの民営化ソリューションを提供し、業界垂直大規模モデル: 企業はワンクリックで大規模モデル アプリケーションを展開できます。

大型モデル時代におけるUKEDの位置づけについて、季新華氏は「中立」の原則を改めて強調した。同氏は、中立性とは英国が顧客と競合しないことを意味するだけでなく、大規模なモデル会社が顧客を見つけるのにも役立つと説明した。これに関連して、季新華氏はまた、大型モデルの時代にヨウクがしなければならないのは「仲人」であると公にからかった。

Ji Xinhua 氏の回答から、UKED が大規模モデル製品の社内研究開発と応用を行っている理由も間接的にわかります。1 つは、同社の従業員が大規模モデルを理解し、大規模モデルの使用方法を学ぶためです。これに基づいて、彼らは大規模なモデルを深く理解することができ、顧客により良いサービスを提供するために、どのような問題点があるのか、どのようなシナリオに実装できるのかを知ることができます。

吉新華氏は、大型モデルの将来に関しては、将来の不確実性が多すぎるが、いずれにせよ、インターネット業界や人工知能業界にはコンピューティングパワーが必要であり、相互接続能力には限界があるため、UKEDEの今後の取り組みが重要であると述べた。大規模なコンピューティング能力基盤の構築に焦点を当てます。

以下は Leifeng.com と Ji Xinhua との会話です。

競争力のある大規模モデルは、単にカードを持っていれば勝てるわけではなく、モデルのトレーニングにはエンジニアリング能力が不可欠です。

**Leifeng.com:**最終的に大規模モデルの競争に参加できるのは少数のクラウド ベンダーだけだと多くの人が言っていますが、すべてのベンダーが高速ネットワークを備えているわけではありません。競争の障壁は何だと思いますか?

Ji Xinhua: そうです。高速ネットワークのようなテクノロジーは、競合する大型モデルにとって主な敷居ではありません。 Youkede を含め、ほとんどのクラウド ベンダーがそれを実行できます。現在、ネットワークには 2 つの構造があります。1 つ目は RoCE ネットワークで、UKED は 2019 年にすでにこの機能を備えています。

2 つ目は、Nvidia が推奨する IB ネットワーク ソリューションです。このソリューションは比較的シンプルで、導入と保守のみが必要です。したがって、クラウド ベンダーや特に大企業にとって、テクノロジーは主要な基準ではありません。

**Leifeng.com:**実際、多くの大企業がカードを買いだめし始めていると言われています。

Ji Xinhua: はい、特に一部の大手メーカーは、A800、H800 などのカードを買い占めています。自社のAI事業ではカードを活用する必要があり、設備投資が増えれば事前に大量のカードを購入する一方、国内では今年2月から大型機種への大規模な注目が集まり、さまざまなメーカーの重要性があるため、カードを溜め込む速度も速くなります。

Leifeng.com: 持っているカードが多ければ多いほど、より多くの勝利が得られるということでしょうか?他のクラウド ベンダーは大手企業とどのように競争するのでしょうか?

Ji Xinhua: 私は横になって勝ったわけではありません。現在、多くの AI 大規模モデル企業が当社のカードを使用しています。この現象は非常に一般的です。

理由はいくつかあります。第一に、1 枚のカードだけを使用するだけでは十分ではないということ、そして第二に、大手モデル会社がなぜ Youkede と協力することに前向きなのかということです。それは、大工場が計算能力、アルゴリズム、データ、シナリオを持っていると感じており、大工場と協力すると最終的にはビジネス競争になるのではないかと懸念しているからである。 Ukerd は中立的で安全なクラウド ベンダーとして、大規模企業と競合することはありません。同時に、UKDE は、深い技術蓄積とワンストップのシステム エンジニアリング サービス機能により、データ センターおよび基盤となるアーキテクチャからコンピューティング パワー プラットフォーム、モデル ライブラリなどを実現できます。

コンピューティングパワーサービスで良い仕事をし、大きなモデル「仲人」の役割で良い仕事をしてください

**Leifeng.com: **Youkede はいつから大型モデルに注目し始めましたか?

**Ji Xinhua: **最初に連絡を取ったのは昨年の国慶節の時で、最初に目にしたのが安定拡散で、その時はその効果がすごいと思い、大型モデルに注目し始めました。 ChatGPT については以前にフォローアップしました。

Leifeng.com: それで、昨年の建国記念日にこれをやろうと決意したんですか？

紀新華社: 昨年の国慶節の後、UKEDはAIGCを今年の目標に設定し、昨年11月にAIペイントプラットフォームのイメージをリリースしました。今年の2月に中国の有力な大規模モデル企業とのやりとりを経て、国内のコンピューティングパワー市場が爆発的に発展するだろうと認識し、3月末にこれを実行することを決意しました。

Leifeng.com: これらの大規模モデル企業には何人の潜在顧客がいますか?

紀新華社: 中国には大規模モデル企業が 130 社、汎用企業が 78 社、垂直企業が 52 社あると結論付けました。そしてその数は今も増え続けており、そのうち 30 社以上がすでに当社の顧客となっています。

Leifeng.com: サービスはどのような形式で輸出されますか?

Ji Xinhua: 1 つは当社のコンピューティング能力、もう 1 つはコンピュータ ルーム サービスです。なぜなら、一部の企業は自社の機器を購入して当社のコンピュータ ルームに設置しているからです。

Leifeng.com: コンピューター ルーム サービスについてどのように理解していますか?顧客自身に運用能力がないからでしょうか？

Ji Xinhua: 企業自体はどこにいてもコンピュータ室を必要としますが、大型モデルに必要なコンピュータ室には 2 つの特徴があります。1 つは消費電力が大きいこと、もう 1 つは電力消費量が少ないことです。 H100 マシンの出力は 10kW を超えますが、コンピュータ室ではこの需要を満たすことができないため、ヨウケデのウランカブ データセンターが特に適しています。また、現在、多くの企業がサーバーを保有しているにもかかわらず使用できないという問題を抱えており、Ukerde は、コンピューティング パワー プラットフォームの構築とその後のメンテナンス作業を支援します。

Leifeng.com: Youkede はコンピューティング能力を提供することに加えて、少し前に「Shiwen」もリリースしましたか?

Ji Xinhua: UKED は、知識質疑応答プラットフォーム「Shiwen」、UCoder コード アシスタント プラットフォーム、AI ペイント アシスタント プラットフォーム、大型モデル セキュリティ管理プラットフォームの 4 つの社内プラットフォームを構築しました。実は、「ナレッジ」の前に、最初に開発したのが大規模モデルアプリケーション管理システムで、これが当社の最初の製品であり、将来的には大規模モデルを誰もが使えるようにしたいと考えています。

第二に、商業上のセキュリティ問題を解決するために、お客様の質問やアップロードされたファイルを含むいくつかの制限を設けています。企業の機密情報がインターネット上に漏洩するのを防ぐために、それらを記録およびフィルタリングします。

第三に、社内の従業員の問題や外部のコミュニケーションやフィードバックなどのユーザーの問題については、システムが自動的に記録するため、企業は後の段階でも独自のモデルトレーニングを継続して実行できます。

Leifeng.com: なぜこれら 4 つの製品を作ったのですか?外に出てもいいですか？

Ji Xinhua: まず、企業の従業員が大規模モデルを理解して使用できるようにすることで、これに基づいて、大規模モデル企業の課題は何なのか、どのようなシナリオで企業が問題を解決できるのかを深く理解できるようになります。お客様へのより良いサービスを提供するために、以下のサービスを実施します。

これら 4 つの製品は現在社内で使用されていますが、顧客が必要とする場合は、さらにコミュニケーションをとることもできます。

Leifeng.com: これらのプラットフォームはどのモデルに基づいていますか?

**Ji Xinhua: **最初に GPT 4 でトレーニングし、モデル検証を行ってから、徐々に国産の大規模モデルまたはオープンソースの大規模モデルを使用して最適化します。これに関連して、「海外で銃を研ぎ、国内で戦う」というコンセプトについても言及しました。

Leifeng.com: 今後、他にどのようなシナリオが楽観的ですか?

Ji Xinhua: ChatGPT の出力内容の不正確性に対する許容度に応じて区別すると、10 個のシナリオに分けられます。

1つ目は翻訳と吹き替えであり、この分野の能力はすでに非常に高く人間を完全に置き換えることができ、2つ目はゲームのNPC、3つ目はソーシャルインタラクション、4つ目は電子商取引のコンテンツ出力、5つ目は1 つ目はゲーム デザイン、6 つ目は顧客サービス、7 つ目はドキュメントとプログラミングの支援、8 つ目は企業内の知識管理、9 つ目は教育と保険のシナリオ、最後は弁護士と医師の支援です。

Leifeng.com: これら 10 のシーンは同時に行われますか?それとも段階的に？

Ji Xinhua: Ucar は大型モデルを製造するのではなく、顧客とパートナーを結び付けるだけであり、これは「仲人」の役割として理解できます。たとえば、ゲームの顧客を MiniMax に接続し、電子商取引および教育業界の顧客を Zhipu Huazhang に接続します。

国内大型モデルがGPT4に追いつくのは難しく、スタートアップ企業のチャンスが増える

Leifeng.com: 国内の大手モデル企業は何種類に分類できると思いますか? Youkede の主要顧客は誰ですか?

季新華氏：私たちは5つのカテゴリーに分かれています。最初のカテゴリは、Ali、Baidu、Toutiao、Huawei、JD.com などの大手企業です。 2 番目のカテゴリは Zhipu Huazhang などの科学者によって開始され、3 番目のカテゴリはオリジナルの AI 企業、AI Four Tigers、Daguan、Yunzhisheng、4Paradigm など、4 番目のカテゴリは MiniMax などのスタートアップ企業、5 番目のカテゴリは元の上場企業は崑崙や360などの大規模モデルに切り替え、王暁川氏や李開福氏などの起業家リーダーも含まれているという。

前者のタイプの大手メーカーは Youkede の対象顧客ではありませんが、後者のタイプが当社の主要顧客です。

Leifeng.com: つまり、大規模な工場には自社で構築する能力がありますが、他の企業には自社で構築する能力がないということですか?

Ji Xinhua: これは人工知能の分野に関係しているため、ネットワークの問題だけでなく、保管場所やコンピューター室などの一連の問題も含まれます。たとえば、新興企業が独自のコンピューティングを構築することもできます。パワーはありますが、サイクルは非常に長くなります。彼が自分でそれを構築するのを待ちます。その後、競争は終了します。大型モデルの競争はスピードがすべてであり、最速のスピードを持つ者が圧倒的な高みを占める可能性があります。

Leifeng.com: 大規模な工場の場合、大きなモデルにはステージとノードがいくつありますか?

紀新華氏: 1つ目は大型モデルの発売、2つ目は発売後の効果検証です。現在、MiniMax、Zhipu、Baidu、Ali、HKUST Xunfei などの企業が立ち上げたことが知られています。

**Leifeng.com:**どちらが優れているか、主に使用するコンピューティング能力によって決まりますか?

Ji Xinhua: そうは思いません。トレーニングのためのコンピューティング能力が高ければ、必ずしも良いモデルが生成されるとは限りませんが、推論リンクがより多く使用されるということは、ユーザーの数が多くなり、より多くのフィードバックが得られることを意味します。これは、優れたモデルのトレーニングに役立ちます。

**Leifeng.com:**トレーニングや推論に関係なく、大規模なモデルを構築するには、まずコンピューティング能力が必要ですか?

Ji Xinhua: はい、まずカードを持つことが大切です。カードを持っていない場合は間違いなく遅れます。40 ～ 50% くらいです。上記 2 つの問題が解決されると、セキュリティの問題になりますが、トラフィックの問題も非常に重要です。

Leifeng.com: 国内モデルのレベルはどのくらいですか?今年末までにGPT4に追いつくだろうと言う人も多い。

紀新華氏: 現在、中国には GPT3.5 を超えるモデルは存在しませんが、もちろんある面では GPT3.5 を超えることは実際には非常に簡単です。 GPT4を超えるのは難しい、要はGPT3.5以前の論文は公開されているが、GPT4はまだ公開されていないので、どうすればいいのか皆が分からない。

Leifeng.com: これらの大手国内メーカーには追いつくチャンスはないのでしょうか?

紀新華: 大企業の効果は新興企業ほど良くないと思います。なぜなら、信念と理想を持った一部のスタートアップ企業はすでにそれを始めており、Dachangは実際にChatGPTの人気を見て始めたからです。

Leifeng.com: 大手メーカーが技術を蓄積しているのは当然のことであり、より多くのチャンスがあるのではないでしょうか?

Ji Xinhua: AI にはさまざまな方向性がありますが、これまではほとんどの企業が垂直型の大規模モデルにはチャンスがあると考えていましたが、汎用の大規模モデルにはチャンスがあるとは考えていませんでした。数年は、信念を持った起業家チームと、Zhipu Huzhang、MiniMax、中国科学院などの科学研究チームが参加していました。

大手メーカーにとっては、これをやったら海外がフォローしてくれるということのほうが多く、自社の戦略に乗っていないため、汎用大型モデルの蓄積はあまりない。

Leifeng.com: 計算能力の問題は遅かれ早かれ解決されるでしょう。では、大規模モデルの点で UKEDe の利点は何ですか?

Ji Xinhua: それは 3 つのポイントに要約できます。まず、中立性を維持し、ユーザーと競合関係を持たないことです。第 2 に、データ センター、ネットワーク、データ ストレージ向けの AIGC ソリューションの完全なセットを構築する機能があり、中小企業がプラットフォームを迅速に構築し、大規模モデルを使用する際の効率の問題を解決できるようになります。大規模モデル企業の顧客拡大をより効果的に支援します。