This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
ManusはGAIAベンチマークテストを突破しました。AIセキュリティの挑戦が完全同型暗号化の潜在能力を浮き彫りにしています。
ManusはGAIAベンチマークテストで画期的な進展を遂げました
最近、ManusはGAIAベンチマークで新しい記録を樹立し、同等の大型言語モデルを超えるパフォーマンスを発揮しました。この成果は、Manusが契約分析、戦略計画、提案作成などの複数の段階を含む国際ビジネス交渉のような複雑なタスクを独立して処理する能力を備えていることを意味します。
伝統的なシステムと比較して、Manusの利点は主に3つの側面にあります：動的目標分解、クロスモーダル推論、およびメモリ強化学習です。これにより、大規模なタスクを数百の実行可能なサブタスクに分解し、さまざまなタイプのデータを処理し、強化学習を通じて自身の意思決定効率を持続的に向上させ、エラー発生の確率を低下させることができます。
Manusの進歩は再び業界内で人工知能の発展パスについての議論を引き起こした：将来は汎用人工知能（AGI）の統一モデルに向かうのか、それとも多エージェントシステム（MAS）の協力モデルに向かうのか？
この問題はManusのデザイン理念に関係しており、二つの可能な発展方向を示唆しています：
AGIの道筋：単一の知能システムの能力を不断に向上させ、人間の総合的な意思決定レベルに徐々に近づけること。
MASパス：Manusをスーパーコーディネーターとして位置付け、多くの専門分野のエージェントが協力して働くように指揮します。
表面的には、これは技術ルートに関する議論ですが、実質的にはAIの発展における根本的な矛盾を反映しています：効率と安全性のバランスをどのように取るかです。単体のインテリジェントシステムがAGIにますます近づくにつれて、その意思決定プロセスの不透明性リスクも増加します。一方で、マルチエージェントの協力はリスクを分散させることができるものの、通信の遅延によって重要な意思決定のタイミングを逃す可能性があります。
Manusの進化は、AIの発展に固有のリスクを無意識のうちに拡大しています。例えば、医療の場面では、Manusは患者の機密データにリアルタイムでアクセスする必要があります。また、金融交渉の際には、企業の未公開情報が関与する可能性があります。さらに、特定のグループに対して不公平な給与提案を行ったり、法律契約のレビュー時に新興業界の条項の誤判率が高いなど、アルゴリズムのバイアスの問題も存在しています。もう一つ注目すべきリスクは対抗的攻撃であり、ハッカーが特定の音声信号を埋め込むことで、Manusが交渉中に相手の提示価格を判断することに干渉する可能性があります。
これらの課題は、厳しい現実を浮き彫りにしています：スマートシステムが進化すればするほど、その潜在的な攻撃面が広がるのです。
! マヌスはAGIの夜明けをもたらし、AIセキュリティも熟考する価値があります
Web3の分野では、安全性は常に注目されているトピックです。イーサリアムの創設者であるビタリック・ブテリンが提唱した「不可能な三角形」（ブロックチェーンネットワークが安全性、分散化、スケーラビリティを同時に実現することが難しい）から、多様な暗号技術が派生しました。
ゼロトラストセキュリティモデル："決して信頼せず、常に検証する"という原則に基づき、すべてのアクセス要求に対して厳格な認証と承認を行います。
分散型アイデンティティ（DID）：中央集権型の登録機関を必要としないアイデンティティ識別基準であり、Web3エコシステムに新しいアイデンティティ管理の方法を提供します。
完全同態暗号（FHE）：暗号化された状態でデータを計算することを可能にする先進的な技術で、特にクラウドコンピューティングやデータアウトソーシングなどのシナリオに適しています。
これらの技術の中で、全同態暗号は最新の暗号方式として、AI時代のセキュリティ問題を解決するための重要な技術となることが期待されています。これは、暗号化されたデータ上で直接計算を行うことを可能にし、プライバシーを保護するための新しい可能性を提供します。
AIによる安全上の課題に対処するためには、以下のいくつかの側面に取り組むことができます：
データレベル：ユーザーが入力したすべての情報（生体情報、音声など）が暗号化された状態で処理され、AIシステム自体も元のデータを解読できないようにする。
アルゴリズムの面：FHEを通じて「暗号化モデルの訓練」を実現し、開発者でさえAIの意思決定プロセスを直接観察できないようにする。
協調の面：マルチエージェントシステムにおいて、しきい値暗号を採用することで、単一のノードが攻撃された場合でも、全体のデータの漏洩には至らない。
AI技術が人間の知能レベルに近づくにつれて、私たちはより先進的な防御システムを必要としています。FHEは現在のセキュリティ問題を解決するだけでなく、将来の強いAI時代の基盤を築くものです。AGIに向かう道のりにおいて、FHEはもはや選択肢ではなく、AIの安全な発展を確保するための必要条件です。