「国防総省は、適切な安全策を特定し、訓練データの管理ミスなどの問題から生じる可能性のある国家安全保障上のリスクを軽減しながら、責任を持って生成型 AI モデルの採用に努めなければならない」とマーテル氏は述べた。同氏は、「動くものなら何でも」や凶器を扱う場合など、大規模な言語モデルを採用するには「幻覚」のリスクが高すぎるユースケースが数多くあると指摘した。国防総省は、それらが安全に使用できる場所と、敵がそれらを配置する可能性がある場所を理解する必要があります。
疑問の 1 つは、国防総省が生成 AI が機能するのに十分なデータを持っているかどうかです。同省は慎重に厳選された豊富な内部データを持っていますが、大量のジェット エンジン診断や中東での長年にわたるドローン監視映像は大規模な言語モデルにはなりません。
国防総省、インテリジェンスと戦闘計画の向上を支援する生成 AI タスクフォースを設立
出典: ザ・ペーパー
ファン・シャオ記者
リマ特別委員会は、国防総省全体で生成 AI 機能を評価、同期、活用するとともに、国防総省と情報コミュニティおよび他の政府機関とのパートナーシップも活用します。
「動くもの」や凶器を扱う場合など、多くのユースケースにおける大規模な言語モデルでは、「幻覚」のリスクが高すぎます。
米国国防総省は現地時間8月10日、大規模言語モデルなどの生成型人工知能（AI）の分析と統合を行う「リマ（Lima）作業部会」の設立を発表した（ LLM) は国防総省のスマートツールが重要な役割を果たします。
「責任ある実装」
同グループの結成を指揮したキャスリーン・ヒックス国防次官は、「リマ特別委員会の設立は、AIイノベーションをリードするという国防総省の強いコミットメントを強調するものである。我々が人工知能の生成的変革力を活用するにつれて、私たちは、国家安全保障の確保、リスクの最小化、責任を持ってこれらの技術を統合することに引き続き重点を置いており、国防の将来は単に最先端の技術を採用するだけでなく、先見性と責任、そして国家に対するより大きな献身が重要です。これを達成するには広範な影響が考えられます。」
デジタルおよび人工知能の最高責任者が主導するリマタスクフォースは、国防総省全体で生成 AI 機能を評価、同期、活用し、国防総省と情報コミュニティおよび他の政府機関との間のパートナーシップも活用します。
デジタルおよび人工知能総局は 2022 年 6 月に業務を開始し、国防総省全体の AI 機能の統合と最適化に専念しています。
米国国防総省は、生成人工知能モデルを使用することで、戦争、通商、保健、戦闘準備、政策の分野での作戦を強化することを目指していると述べた。国防総省のデジタル・人工知能部門責任者のクレイグ・マーテル氏は、「敵がどの程度このテクノロジーを利用し、AIベースのソリューションに対するわれわれの理解を損なわせようとするかについても考慮する必要がある」と述べた。
「国防総省は、インテリジェンス、作戦計画、管理およびビジネスプロセスを大幅に改善する生成人工知能の可能性を認識しています。しかし、関連するリスクを効果的に管理するには、責任ある実装が鍵となります。」 リマ任務部隊ミッション司令官、デジタルおよび海軍大佐マヌエル・ザビエル・ルーゴ氏、人工知能最高局のアルゴリズム戦争評議会のメンバー。
米軍事メディア「ディフェンス・ワン」によると、この特別委員会は国防総省が人工知能の新たな目標を達成するために何を購入する必要があるかをよりよく理解するのにも役立ち、これにはより多くのクラウドサービス、データまたは合成データ、モデルが含まれる可能性がある。
** 「錯覚」問題を解決するにはどうすればよいでしょうか? **
生成人工知能は、トレーニングされたデータに基づいて新しい出力を生成します。そのような一般向けのツールには、人間の出力のように見える新しいテキストを作成できる ChatGPT などの大規模な言語モデルに基づくチャットボットが含まれます。論文、ビジネス プラン、さらには作成するために使用されてきました。科学論文。しかし、大規模な言語モデルはインターネットからのデータのコーパスに基づいてトレーニングされるため、「幻覚」として知られる嘘をつくことがあります。このため、国防総省当局者らは生成型AIの採用に消極的であると声高に主張してきた。
「国防総省は、適切な安全策を特定し、訓練データの管理ミスなどの問題から生じる可能性のある国家安全保障上のリスクを軽減しながら、責任を持って生成型 AI モデルの採用に努めなければならない」とマーテル氏は述べた。同氏は、「動くものなら何でも」や凶器を扱う場合など、大規模な言語モデルを採用するには「幻覚」のリスクが高すぎるユースケースが数多くあると指摘した。国防総省は、それらが安全に使用できる場所と、敵がそれらを配置する可能性がある場所を理解する必要があります。
疑問の 1 つは、国防総省が生成 AI が機能するのに十分なデータを持っているかどうかです。同省は慎重に厳選された豊富な内部データを持っていますが、大量のジェット エンジン診断や中東での長年にわたるドローン監視映像は大規模な言語モデルにはなりません。
「事前トレーニングされたデータなしでモデルの価値を維持するのに十分な範囲をカバーする十分なデータがあるかどうかは未解決の問題です。一方、私の仮説は、事前トレーニングされたデータが多ければ多いほど、その可能性が高まるということです」 「幻覚を起こすのです。ですから、それは私たちが探求しなければならないトレードオフなのです。私にはわかりませんし、実際、科学界もまだ答えを知っていないと思います」とマーテル氏は語った。
ChatGPT のようなツールが現時点で国防総省に適していない理由の少なくとも 1 つは、適切な結果を生成するために必要なエンジニアリングの量です。長いプロンプト ツリーは愛好家にとっては問題ありませんが、複雑なタスクを実行する必要があるオペレーターには、最初から直感的でより機能的なインターフェイスが必要だとマーテル氏は言います。