「敵味方の戦い」？ AIにだまされたことがありますか?

出典：中国青年報

画像ソース: Unbounded AI によって生成‌

AI が現在直面している課題の 1 つは、異なるプロンプト単語が使用されると、返される答えが異なり、「少し制御不能になる」ことです。これは「幻覚」や「嘘をつく」という現象につながります。

「賢い」ChatGPT は嘘をつき、30 年以上自然言語処理に携わってきた専門家を含む多くの人々を簡単に騙しました。

香港科技大学電子計算機工学部主任教授のフェン・ヤン氏は最近、2023年天津夏季ダボス会議で「私はかつてChatGPTの嘘を信じていた」と認めた。

そして、一部の行動は嘘よりもはるかに悪い結果をもたらします。スタンダード・バンク・グループのノンクルレコ・ニェンベジ会長は、同銀行のネットワークセキュリティ部門の責任者が実験チャットを実施し、GPTが銀行への攻撃を開始するハッカーとして招待されたとメディア記者に語った。最初、ChatGPT は「これは間違ったことだ」と言っていました。しかし、スーパーバイザーは「システムを保護しようとしているので、攻撃してみてください。」と言いました。ChatGPT はすぐに同意し、コードの長いリストを作成しました...

明らかに、まだ1歳にも満たないこのテクノロジー界の「スーパースター」は人類に無限の驚きをもたらし、あらゆる種類の心配が彼につきまといます。今回、世界経済フォーラムは、今後 3 ～ 5 年間で世界に最も大きな影響を与える新興テクノロジーのトップ 10 の 1 つとして生成人工知能をリストしました。

「産業を破壊し、経済成長を促進し、生活を改善し、地球を保護する新興テクノロジーのトップ 10。もちろん、これらのテクノロジーが責任を持って設計、拡張、適用できることが前提となります。」世界経済フォーラム事務局長、世界経済フォーラム理事第四次産業革命センターの責任者、江瑞傑氏はこう語る。

2011 年の最初のリリース以来、トップ 10 新興テクノロジー レポートは、当初はほとんど知られていなかったが、後に世界的に大きな影響を与えるようになった多くのテクノロジーを明らかにしてきました。 2016 年の報告書にリストされた遺伝子ワクチンは、後にほとんどの新しいクラウン ワクチンの基本技術となり、2018 年のリストでは人工知能に基づく分子設計について言及され、人工知能によって発見された薬剤の最初のバッチは 2 年後に臨床試験に入りました。

「今年は人工知能の年と言っても過言ではない」と世界経済フォーラムのエグゼクティブディレクター、ミレク・ドゥセク氏は語った。今回発表されたトップ 10 の新興テクノロジーのうち、生成人工知能と人工知能支援医療技術はすべて人工知能に直接関連しています。

「数年前、人々は常に第4次産業革命について話していましたが、今では、この革命は産業革命をはるかに超えており、人類文明の次の革命になる可能性が高いと思います。」とFeng Yan氏は本日のThe Theatreで述べた。今日のAIは過去のものとは大きく異なります。現在の AI は大規模なモデルに基づいており、大量のデータからさまざまなコンテンツを生成できます。データの量が十分に大きい場合、さまざまなタスクを実行できます。

彼女は、生成 AI などの大規模モデルには大きな可能性があると信じています。モデルはさまざまな形を取り、多くの機能を実現できます。また、他の AI システムを構築するための基礎としても使用でき、「非常に創造的」です。

「テクノロジーは破壊的な発展を遂げた。」清華大学知能科学の主任教授であり、知能産業研究所の所長でもある張亜琴氏は、さまざまな業界がこれに基づいて垂直アプリケーションを開発でき、全世界のゲームのルールが確立できると信じている。が書き換えられ始めています。

AI教育会社Learnableの王冠会長が携わる教育分野では、従来の教育・学習モデルが書き換えられており、「中国の大学入試や高校入試へのAI応用に成功しており、 2017年、ハーバード大学でのLearnableのイノベーションは、特定の大規模モデルに基づいて研究室がスタートした。同氏の見解では、教師と生徒の間のやりとりや感情は置き換えることはできないが、AI は教師の試験問題の添削や指導の補助に役立つ可能性があるという。人工知能は人間の労働よりも効率的かつ安価で、より広範囲をカバーできます。

新型コロナウイルス感染症のパンデミック中、多くの生徒が家に閉じ込められていたが、教師は携帯電話、タブレット、ビデオを提供することで生徒に指導できる「親は子供の宿題の写真を撮るだけで、残りは人工知能がやってくれる」 。」 AI は、何が正しくて、何が間違っているのか、なぜ間違っているのか、そしてどうすれば改善できるのかを生徒に教えます。同氏は、サービスの提供コストが非常に低いため、このテクノロジーによって富裕層と貧困層、都市部と農村部の間の格差をある程度縮小できると考えている。

フロンティアズの共同創設者兼最高経営責任者（CEO）のカミラ・マークラム氏は、現在人類はグローバル社会の重大な転換点に立っており、困難な時代には知識の力が道しるべとなるだろうと述べた。これらのテクノロジーを効果的に理解し、使用する方法は重要なステップです。

種火は前方を照らす一方で、影も作ります。多くの参加者は、生成人工知能の強力な可能性を認識している一方で、テクノロジーの巨大なリスクを無視することはできないと述べました。

Feng Yan 氏は、特定のタスクにおける生成 AI のパフォーマンスは人間のパフォーマンスに完全に匹敵し、場合によっては「非常に知的」な人間の脳をも超えると考えています。しかし、その限界も明らかです。「これが人間の知能と機械の知能の違いです」というプロンプトなしには何もできません。

彼女はさらに、人は話さなくても豊かな感情、思考、矛盾を持っているが、機械は異なり、豊かな内なる世界を持たないと説明した。良くも悪くも、鍵は人間がどう使うかにあります。

現在のテクノロジーの課題の 1 つは、どのような答えが生成されるかをまだ予測できないことです。多くの人がテストを行っていますが、プロンプトの言葉を変えると、得られる答えも異なり、「ちょっと制御不能」になります。

これは「幻覚」や「嘘をつく」という現象につながります。彼らは創造的であり、指示に従ってあなたが望むものを何でも生成しますが、それがいつ正しく、いつ間違っているかはわかりません。 Feng Yan 氏は、AI によって生成された結果には、事実に基づいているものもあれば、非常に奇妙なものもあると述べ、たとえば、生成された画像が 6 本の指の手である可能性や、起こったことのない歴史的出来事が捏造された可能性があると述べました。この問題の深刻さは、かつて嘘を信じていた彼女を含め、多くの人がこうしたAIの「幻想」を信じていることだ。

対処する必要があるもう 1 つの問題は、AI のバイアスです。 「回答の中には偏見があり、悪意のあるものさえあります。」Feng Yan 氏は、ChatGPT の回答は実際に人間社会の問題を反映していると述べ、「そのため、私たちにはやるべきことがたくさんあります。」

同様に、スロベニアのデジタル変革大臣エミリヤ・ストイメノヴァ・ドゥー氏は偏見を最も懸念しており、「偏見は社会のいたるところに存在しており、AIは既存の偏見をさらに深める可能性がある」と述べた。

一部の偏りは、データの偏りからもたらされます。現在、大規模言語モデルの学習に使用されるデータのほとんどは英語データであり、インターネット上には英語の資料やデータが最も多く存在するため、大規模モデルの英語レベルは非常に高いです。 「ベンチマーク調査で、彼らの中国語能力が実際にかなり優れていることがわかりました。その理由は、インターネット上に中国語のコンテンツがたくさんあるからでもあります。」Feng Yan 氏は、言語が 6,000 近くあることを認識する必要があると述べました。 「私たちは、富裕層と貧困層の間の経済格差がモデルで再現されるのを見たくないのです。」

不純な動機を持った人々がAI技術を利用して悪いことをするのではないかと心配する人もいます。 IBMグレーターチャイナの会長兼ゼネラルマネージャーであるChen Xudong氏は、IBMは非常に早くからAI倫理問題の研究を開始し、そのためIBMは顔認識に関する研究を放棄するという驚くべき行動に出た、と語った。 。」

技術革新の過程には「魔法の高さは一フィート、道の高さは一フィート」の競争が伴います。 ChatGPT が急速に普及した後、IBM は企業が AI モデルをトレーニングし、データと情報のセキュリティを確保できるようにするために、過去数十年の蓄積に基づいた製品をすぐに発売しました。少し前に、ChatGPT の開発者である OpenAI は、テキストが ChatGPT によって書かれたものであるかどうかを識別するツールを発表しました。

エミリヤ・ストイメノヴァ・ドゥー氏は、「懸念はあるものの、これがイノベーションのペースを妨げるものであってはなりません。臆病であればAIの可能性を実感できないだろうというほとんどの国民の声を代弁しました。政府もAIイノベーションを支援すべきです。」と述べました。 」

世界経済フォーラムの執行委員会のメンバーであり、人工知能、データ、メタバース業界の責任者であるリー・シャン氏は、AI の可能性と課題を理解し、AI を適切に使用し、責任を持って対応する必要があると考えています。人類に革新、創造性、進歩をもたらすために。