AI は世界的な電話詐欺の次の「覇者」となるのでしょうか?

原作: ジェフ・カウフリン、エミリー・メイソン

出典: フォーブス

原題: 「人工知能がどのように金融詐欺を煽り、より目に見えないようにするか」

「ザ・ハント」や「オール・オア・ナッシング」から先週公開された「オウム殺し」に至るまで、詐欺関連映画は中国の犯罪取り締まりに効果的なプロパガンダ手段となっているが、新たなAI技術の普及に伴い、今後の課題は大きくなっている。おそらくもっと厳しいでしょう。海の向こうの米国にとって、不確実性の時代において、不正行為防止が米国と中国の間の新たな合意となる可能性がある。米国の世論調査によると、2020年だけでも、米国人口の約6分の1にあたる5,600万人もの人が電話で詐欺に遭い、そのうち17%の米国人が複数回詐欺に遭っているという。

通信詐欺の分野では、米国にとってのインドは、中国にとってのミャンマーに等しい。しかし、インドにはミャンマーよりも詐欺産業の発展の土壌があることは明らかです。インドでは公用語としての英語の普及率が比較的高く、人材の面でもインドは「生来の優位性」を持っている一方で、インドは大手多国籍企業の海外プラットフォームとなっている電話カスタマー サービスのアウトソーシング業者は、アクセントは同じだが内容が異なる新しい電話詐欺を作成します。しかし、新たな AI テクノロジーにより、電話詐欺の分野におけるインドの「王座」が奪われる可能性があります。

洗練されたテキスト メッセージから、ビデオ内の音声のクローン作成や顔を交換するまで、生成 AI は詐欺師に強力な新しい武器を与えています。

「この手紙は、Chase が $2,000 の返金を保留していることをお知らせするものです。手続きを迅速化し、できるだけ早く返金を確実に受け取るには、次の手順に従ってください: Chase カスタマー サービス 1-800-953-XXXX までお電話ください。返金のステータスを確認してください。アカウント情報と関連情報を必ずご用意ください...」

Chase と取引があり、このメッセージを電子メールまたはテキスト メッセージで受け取った場合は、おそらくそれが真実だと思ったでしょう。過去によく受け取ったフィッシング メッセージの特徴である、奇妙な言い回し、間違った文法、奇妙な形容詞がなく、プロフェッショナルに聞こえました。

このメッセージは、テクノロジー大手 OpenAI が昨年末にリリースした人工知能チャットボットである ChatGPT によって生成されたものであるため、これは驚くべきことではありません。プロンプトとして、ChatGPT を入力するだけです: 「誰かに、Chase が $2,000 の払い戻しをする義務があることを伝える電子メールを送信します。払い戻しを受けるために 1-800-953-XXXX に電話してもらいます。(ChatGPT を機能させるには、次のようにする必要があります)完全な番号を入力してください。ただし、明らかにここでは公開しません。)

サンフランシスコの不正対策スタートアップ企業サーディンの共同創設者兼最高経営責任者（CEO）スープス・ランジャン氏は、「詐欺師は今や、他のネイティブスピーカーと同じように完璧に話す」と語る。 「銀行顧客が受け取るテキストメッセージにはほとんど欠陥がない」ため、銀行顧客がますます騙されることを確認した。 (自分自身が被害者にならないようにするには、この記事の最後にある 5 つのヒントを参照してください。)

与えられた情報に基づいてコンテンツを作成できる生成人工知能または深層学習モデルを歓迎するこの新しい世界では、悪意のある意図を持つ人々がテキスト、音声、さらにはビデオを作成することがこれまで以上に簡単になりました。これらのテキスト、音声、さらにはビデオは、潜在的な個人の被害者を騙すだけでなく、現在詐欺を阻止するために使用されているプログラムを騙すこともできます。この点では、AI に特別な点はありません。結局のところ、悪者たちは長い間新しいテクノロジーを早期に導入しており、警察が彼らを追いかけています。たとえば、1989 年にフォーブスは、銀行が偽造紙幣を検出するための特別な措置を講じることなく、窃盗犯がどのようにして普通のコンピュータとレーザー プリンタを使用して小切手を偽造し、銀行を騙していたかを暴露しました。

AI がオンライン詐欺の増加を加速

米国の消費者は、昨年詐欺により記録的な88億ドルを失ったと米国連邦取引委員会（FTC）に報告したが、これには報告されていない盗難額は含まれていない。

今日、生成型人工知能は、音声認証や、ライブ アバターと記録されたアバターを照合するように設計された「アクティビティ チェック」（ライブネス チェック）など、今日の最先端の不正防止手段を最終的に時代遅れにする可能性のある脅威をもたらしています。

7,000 万のアクティブなアカウントを持つ米国最大のクレジット カード発行会社の 1 つである Synchrony は、この傾向を最も直感的に理解しています。シンクロニーの上級副社長ケネス・ウィリアムズ氏はフォーブスへの電子メールで、「認証にディープフェイクの画像やビデオを使用している人をよく見かけますが、それらは生成人工知能を使用して作成されていると安全に想定できます。」と述べました。

ニューヨークに拠点を置くサイバー企業ディープ インスティンクトが 650 人のサイバーセキュリティ専門家を対象に実施した 2023 年 6 月の調査では、調査対象となった専門家の 4 分の 3 が過去 1 年間でオンライン詐欺の増加を経験しており、「回答者の 85% がこの増加は不正利用のせいだと考えている」と回答しました。悪意のある者による生成 AI の攻撃。」

さらに、米国連邦取引委員会は、2022年に米国の消費者が詐欺により88億ドルの損失を被ったと報告しており、これは2021年から40％以上増加しています。損失額が最も大きいのは投資詐欺によることが多いですが、最も多いのは詐欺師詐欺であり、これらの詐欺は人工知能によってさらに強化される可能性が高いため、これは不吉な兆候です。

犯罪者は生成 AI をさまざまな方法で使用する可能性があります。あなたがソーシャルメディアやその他のネットワークに定期的に投稿している場合、彼らは AI モデルにあなたのスタイルで書くように指示し、あなたの祖父母にテキストメッセージを送り、あなたを助けるためにお金を送ってくれるように懇願することができます。さらに恐ろしいのは、子どもの短い音声サンプルがあれば、子どものふりをしてその子の親に電話し、誘拐されたふりをして親に身代金の支払いを要求できることだ。アリゾナ州に住む4人の子供の母親、ジェニファー・デステファノさんが6月に議会で証言したとき、まさにそれが起こったことだ。

両親や祖父母だけでなく、企業も標的にされています。犯罪者は、ベンダーを装い、会計士に、自分が管理する銀行口座への支払い指示とともに、できるだけ早く支払いを受け取る必要があるという正規の電子メールを送信することもあります。 Sardine の CEO である Ranjan 氏は、Sardine のフィンテックスタートアップの顧客の多くが自らこうした罠にはまり、数十万ドルを失ったと述べた。

この金額は、2020年に会社役員の音声がクローンされたことで日本企業が失った3,500万ドルに比べると微々たるものであるが（当時、フォーブス誌が手の込んだ詐欺について初めて報じた）、現在ではこの事件はますます一般的になりつつある。文章作成、音声模倣、ビデオ処理のための人工知能ツールが急速に高機能になり、一般の詐欺師にとっても利用しやすくなっているため、この事件はより頻繁になっています。詐欺防止会社ペルソナの共同創設者兼最高経営責任者（CEO）のリック・ソング氏は、以前は高品質のディープフェイク動画を作成するには数百、数千枚の写真が必要だったが、今では数枚の写真だけで済むと語った。 (はい、本物のビデオがなくても偽のビデオを作成できますが、本物のビデオがあったほうが簡単なのは明らかです。)

トラップと電話詐欺: ディープ サウンド クローン作成の危険性

他の業界が AI をビジネスに適用しているのと同じように、詐欺師はテクノロジー大手がリリースした生成 AI モデルを使用して、FraudGPT や WormGPT などの既製のツールを作成しています。

1月に投稿されたYouTubeビデオの中で、世界で最も裕福なイーロン・マスク氏は、視聴者に最新の仮想通貨投資の機会を宣伝しているようで、テスラは1億ドル相当の無料イベントを後援したと同氏は主張し、参加者には2倍のバックを約束していると主張した。ビットコイン、イーサリアム、ドージコイン、イーサリアムなどの暗号通貨への投資について。低解像度版のマスク氏はステージ上で「全員が共通の目的のためにここに来ていることは分かっている。現在、私たちはすべての仮想通貨所有者が収入を増やすことができるライブ放送を主催している」と語った。 「はい、私の言うことは正しく聞こえました。私はSpaceXのために大きな暗号通貨イベントを主催しています。」

はい、このビデオはディープフェイクです。詐欺師は、SpaceX の再利用可能な宇宙船プロジェクトに関する 2022 年 2 月のスピーチを利用して、彼の画像と音声を模倣しました。 YouTubeはその後この動画を削除したが、それまでに動画内のアドレスに仮想通貨を送金していた人はほぼ確実にウォレットにダメージを受けることになる。 AI音声クローン作成をサポートするマスク氏の音声サンプルがオンラインで無数に入手できるため、マスク氏はフェイクビデオの主な標的となっているが、現在ではほぼ誰でもなりすますことが可能だ。

今年初め、南フロリダの老人コミュニティに住む93歳の男性ラリー・レナードさんは、妻が固定電話の電話に出たとき、家にいた。 1分後、彼女が受話器をレナードに渡すと、受話器から27歳の孫のような声が聞こえ、トラックで女性をはねて刑務所にいると告げた。レナードさんは、電話の相手が自分の孫が好んで呼んでいる「おじいちゃん」ではなく「おじいちゃん」と呼んでいることに気づいたが、男性の声は孫の声にそっくりで、実際に孫がトラックを運転していたという事実もあった。彼の疑念はさておき。レナードが孫の両親に電話するつもりだと答えると、電話の相手は電話を切った。レナードはすぐに、孫が無事で、その話とそれを告げる声がすべて嘘であることを知る。

「彼らが彼の声、イントネーション、口調を非常に正確に捉えることができたという事実は、私にとって恐ろしくもあり、驚きでもありました。彼らの文章や言葉の間には空白がありませんでした。これは言葉が読まれていることを示しています」とレナードさんはフォーブスに語った。機械やプログラムから作られたものですが、本物とまったく同じように聞こえます。」

高齢者はこの種の詐欺の標的になることがよくありますが、たとえ近所の人など、見覚えのある番号からの電話であっても、私たち一人ひとりが着信に警戒する時期が来ています。 「詐欺師が（電話番号を）なりすましたため、かかってくる電話がますます信頼できなくなりました」とAARPの詐欺防止プログラムディレクター、キャシー・ストークス氏は嘆く。） AARPはロビー活動やサービスプロバイダーであり、ほぼ50歳以上の会員数は3,800万人。 「私たちは受け取る電子メールも信頼できませんし、テキスト メッセージも信頼できません。そのため、私たちはお互いにコミュニケーションをとる一般的な方法から排除されています。」

別の不気味な展開では、新しいセキュリティ対策さえも脅威にさらされています。たとえば、5,000万人以上の投資家にサービスを提供する投資信託大手バンガード・グループなどの大手金融機関は、秘密の質問に答える代わりに電話で話すことで特定のサービスを受けるオプションを顧客に提供している。 「あなたの声は指紋と同じように唯一無二です。」

バンガードは顧客に音声認証へのサインアップを促す2021年11月のビデオで説明した。しかし、音声クローン技術の進歩は、企業がそのやり方を再考する必要があることを示唆しています。 Sardine の Ranjan 氏は、一部の人々が音声クローン技術を使用して銀行に自分自身を認証し、口座にアクセスすることに成功しているのを目撃したと述べました。バンガードの広報担当者は、音声クローン技術の進歩を阻止するために同社がどのような措置を講じるかについてコメントを控えた。

請求書の支払いや送金に非公式の手順を使用する中小企業 (さらには大企業も) も、悪者に対して脆弱です。詐欺師がサプライヤーからのような偽の請求書を電子メールで送信して支払いを要求することは、長い間よく行われてきました。

現在、広く利用可能な人工知能ツールを利用して、詐欺師は役員の音声のクローン版を使用して、取引を許可するふりをして従業員に電話したり、「フィッシング」または「音声フィッシング」ソフトウェアで機密データを開示するよう従業員に要求したりすることができます。ペルソナの CEO であるリック・ソング氏は、「役員になりすまして高額の詐欺行為を行うこととなると、それは非常に大きなことであり、非常に現実的な脅威だ」と述べ、それが「声に関する最大の恐怖」であると述べた。

AI は詐欺専門家をだますことができますか?

今日のデジタル重視の金融システムでは、これらの詐欺専門家やテクノロジー企業が武装警備員や現金輸送車として機能しているにもかかわらず、犯罪者は生成型人工知能を利用して詐欺専門家を騙すことが増えています。

これらの企業の主な機能の 1 つは、金融機関とその顧客を損失から守るために消費者の身元を確認することです。 Socure、Mitek、Onfido などの詐欺防止会社が顧客の身元を確認する方法の 1 つは「生存確認」です。つまり、自撮り写真またはビデオを撮影し、その写真またはビデオ クリップを使用して顔と照合するよう求められます。照合には ID カードの画像を送信する必要があります。

システムの仕組みを理解すると、窃盗犯はダークウェブで本物の運転免許証の写真を購入し、ビデオ顔交換プログラム（安価でよりアクセスしやすくなっているツール）を使用して、他人の現実のアバターを自分の顔に重ね合わせます。 。その後、他人のデジタル顔の後ろで話したり頭を動かしたりすることができるため、アクティビティ チェックをだます可能性が高まります。

「AIによって生成され高品質な偽の顔の数は大幅に増加しており、アクティビティチェックをターゲットとした自動的に生成される詐欺攻撃も増加している」とソン氏は述べた。業界別ではあるが、一部の人にとっては「昨年の10倍になるかもしれない。」フィンテック企業と仮想通貨企業は、そのような攻撃に対して特に脆弱である。

不正行為対策の専門家は、Socure や Mitek などの知名度の高い本人確認プロバイダーが、その結果として不正行為防止指標が低下しているのではないかとフォーブスに語った。ソキュアの最高経営責任者（CEO）ジョニー・エアーズ氏は「これは全くの虚偽だ」と主張し、過去数カ月間に展開した新モデルの影響で、上位2％の最も危険度の高いなりすまし詐欺の摘発件数が増加した（14％）と述べた。しかし、一部の顧客はSocureの新モデルの導入が遅れており、それが自社の業績に影響を与える可能性があることを同氏は認めた。 「私たちの顧客の 1 つは国内のトップ 3 銀行の 1 つですが、現在では 4 つのバージョンが遅れています」とエアーズ氏は述べています。

マイテック社は、自社モデルの不正行為防止性能指標について具体的にコメントすることを拒否したが、同社上級副社長のクリス・ブリッグス氏は、もし特定のモデルが18カ月前に開発されたものであれば、「そう、古いモデルはそれほど良くないと主張することもできる」と述べた。 」

JPモルガン・チェース、バンク・オブ・アメリカ、ウェルズ・ファーゴはいずれも、生成AI詐欺で直面する課題についてコメントを拒否した。過去に大規模な詐欺問題を経験している米国最大のデジタル銀行チャイムの広報担当者は、同行ではまだ生成型人工知能に関連した詐欺の増加は見られていないと述べた。

今日、金融詐欺の背後には、単独犯罪者から数十人、場合によっては数百人の犯罪者からなる複雑な集団に至るまでさまざまな犯罪者が存在します。最大の犯罪組織は企業と同様、多層的な組織構造を持ち、データサイエンティストを含む上級技術スタッフを擁しています。

「彼らは皆、独自の指揮統制センターを持っている」とランジャン氏は述べ、一部のギャングメンバーはフィッシングメールの送信や電話をかけるなど、おとりを担当している。誰かが餌にかかると、別の共犯者を騙された人物と接触させ、この共犯者は銀行支店長を装い、あなたの口座からお金を振り込ませようとします。もう 1 つの重要なステップ: コンピューターをリモート制御するために、Microsoft TeamViewer や Citrix などのプログラムをインストールするように求められることがよくあります。 「彼らはあなたのコンピュータを完全に真っ暗にすることができます。そうすれば、詐欺師は（あなたのお金で）さらに多くの取引を行い、彼らが管理する別のURLにお金を引き出すでしょう。」とランジャン氏は言いました。高齢者は、相手の口座が詐欺師によって管理されており、資金を取り戻すには相手の協力が必要であると嘘をつきます。

OpenAI と Meta の異なる戦略

上記の詐欺プロセスは必ずしも人工知能の使用を必要とするわけではありませんが、人工知能ツールを使用すると、詐欺師の戦術をより効率的かつ信頼できるものにすることができます。

OpenAI は、人々が ChatGPT を詐欺に使用することを防ぐための保護を導入しようとしました。たとえば、ユーザーが ChatGPT に、誰かの銀行口座番号を尋ねる電子メールの下書きを依頼した場合、ChatGPT はその指示の実行を拒否し、「申し訳ありませんが、このリクエストには対応できません。」と応答します。詐欺を犯すことはまだ非常に簡単です。

OpenAI はこの記事についてコメントを拒否し、同社が公開したブログ投稿のみを紹介しました。そのうちの 1 つは 2022 年 3 月に公開され、次のように書かれています。私たちのモデルと潜在的な悪用経路を検討し、導入のあらゆる段階で関連する問題に対処します。」

OpenAI と比較して、Meta が発表した大規模言語モデル Llama 2 は、オープンソース モデルであり、すべてのコードを表示して使用できるため、経験豊富な犯罪者によって犯罪ツールとして使用される可能性が高くなります。専門家らは、これにより、犯罪者がモデルを独自に取得し、ネットワークのセキュリティを侵害するためにそれを使用するためのより多くの道が開かれると述べています。たとえば、その上に悪意のある AI ツールを構築する可能性があります。フォーブスはメタにコメントを求めたが、返答は得られなかった。 Meta CEOのMark Zuckerberg氏は7月、Llamaをオープンソースにしておくことで「オープンソースソフトウェアがより精査され、より多くの人が協力できるようになるため、安全性とセキュリティが向上する。問題の解決策を見つけて特定する」と述べた。

不正防止企業はまた、AI の進歩に追いつくためにイノベーションを加速し、新しいデータ タイプをより活用して不正行為者を特定しようとしています。 「タイプの仕方、歩き方、携帯電話の持ち方など、これらの行動特性がその人を特徴づけますが、このデータはパブリックドメインではアクセスできません」とランジャン氏は言う。 「その人、組み込みAIが大きな役割を果たすことになる。」 つまり、AIを利用して詐欺を働いた犯罪者を捕まえるにはAIが必要だということだ。

AI 詐欺から身を守るための 5 つのヒント:

この記事は以下から翻訳されています