AI「詐欺」は月額200ドルで実装可能？技術的な敷居のないChatGPTのハッカー版がダークウェブを席巻している

出典:CSDN

著者: 朱克新

7 月 13 日、悪意のある AI ツールである WormGPT がどこからともなく生まれ、その助けを借りて一連のフィッシング メールが自動的に生成され、誰もがパニックに陥りました。

一つの波が平坦ではないと分かると、また別の波が上昇します。

セキュリティ分析プラットフォーム Netenrich によると、FraudGPT と呼ばれる AI ツールが最近ダークウェブ上で出回り、犯罪者がフィッシングメールの作成やマルウェアの開発に使用しているとのことです。

GPT-3 ベース、強力な機能、大きな脅威、簡単な操作

周知のとおり、従来のハッキング ツールでは、ネットワーク攻撃をより適切に実行するために、ユーザーが対応するプログラミング スキルを持っている必要があります。

比較すると、FraudGPT はよりシンプル、直接的、効率的で、「より脅威的」であるように見えます。

プロの開発者でも初心者でも、単純な質問と回答の方法を行うだけでハッキングを実現できます。

Netenrich によると、FraudGPT は、受信者が騙されて提供された悪意のあるリンクをクリックさせるという高い確信度を持った電子メールの下書きを作成することで機能します。その主な機能は次のとおりです。

• フィッシング サイト ページを作成。 FraudGPT は、本物のように見えるフィッシングメール、テキストメッセージ、Web サイトを生成し、ユーザーをだましてログイン資格情報、財務詳細、個人データなどの機密情報を漏らすことができます。
• 最も脆弱なターゲットを見つけます。チャットボットは人間の会話を模倣して、何も疑っていないユーザーとの信頼関係を築き、知らず知らずのうちに機密情報を漏らしたり、有害な行為を実行したりする可能性があります。
• ** 検出不可能なマルウェアを作成します。 ** FraudGPT は、ユーザーを騙して悪意のあるリンクをクリックさせたり、有害な添付ファイルをダウンロードさせたりして、デバイスをマルウェアに感染させる欺瞞的なメッセージを作成する可能性があります。
• ** 詐欺的なテキスト メッセージや電子メールを書き込む。 **AI を活用したチャットボットは、ハッカーが不正な文書、請求書、支払い要求を作成するのを支援し、その結果、個人や企業が金融詐欺の被害に遭う可能性があります。

FraudGPT は「CanadianKingpin」という名前の開発者によって提供されていると報告されています。

これは主に GPT-3 の大規模言語モデルに基づいており、トレーニング後に論理的かつ事実に基づく不正なテキストを生成できます。犯罪者が料金を支払うと、FraudGPT はフィッシングや詐欺の成功に役立ちます。

ダークウェブを一掃、料金は月額 200 ドル

実際、FraudGPT は、AI ツールがサイバー犯罪者の参入障壁を下げる最初のケースではありません。

Claude、ChatGPT、Bard などの AI プロバイダーが自社のテクノロジーが悪目的に使用されるのを防ぐために何らかの措置を講じたとしても、オープンソース モデルの台頭により、犯罪者が悪意のある行為を封じ込めることは困難になります。

7月上旬には、オープンソースの大規模言語モデルGPT-Jをベースに開発され、学習や微調整に大量の悪意のあるコードを使用した「WormGPT」も注目を集めた。

WormGPT は、Python コードを使用して、トロイの木馬、悪意のあるリンク、模倣 Web サイトなどの生成など、さまざまなネットワーク攻撃を実行することに長けていると報告されています。

しかし、それに比べて、FraudGPT はより強力な機能に加えて、価格も月額 60 ユーロの WormGPT よりもはるかに高くなります **月額のサブスクリプション価格は 200 ドルにもなり、ChatGPT の 10 倍ですプラス。 **

3 か月または 6 か月のサブスクリプションを購入すると割引が受けられ、1 年間のアクセスを購入するには 1,700 ドルかかります。

現在、FraudGPT は WHM、Empire、AlphaBay、World、Versus、Torrez などの多くのアンダーグラウンド ダークネット マーケットを席巻しており、累計取引件数は 3,000 件を超えています。

**犯罪の閾値が下がった場合、ユーザーはどうすれば犯罪を防ぐことができるでしょうか? **

WormGPT であろうと FraudGPT であろうと、このような脅威的な AI ツールがサイバー犯罪や詐欺の促進に「力を与えている」ことは疑いの余地がありません。

セキュリティ分析プラットフォーム Netenrich は次のように述べています。「このテクノロジーは、フィッシングメールやその他の詐欺の侵入障壁を低くします。 時間の経過とともに、犯罪者は犯罪能力を強化するために私たちが発明したツールを使用するより多くの方法を見つけるでしょう。」

サイバー攻撃の「敷居の低さ」と相まって、AI ツールの邪悪な側面が完全に実証されると、防御戦略を強化することが特に重要になります。

そのために、インドのエコノミック・タイムズ紙は、個人や企業がFraudGPTや同様のAIツールの脅威から安全を確保するために講じることができるいくつかの重要な手順を概説しました。

• ** オンラインコミュニケーションには注意してください。 **見慣れない Web サイトのリンクや電子メールを無作為にクリックしたり、未知のソフトウェアをインストールしたりしないでください。同時に、検証が必要な電子メール、機密情報、または金融取引が含まれる電子メールを誤って送信した場合は、公式チャネルを通じて検証する必要があります。
• **ネットワークのセキュリティ対策を常に把握してください。 **セキュリティ ソフトウェアを定期的に更新し、パッチをインストールし、信頼できるウイルス対策プログラムを使用して、潜在的な脅威から保護してください。同時に、最新のネットワークセキュリティ対策を理解し、ネットワーク攻撃に対する防御意識を高めることも必要です。
• **不明なリンクや添付ファイルには注意してください。 **リンクをクリックしたり、不明なソースからの添付ファイルを開いたりしないでください。 FraudGPT はフィッシング Web サイトへの現実的な URL を生成できるため、リンクをクリックする前に送信者の身元を確認することが重要です。
• **従業員を教育し、訓練します。 **企業にとって、サイバーセキュリティのベストプラクティスに関する従業員トレーニングは非常に重要です。従業員が潜在的な脅威を認識し、不審なアクティビティを特定する方法を知っていることを確認します。従業員が不審なメッセージを発見した場合は、直ちに IT 部門に報告する必要があります。

参考リンク：