Coinbase社(COIN)は、同社の人工知能(AI)詐欺防止エージェントが、イーロン・マスク氏のディープフェイク映像を使ってテスラ社の暗号資産プレゼントを装ったニセのキャンペーンをもちかけた詐欺師に、顧客資金約470万ドルが渡るのを阻止したと発表した。顧客が送金しようとした資金の約91%をブロックしたという。11月17日、Coinbaseは消費者保護に関する週刊シリーズの一環として、ブログ記事でこの事案について説明した。この詐欺防止システムは「人間が介在することなく」機能したという。
公表されたふたつの数字から、顧客は約520万ドルを送金しようとし、そのうち約46万ドルが顧客の口座から流出したと推計できる。Coinbaseは、実際に詐欺師の手に渡った金額については明らかにしていない。
現実ではなかった ライブ配信
この詐欺は、テスラの「空飛ぶ車」のデモンストレーション中に行なわれた。詐欺師は、本物の配信に見せかけたニセのYouTubeライブストリームを立ち上げ、マスク氏のディープフェイク映像、画面上に表示されたウォレットアドレス、QRコードを使用した。Coinbaseによると、この配信では、送金された暗号資産を2倍にして返すと約束しており、50万人以上が視聴した。
約2時間にわたり、数百人のCoinbaseユーザーが画面に表示されたアドレスに数百万ドルを送金しようと試みた。その多くは長年のユーザーだった。Coinbaseは、このニセ配信がいつ行なわれたのか、またユーザーがどの暗号資産を送金しようとしたのかについては明らかにしていない。
Coinbaseは、自社のプラットフォームが侵害されたわけではないことを強調し、「誰もハッキングされていません。Coinbaseのアカウントへの不正侵入も、パスワードの窃取も、認証情報をだまし取るフィッシングもありませんでした」と説明している。これこそが、プレゼント詐欺を阻止するのが難しい理由だ。というのも、ほとんどの防御システムは、アカウント所有者が承認していないアクティビティを検知する仕組みになっているが、今回のケースでは顧客自身がログインし、自分で確認ボタンを押していたからだ。
「当社のシステムは、リスクを示すシグナルをリアルタイムで検知できます。しかし、利用者の意図までは把握することはできません」と、ブログ記事には記されていた。
詐欺防御エージェントの 仕組み
Coinbaseによると、同社の防御システムは3つの要素で構成されているという。まず、機械学習モデルが送金をリアルタイムでスコアリング(評価)し、プレゼント企画に見せかけた詐欺のパターン、ブランドのなりすまし、新たに作成されたウォレットアドレスなどを監視する。その目的は「顧客を捕まえるのではなく、危険を察知すること」だという。送金に不審な兆候が見つかると、詐欺対策に特化したエージェントが引き継ぎ、関連する背景情報を調べ、詐欺の手口を特定し、プレゼント企画を装った詐欺の仕組みを説明するとともに、その話の矛盾が明らかになるような質問を投げかける。
その回答を顧客に提示する前に、それぞれの回答について信頼性や確信度が評価される。これにより、システムはどのような状況でより強い注意喚起や確認手順が必要になるかを判断できる。Coinbaseによると、このエージェントは今回のような詐欺の手口については一度も訓練を受けていなかった。新製品の発表に関連したライブ配信で行なわれるディープフェイクを使ったプレゼント詐欺は、同社の訓練データには含まれていなかったという。
Coinbase は「それでも、この詐欺の手口の特徴を認識しました」と説明し、その根拠として、資金を倍増させるという約束、ライブイベントに設定された期限、そして一度実行すると取り消し不可能な送金といった点を挙げた。
ニセモノを より 安く つくれる 時代
Coinbaseによると、ディープフェイクによって詐欺の経済性は変化した。同社は「かつてはこのような詐欺行為を一度仕掛けるには、スタッフ、スタジオ、そして数週間が必要でした。いまでは、ライブ配信の枠とAIモデルさえあれば済んでしまう」と指摘している。 Coinbaseは、リスクの高い送金に対するAIによる審査を、知名度の高い詐欺だけでなく、あらゆる種類の詐欺に拡大していると説明した。また、新たな詐欺事例にAIを使ってラベル付けすることで、モデルが数週間ではなく数時間以内に攻撃から学習できるようにもしているという。
ソーシャルエンジニアリングは、Coinbaseの顧客にとって継続的な問題となっている。9月には、ブルックリン在住の男性が、Coinbaseを標的とした1600万ドル規模のフィッシング詐欺に関与したとして、懲役12年の判決を受けた。今週は、ハードウェアウォレットメーカーであるTrezor社の配送パートナーで発生した情報漏洩によって2万7000件の注文情報が流出した後に、詐欺電話がかかってきたとの報告がTrezorの顧客から寄せられた。
このブログ記事が公開されたのと同じ日、Coinbaseはビットコイン、株式、デリバティブの取引を可能にするChatGPTプラグインを発表した。このプラグインでは、すべての注文についてユーザーによる承認が必要となる。Coinbaseはブログ記事の最後に、同社がけっして行なわないことの一覧を列挙し、そのなかには、顧客が送金した暗号資産を2倍、3倍、あるいはそれ以上に増やすと約束することも含まれていた。
Coinbaseは、「正当な事業者が、あなたの暗号資産を2倍にすることなどありえない」と断言している。





