AIを使った罠：20万人の架空の被害者で詐欺師をおびき寄せる

admit it – アパテのアイデアを初めて聞いた時、20万人の架空の身元を使って詐欺師をおびき寄せるという話に思わず笑みがこぼれた。その absurdity（馬鹿げた程度）ではなく、あまりにも人間的だからだ：私たちは架空の被害者の軍隊を作り、本物の詐欺師を捕まえようとする。まるで泥棒を「止まれ、警察だ！」と叫ぶマネキンで引き付けるようなもの。ただし、今回は全てがデジタル上で、しかも大量のコードによって実現されているのだが。
米国の企業アパテが本当に clever（巧妙）な仕組みを開発した。LinkedInやFacebookをスクロールしていると、突然「Sarah」という若いマーケティングアシスタントからメッセージが来る。シカゴ出身で、魅力的なプロフィール画像、もっともらしい経歴、数人の共通の知人──。しかし「Sarah」は実在の人物ではない。彼女は詐欺師をおびき寄せるためにプログラムされたAIで、あまりにもリアルに振る舞うため、熟練した scammer（詐欺師）でも思わず考え込んでしまうほどだ。
どのように機能するのか？簡単に言えば、AIの「被害者」は、連絡先のリクエストやフィッシングメールに簡単に引っかかる素人と同じように振る舞う。彼らは進んで個人情報をさらし、やり取りに応じては、その全ての相互作用を記録し続ける。中でも最も斬新なのが、詐欺師の怒りの度合いまで測定する点だ。そう、その通りだ。KPI（重要業績評価指標）の一つが、詐欺師が放つ「Fワード（卑猥な言葉）」の数なのだ。AIは決して諦めないため、罠にかかった詐欺師がより多くの悪態をつけばつくほど、彼らの時間とエネルギーは無駄にされる。
なぜこんな対策が必要なのか？詐欺の市場が急速に拡大しているからだ。FBIによると、2022年 alone（米国だけで）サイバー犯罪者たちは48億ドル以上をだまし取ったという。特に巧妙なのが「Romance Scams（ロマンス詐欺）」：出会い系アプリを通じて被害者の心と財布を狙う手口で、加害者は海外に拠点を置き、VPN、偽プロフィール、操作可能なチャットボットを駆使する──。一般的なプラットフォームの規制では、こうした組織的なネットワークを突破できない。
ここでアパテの出番だ。彼らは受動的な通報を待つのでは



なく、能動的に動く：詐欺師を挑発し、手口を分析し、捜査当局に訴追に必要なデータを提供する。既に当局と協力して「Pig Butchering（ピッグバタリング）」詐欺の解体に成功している。これはソーシャルメディアや出会い系アプリを悪用し、被害者の貯蓄を奪う手口だ。
しかし ethically（倫理的に）正当なのだろうか？
批判派はアパテの手法を「entrapment（おとり捜査）」だと指摘する──つまり、意図的に犯罪を誘発しているというのだ。だが同社は反論する：詐欺師の方からコンタクトを取ってきたのであり、AIは単に彼らのアプローチに反応しているだけだと。加えて、収集したデータ（IPアドレス、言語パターン、コミュニケーション経路）は捜査官に引き渡され、犯罪の証拠となる。
もちろん privacy（プライバシー）の懸念もある。だが率直に言って、他人をだまして金を巻き上げるために身元を偽装した詐欺師に、果たしてデータの privacy が保障されるべきだろうか？
未来：さらにリアルに、そして効果的に
アパテは既に次世代の開発に取り組んでいる。 soon（近いうちに）、AIの「被害者」はテキストだけでなく、ボイスやビデオを悪用した scams（詐欺）にも対応できるようになる。そしてやがて WhatsApp や Telegram のようなメッセンジャーアプリと統合されれば、詐欺師にとって truly（本当に）居心地の悪い環境が生まれるだろう。
二刃の剣──だが必要な存在
犯罪と戦うためにAIを「武器」として使うことは dilemma（ジレンマ）を孕む。一方で、詐欺師を暴き、そのネットワークを破壊する画期的なソリューションを提供する。その一方で、挑発の限界は？ manipulation（操作）の始まりはどこか？という疑問も生まれる。だがネット上の詐欺が拡大し続ける限り、こうした解決策は必要不可欠だ。間違いなく言えるのは：犯罪者はやめない──。だからこそ私たちも creative（創造的）でなければならない。そして perhaps（ひょっとしたら）、アパテのアプローチは、詐欺師を捕まえるだけでなく、彼らに「架空の被害者の軍隊には勝ち目がない」と示す第一歩かもしれない。たとえその被害者がコードでできていたとしても。