AIがサイバー犯罪者を逆に騙す時代へ
原題: AI Is Getting Really Good at Messing With Cybercriminals
なぜ重要か
国際的な詐欺対策が法執行の限界に直面するなか、AIを使った「攻撃型防衛」は金融・通信業界に新たな対策手段を提供する可能性がある。
オーストラリアのスタートアップApateは、電話詐欺師をAIボットとの長時間通話に引き込み、資源を浪費させながら犯罪情報を収集するプラットフォームを2年かけて開発した。現在約35万体のボットを運用し、銀行や通信会社と連携。収集した詐欺師の情報は25万件以上に上る。
詐欺師が巧みにAIを悪用する一方で、そのAIが逆に詐欺師を「釣る」道具になり始めている。
ギリシャ神話の欺きの女神にちなんで命名されたApateは、電話詐欺師を「完璧な被害者」に見せかけたAIボットに誘導し、できるだけ長く会話を続けさせるシステムを構築した。ボットは実際に詐欺には引っかからないが、詐欺師に希望を持たせ続け、その間に詐欺URLや資金ロンダリング用口座、銀行情報といった犯罪者情報を収集する仕組みだ。
同社CEO・Dali Kaafar氏によると、詐欺師が自動発信ツールを使えることを踏まえると、「ボットと1分話している間に、同じ詐欺師が数百から数千人の被害者候補にアクセスするのを防げる可能性がある」という。
Apateのボットは電話を受けるだけでなく、詐欺グループのチャットに潜入してテキストメッセージにも応答する。個性・言語能力・プロフィールはそれぞれ異なり、WhatsAppアカウントの有無や応答パターンも意図的に不規則にすることで、AIであることを悟られないよう設計されている。
Wiredが実際にデモ版でテストしたところ、ボットは適度な懐疑心を示しながらも詐欺師が食い下がれる余地を残しており、「騙す側」として話しかけても強い手応えと苛立ちを感じた。Kaafar氏によれば、実際の通話が2時間以上続くケースも珍しくないという。
Apateのプラットフォームは銀行に導入され、通信会社の支援も受けている。政府による国境をまたいだサイバー犯罪対策が難航するなか、民間主導で詐欺師のリソースを消耗させる「攻めの防衛」として注目されている。