MetaがCSAM誘導広告を検出するAIツールを公開
原題: Meta rolls out new AI tools to detect ads that secretly lead to child sexual abuse material
なぜ重要か
CSAMの外部誘導という新手口への対応は、プラットフォーム規制の議論が各国で激化する中でMetaの事業継続リスクに直結する。
Metaは2026年10月7日、児童性的搾取コンテンツ（CSAM）へ誘導する広告やアカウントを検出する新AIツールの展開を発表した。同社は2026年上半期にFacebookとInstagramで3,320万件の児童性的搾取コンテンツに対処し、そのうち97%以上をユーザー報告前に自社システムが検出したとしている。
Metaは2026年上半期、FacebookとInstagramで3,320万件の児童性的搾取コンテンツに対処した。97%超がユーザー報告前にシステムで検出されており、インドだけでも530万件が対象となった。
今回発表した新ツールの目玉は、LLM（大規模言語モデル）を用いた「signposting（道標）」検出システムだ。一見無害に見える広告がCSAMを掲載した外部サイトへユーザーを誘導するケースを検出するもので、Metaは広告のコンテンツそのものだけでなく、リンク先URLや遷移先も審査対象に加えた。悪用者がプラットフォームの検出を逃れるために広告を「踏み台」として使う新手口に対応するための措置だという。
さらに同社は、従来システムが見逃した可能性のあるコンテンツを追加スキャンするAI機能も導入。自社の安全対策の弱点を自律的に探る「レッドチーミングAIエージェント」を用いて、悪用者に先手を打つ体制も整えた。加えて、削除されたアカウントを持つユーザーが新規アカウントで戻ってきた場合の検出システムも強化している。
一連の施策は、プラットフォームの児童安全をめぐる圧力が高まる中での対応でもある。Metaは2026年8月、米国29州との集団訴訟で最大180億ドルの和解金支払いに合意したばかり。今年は他にも、Meta AIの保護者管理機能、WhatsAppの10歳未満向けアカウント、Instagramでの自傷コンテンツ検索時の保護者通知といった子ども向け安全機能を相次いで導入している。