MetaがAI生成の児童性的虐待画像を含む広告を掲載
原題: Meta Ran Ads That Contained AI-Generated Child Sexual Abuse Imagery
なぜ重要か
世界最大のSNSプラットフォームがCSAMを含む広告を審査・承認・収益化していたことは、プラットフォームのコンテンツモデレーション体制と規制上の責任問題に対する議論を再燃させる重大な事案である。
調査機関Tech Transparency Project（TTP）は、MetaがAI生成の児童性的虐待素材（CSAM）を含む50件以上の有料広告をFacebook、Instagram、Messenger、Threadsで掲載していたと報告した。広告は2025年11月から2026年8月初旬にかけて配信され、米国・英国・欧州14カ国以上のユーザーを対象としていた。一部広告は少なくとも2,563アカウントに到達していた。
独立監視団体Tech Transparency Project（TTP）の調査により、MetaのFacebook、Instagram、Messenger、Threadsの各プラットフォームで、AI生成の児童性的虐待素材（CSAM）や未成年者の画像と性的示唆に富んだ文言を含む有料広告が50件以上掲載されていたことが判明した。広告はMetaの広告ライブラリ（透明性ツール）を調査した研究者らが発見し、一部は「ヌーディファイ（裸にする）」または「アンドレッシング（衣服を脱がせる）」アプリへのリンクを含んでいた。
発見された広告の中には、子どもが床に座っているサムネイル画像に「Generation AIで深い幻想を実現する」というテキストを重ねた動画広告があり、クリックすると成人の性行為映像に子どもの顔が合成されるというものだった。また、幼い少女が性的な体勢で横たわる画像に「もっと見せられる」と記したテキストを表示した広告も繰り返し投稿されていた。
広告の多くは研究者が発見した時点では実際の配信が停止していたが、Meta広告ライブラリ内に数カ月間、表向きには検知されないまま残存していた。ヨーロッパにおける配信データによれば、少なくとも1件の広告がフランス、ドイツ、アイルランド、イタリア、オランダ、スペイン、スウェーデン、英国を含む2,563アカウントに到達した。米国など全地域の到達数はライブラリに記載されていないため、実際の影響範囲はさらに広い可能性がある。
TTPのディレクターKatie Paul氏はWIREDに対し、「これらの広告は画像を隠そうとする努力すらなかった。第三者がFacebookやInstagramに投稿したコンテンツではなく、Metaが審査・承認し、広告費を受け取りながら配信し続けた広告だ」と述べた。Metaは現在、児童性的虐待・搾取素材および成人向け性的勧誘・ヌードに関するポリシー違反として当該広告を全て削除している。広告の掲載期間は2025年11月から2026年8月初旬にわたり、今週まで配信されていたものも含まれる。なお、今回の発覚はMetaプラットフォームでCSAMに関連する有料広告が見つかった直近数週間で2度目の事例となる。