MetaがAI児童性的虐待広告350件以上を見逃す
原題: Meta Failed to Catch Hundreds of AI Child Abuse Ads. Some Included Images of Real Kids
なぜ重要か
AI生成CSAMの大規模流通は既存の広告審査体制の限界を露呈し、プラットフォーム規制の実効性と法的責任を問う動きが各国で加速する可能性がある。
非営利団体Tech Transparency Project（TTP）の調査により、Meta傘下のFacebook・Instagram・Threadsで昨年末から350件以上の児童性的虐待素材（CSAM）を含む動画広告が掲載されていたことが判明した。一部には欧州王室の未成年者の実写画像をAIで性的動画に変換したものも含まれており、米議員らは調査実施を表明している。
WIREDの報道によると、MetaはFacebook・Instagram・Threadsにおいて、2025年末から2026年8月にかけて350件以上の児童性的虐待素材（CSAM）を含む広告を掲載していたことが明らかになった。調査を行ったのは非営利団体Tech Transparency Project（TTP）で、詳細な調査結果をWIREDと共有した。
WIREDが当初2026年8月初旬に報じた際、Metaは約50件の問題広告を削除し、新たなAI検出ツールを導入したと発表していた。しかし、TTPの研究者らによれば、その後も8月以降に250件以上の新たなCSAM広告がMetaのプラットフォーム上で確認された。中には直前に削除されたものと同一内容の広告も含まれており、AIシステムの効果は限定的だったとしている。
特に深刻なのは、今回新たに発見された広告の一部に実在する子どもの画像が使用されていた点だ。欧州某王室の未成年者の公式写真がAIによって性的な動画に変換されたケースも確認されており、TTPはその国の当局に連絡したという。WIREDも当該画像の出典が王室の公式ウェブサイトであることを独自に確認した。TTPのディレクターであるKatie Paul氏は「単なるAI生成のCSAMではなく、ウェブ上から実際の子どもの画像が収集されて使用されている」と述べ、Metaが広告収益を得ながらこうした被害が生じていると指摘した。
問題の広告の多くは、中国系開発者が関与するとされる「nudification（ヌード加工）」アプリへのリンクを含んでいた。TTPの研究者らはCSAMを含む広告を発見するたびに、米国の児童安全当局とMetaの報告ツールを通じて即時通報していたが、Metaが対応するまでに最長1週間を要したケースもあり、その間に数百回以上の追加閲覧が発生していたとWIREDが確認したスクリーンショットに示されている。
Metaはすべての広告を事前審査していると自社ポリシーで定めているが、これらの広告は当初の審査をくぐり抜けて掲載された。一部広告が削除された際にもポリシー違反の通知が表示されないケースがあったとTTPは指摘している。米議員らはこの問題を受けて調査を行う方針を示している。