MetaのAI、児童性的虐待広告350件を見逃す
मूल शीर्षक: Meta Failed to Catch Hundreds of AI Child Abuse Ads. Some Included Images of Real Kids
यह क्यों महत्वपूर्ण है
Metaの広告審査システムとAI検出能力の限界が露呈し、プラットフォーム企業の児童保護責任と規制強化の議論に直結する重大な事案。
Meta（Facebook、Instagram、Threads）上で2025年末以降、350件以上の児童性的虐待素材（CSAM）を含む広告が掲載されていたことが、非営利団体Tech Transparency Project（TTP）の調査で判明した。一部の広告にはヨーロッパ王室の未成年者の実際の画像が使用されていた。
非営利団体Tech Transparency Project（TTP）がWIREDと共有した調査結果によると、Metaのプラットフォーム上で2025年末以降、350件以上の児童性的虐待素材（CSAM）を含む動画広告が掲載されていた。
WIREDの報道を受け、Metaは先月初めにFacebook、Instagram、Threadsから約50件の違反広告を削除した。その際、同社は新たなAIツールを導入して有害な広告の検出・ブロックを強化したと発表していた。しかし、TTPの研究者らによると、8月初め以降だけで250件以上の新たなCSAM広告が確認されており、中には既に削除されたものと同一の広告も含まれていた。
今回新たに発見された広告の一部には、実在する子どもの画像が使用されていた。具体的には、ヨーロッパ王室の公式ウェブサイトで公開された未成年者の写真が、性的な動画に加工されていたケースが確認された。TTPは被害者保護のため、該当する王室名を公表していない。
TTPのディレクターKatie Paul氏は「これは単なるAI生成の児童性的虐待素材の問題ではない。ウェブ上から実在の子どもの画像が収集・悪用されており、Metaが広告収益を得る中で深刻な被害が生じている」と述べた。
これらの広告の多くは、中国の開発者が関係する「nudification（脱衣加工）」アプリへのリンクを含んでいた。TTPの研究者らは発見の都度、米国の子ども安全当局およびMetaの報告ツールを通じて通報していたが、Metaが対応するまでに最大1週間かかったケースもあり、その間に広告はさらに数百回表示されたという。
Metaは全ての広告を公開前に審査するとしているが、同社のポリシーに違反するこれらの広告は審査をすり抜けて掲載されていた。現在、複数の議員がこの問題について調査を行う意向を示している。