MetaにAI児童性的虐待広告停止命令
原題: San Francisco Orders Meta to Stop ‘Allowing’ AI Child Abuse Ads
なぜ重要か
プラットフォーム企業によるAI生成の違法コンテンツ管理責任が地方自治体からも問われる先例となり、広告審査体制の在り方に業界全体への規制的波及が生じうる。
サンフランシスコ市検察局は2026年9月、MetaにAI生成の児童性的虐待コンテンツを含む広告を「許容している」として停止命令（cease-and-desist）を発出した。問題の広告はFacebook・Instagram・Threads上で350件以上掲載され、EUの2万9,000以上のアカウントに配信。Metaは同市の管轄外だと主張している。
サンフランシスコ市検察局のDavid Chiu市検察長は、Metaに対し4ページにわたる停止命令書を送付した。命令書は、AI生成の児童性的虐待コンテンツを含む広告がFacebook・Instagram・Threadsに繰り返し掲載された経緯について説明を求めるとともに、同社の法務・児童安全・広告担当スタッフとの「迅速な協議」を要請している。
問題の広告はTech Transparency Project（TTP）の研究者が発見した。未成年者の静止画像をAIで短い動画クリップに変換し、性的行為を描写する内容で、クリックするとAI画像・動画生成アプリのダウンロードページへ誘導する仕組みだった。広告はEUの2万9,000以上のアカウントのほか、米国・オーストラリア・インドのアカウントにも表示されていた。被写体の一部は欧州王室メンバーを含む実在の人物と確認されている。
WIREDは2026年8月初旬に53件の広告を最初に報告したが、その後250件超が新たにMetaのプラットフォームで掲載された。Chiu氏は声明で「Metaは問題を把握しながらAI生成の児童性的広告への対処を怠り、利益を得ていた」と批判し、現状の取り組みを「著しく不十分」と断じた。
これに対しMetaは、当該広告がサンフランシスコで表示された「証拠はない」とし、市検察局の管轄外だと反論した。一方、市検察局報道官のAlex Barrett-Shorter氏は「サンフランシスコの消費者がMetaのオンライン空間を通じて違法な広告にアクセスできる以上、当市が関与する問題だ」と述べ、Metaの対応を「驚くべきもの」と批判した。