SF市、Metaに児童虐待AI広告の停止命令
Original : San Francisco Orders Meta to Stop ‘Allowing’ AI Child Abuse Ads
Pourquoi c'est important
Meta社のコンテンツモデレーション体制と公的機関の規制権限が問われる重要事例
サンフランシスコ市の市検事局は、Meta社に対しAI生成の児童性的虐待コンテンツを含む広告を許可し続けているとして停止命令書を送付した。2026年9月9日、350件以上の広告がFacebook、Instagram、Threadsで配信され、2万9千以上のアカウントに到達したことが判明。
サンフランシスコ市の市検事David Chiuは、Meta社に対し停止命令書（cease-and-desist letter）を送付した。これは、AI生成による児童性的虐待コンテンツを含む広告がFacebook、Instagram、Threadsで繰り返し配信されていた問題を受けたものだ。
調査機関Tech Transparency Project（TTP）の研究者によると、未成年者の静止画像を性的行為を描いた短い動画に変換する広告が350件以上確認された。対象にはヨーロッパ王室のメンバーも含まれる実在の人物が含まれており、広告はEU諸国の2万9000以上のアカウント、さらに米国・オーストラリア・インドのユーザーにも配信された。
Chiu市検事は「Metaはゼロトレランスを謳いながら、問題の規模と持続性はその取り組みが不十分であることを示している」と声明で述べた。一方、Meta側は「該当広告がサンフランシスコで表示された証拠はなく、市検事の管轄外だ」と主張している。これに対し市検事局は「Metaの反応は驚くべきもので、児童搾取への関与より管轄権を問題にしている」と反論した。