サンフランシスコがMetaにAI児童虐待広告停止を命令
Judul asli: San Francisco Orders Meta to Stop ‘Allowing’ AI Child Abuse Ads
Mengapa Ini Penting
プラットフォームのコンテンツ審査責任と児童保護規制強化の観点で業界全体に影響する事案
サンフランシスコ市検事局がMetaに対し、AI生成の児童性的虐待コンテンツを含む広告350件以上をFacebookやInstagramで配信したとして、停止命令の書簡を送付した。
サンフランシスコ市の検事David Chiuは、MetaがAI生成の児童性的虐待コンテンツを含む広告を繰り返しFacebook、Instagram、Threadsで配信したとして、停止命令（cease-and-desist）の書簡をMetaの弁護士に送付した。
研究機関Tech Transparency Project（TTP）の調査によれば、問題の広告は350件以上に上り、未成年者の静止画をAIで動画に変換し、性的行為を描写するものが含まれていた。広告はクリックするとAI画像・動画生成アプリのダウンロードページに誘導し、EU諸国の2万9,000件以上のアカウント、さらに米国、オーストラリア、インドのアカウントにも表示された。WIREDは8月初旬に53件を最初に報じたが、その後も250件以上が配信され続けた。
Chiu検事は「Metaは問題を把握しながら是正できておらず、これらの広告から利益を得ている」と述べ、Meta社の法務・子ども安全・広告部門に早急な協議を求めた。
これに対しMetaは、問題の広告がサンフランシスコで表示された「証拠はない」として管轄外を主張。しかし市検事局のスポークスパーソンAlex Barrett-Shorterは「サンフランシスコの消費者がMetaのオンライン空間でこれらの違法広告にアクセス可能である」として管轄権を主張している。