MetaがAI「裸体化」アプリ広告を掲載、女性政治家も標的に
Judul asli: Meta Ran Ads for an App That Promised to Nudify Female Politicians
Mengapa Ini Penting
プラットフォーム企業による非合意ディープフェイク広告の審査・管理体制の脆弱性が改めて浮き彫りになった。
Metaは女性政治家を含む人物の「裸体化」動画を生成するAIアプリ「Kromix」の広告を掲載。WIREDの問い合わせ後、AppleはアプリをApp Storeから削除、Metaも広告を停止した。
Metaのプラットフォームが最近、性的コンテンツを含む広告を禁じる自社ポリシーに違反する形で、AIポルノ生成ツール「Kromix」の広告を掲載していたことが判明した。同ツールは「AIイメージスタイラー」と自称しており、広告の音声では「制限なし」「すべてのキャラクターはリアルな人物」と宣伝していた。WIREDが確認した広告の一つでは、著名な米国女性政治家に酷似した女性がポルノ動画に登場する場面が含まれていた。
App Storeで公開されていたKromixアプリは、有料ユーザーが写真をアップロードすることで「bedroom rape」などのシナリオに使用できる機能を提供していた。WIREDの取材依頼後、Appleはアプリを削除。Metaによれば、当該アカウントは合計32本の広告を出稿し、掲載時間は5〜46時間、ほとんどのインプレッション数は10以下だった。広告はMeta広告ライブラリによると、男性ユーザーのみに限定配信されていた。
調査を行ったTech Transparency Projectのディレクター、Katie Paulは「これらの広告はすべて女性の裸体化・ポルノ化を目的としており、Metaが女性政治家を含むこの種のコンテンツにどう対応するか深刻な疑問を提起している」と述べた。なお、サンフランシスコ市の市検事は今夏、Appleに対して類似アプリ13件の削除を求める通告書を送付していた。