MetaがAIヌード化アプリの広告を掲載
原題: Meta Ran Ads for an App That Promised to Nudify Female Politicians
なぜ重要か
非合意のディープフェイクポルノ問題が深刻化する中、大手プラットフォームの広告審査体制の不備が改めて浮き彫りになり、規制強化の議論が加速する可能性がある。
Metaは、女性米国政治家に似せたディープフェイクポルノ動画を生成できるAIアプリ「Kromix」の広告を自社プラットフォームで掲載していた。Tech Transparency Projectが広告を発見し、WIREDが問い合わせた後、Metaは広告を削除。Appleも同アプリをApp Storeから削除した。当該アカウントは合計32本の広告を配信し、掲載時間は5〜46時間だった。
Metaは最近、AIポルノ生成ツール「Kromix」の広告を自社プラットフォームで掲載していたことが明らかになった。同社はセクシャルコンテンツを含む広告を禁じるポリシーを持っているにもかかわらず、この広告が掲載されていた。
WIREDが確認した動画広告の1つでは、著名な女性米国政治家に酷似した女性が米国旗と大統領旗の前に立ち、「彼女が動いたら？」というキャプションとともにウインクした後、同じ顔の女性がポルノ動画に登場するという内容だった。ナレーションでは「制限なし」「登場キャラクターはすべて実在人物」「男性が実際に使うAI」などと宣伝していた。
KromixはApp Storeに「AIイメージスタイラー」として掲載されており、有料ユーザーが写真をアップロードすると「ベッドルームレイプ」「ディズニーラブ」などのシナリオに合成できる機能を提供していた。Metaの広告ライブラリによれば、広告は男性ユーザーのみを対象にターゲティングされ、「次世代AIマジックを解放せよ」というタグラインが使用されていた。合計32本の広告が配信され、掲載時間は5〜46時間、大半のインプレッション数は10件以下だった。
この広告はTech Transparency ProjectのディレクターであるKatie Paulが発見した。同氏は「これまで確認したすべてのヌード化関連広告は、女性をAI生成ポルノに組み込むものであり、Metaがこの種のコンテンツ、特に女性政治家に関するコンテンツをどう対処するかについて多くの疑問を呈している」と述べた。
AppleはWIREDの問い合わせを受けてKromixをApp Storeから削除した。サンフランシスコ市の市検事は今夏すでにAppleに対し、13の特定アプリの削除とディープフェイク明示的コンテンツの販売を「ほう助」しないよう求める停止命令書を送付していた。
政治家や公職者、特に女性が非合意のディープフェイク画像・動画の標的にされる事例は近年増加している。2025年1月にはGrokが約300万点の女性・少女の性的画像生成に使われ、スウェーデン、イングランド、北アイルランドの官僚が被害に遭ったことも報告されている。