MetaがAI女性政治家Nudifyアプリの広告を掲載
मूल शीर्षक: Meta Ran Ads for an App That Promised to Nudify Female Politicians
यह क्यों महत्वपूर्ण है
MetaやAppleによるAIポルノ・ディープフェイク広告への対応の遅れが、女性政治家を含む実在人物への被害リスクを拡大させている実態が改めて浮き彫りになった。
MetaはKromixというAIツールの広告を掲載した。このツールは米国の著名な女性政治家に似た人物のディープフェイクポルノ動画を生成することを宣伝していた。WIREDの問い合わせを受け、AppleはApp StoreからこのアプリをWIREDの取材後に削除した。
MetaはKromixと呼ばれるAIポルノ生成ツールの広告を自社プラットフォーム上に掲載していた。同社には性的コンテンツを含む広告を禁止するポリシーがあるにもかかわらず、この広告は掲載された。
問題の広告の一つでは、著名な米国の女性政治家に酷似した女性が米国旗と大統領旗の前に立つ映像が使われ、その後ポルノ動画に切り替わる構成になっていた。ナレーションでは「制限なし」「全てのキャラクターは実在の人物」と宣伝していた。
KromixはApp Storeにホスティングされており、有料ユーザーに対して「bedroom rape（ベッドルームレイプ）」などのシナリオへの写真アップロードを案内していた。WIREDからの問い合わせ後、Appleはアプリを削除した。
Metaの広告ライブラリによると、このキャンペーンに紐づくアカウントは合計32件の広告を出稿し、各広告の掲載時間は5〜46時間、ほとんどの広告のインプレッション数は10以下だった。広告はWIREDの問い合わせ後に削除された。
Tech Transparency ProjectのディレクターであるKatie Paul氏は「これまで確認されたnudify関連の広告は、いずれも女性をAI生成ポルノに登場させるものであり、Metaがこの問題にどう対処するかについて多くの疑問を提起している」と述べた。
なお、サンフランシスコ市の市検事は今夏、Appleに対して13の特定アプリの削除と、ディープフェイク画像販売の「幇助」を停止するよう求める停止・中止命令書を送付していた。