サンフランシスコ市がAppleとGoogleにAI「ヌード化」アプリ削除を要求
原題: San Francisco Demands Apple and Google Delete AI ‘Nudify’ Apps From App Stores
なぜ重要か
プラットフォーム企業がAI生成の非合意的性的画像に対して法的責任を問われる初の本格的な行政介入であり、アプリストアのコンテンツモデレーション規制の今後に大きな影響を与える可能性がある。
サンフランシスコ市の検察官David Chiuは2026年7月17日、AppleとGoogleに対し停止要求書（cease-and-desist）を送付し、App StoreおよびPlay Storeに掲載されている13本のAI「ヌード化」フェイススワップアプリの削除を要求した。両社はアプリ内課金の手数料収入を通じて違法コンテンツの利益を得ているとして、アプリ開発者との取引関係の断絶も求めている。
サンフランシスコ市検察官事務所は、AppleおよびGoogleに対し法的停止要求書を送付し、AI技術を用いて他人の画像を無断でヌード化・性的加工できるフェイススワップアプリ13本をApp StoreおよびGoogle Play Storeから削除するよう命じた。WIREDが入手した書面によると、対象アプリはアプリ内課金を採用しており、両社はその手数料収益を得ているとされる。
市検察官のDavid Chiuは「非合意的な性的画像の生成は違法であり、有害であり、完全に許容できない」と述べた。また同事務所は以前にも人気のあるディープフェイク関連サイト16件に対し法的措置を取っており、AppleとGoogleが当該アプリから「数百万ドル規模の手数料」を得た可能性があると指摘。モデレーション強化を求めている。カリフォルニア州法は、ディープフェイクポルノを作成するサービスの支援を禁止しており、市の書面はこれを根拠としている。
Googleの広報担当Dan Jacksonは、Chiuの事務所が指摘した5本のAndroidアプリを含む「数百本」のヌード化機能を持つアプリをポリシー違反として削除済みであると回答。Google Playでは性的コンテンツを含むアプリを許可しておらず、「nudify」などの関連検索ワードの制限も実施しているとした。一方、Appleは本記事公開前にコメントを提供しなかった。
AppleとGoogleはいずれもポルノ・虐待・ハラスメントに関わるアプリを開発者ポリシーで禁止しており、研究者やジャーナリストの報告を受けて過去に数十本のヌード化・ディープフェイクアプリを削除した実績がある。ただし、子ども向けと評価されているアプリの中にもAI性的画像生成機能を持つものが発見されるなど、問題は繰り返し指摘されてきた。過去5年間でディープフェイクヌード化技術は急増しており、2026年1月にはxAIのGrokが数百万枚の性的画像生成に利用された事例も報告されている。