Hugging Faceにディープフェイク裸画像問題
原題: Hugging Face Has a Deepfake Nudes Problem
なぜ重要か
オープンソースAIプラットフォームにおけるコンテンツモデレーションの欠如が、非合意ディープフェイク被害を拡大させる構造的問題として規制議論を加速させる可能性がある。
欧州非営利団体AI Forensicsが2026年7月に公開した報告書によると、AI共有プラットフォームHugging Faceのトップ画像編集Spacesのうち9件中7件が、女性の着衣画像を容易にトップレス画像に変換できることが判明した。同団体が設置したハニーポット型Spacesでは1週間で1,000件超のプロンプトを収集し、73%が性的内容だったことが確認された。
欧州の非営利団体AI Forensicsは、オープンソースAIプラットフォームHugging Faceが非合意ディープフェイク（いわゆる「ヌーディファイ」）画像の生成に広く利用されているとする報告書を2026年7月29日に発表した。
調査では、Hugging Face上で実際に利用可能なトップクラスの画像編集Spacesを9件テストし、そのうち7件が着衣の女性画像を容易にトップレス画像へ変換できることを確認した。さらに同団体は、意図的に画像を生成しない設計のハニーポット型Spacesをプラットフォーム上に設置し、1週間にわたって受信した1,000件超のプロンプトと画像を分析した。
その結果、受信したプロンプトの73%が性的内容であり、そのうち83%は投稿した人物の衣服を脱がせるか性的に描写することを求めていた。対象の95%が女性であり、性的リクエストのうち6.7%は明らかに子どもと思われる人物を対象としていた。
AI Forensicsのリード研究者Paul Bouchaud氏は「テストしたSpacesの大部分が非合意の性的画像生成に使用可能であり、ユーザーは実際にその目的でHugging Faceを利用している。これは仮定上の脅威ではなく、現実に起きていることだ」と述べた。
WIREDがHugging Faceのページを独自に調査した結果、ヌーディファイ技術を宣伝する複数のページや、著名な著名人・政治家の性的画像を生成しうるAIモデルの存在も確認された。Hugging FaceはWIREDからの複数の質問に対して回答しなかった。同社のコンテンツポリシーは、児童性的虐待素材および「明示的な同意なしに」作成されるか嫌がらせに使用される性的ディープフェイクを禁止しているが、WIREDが問い合わせた後にヌーディファイを宣伝する一部ページが削除された。
OpenAIやGoogleが提供する主要な生成AIモデルは安全ガードレールを設けているのに対し、Hugging Face上のモデルの多くはこうした制限を備えていない状況が浮き彫りになった。米国では当局がディープフェイクホスティングサイトを摘発しており、EUおよび英国も年内にヌーディファイアプリを禁止する計画を進めている。