Hugging Faceにデepfakeヌード問題、研究機関が報告
मूल शीर्षक: Hugging Face Has a Deepfake Nudes Problem
यह क्यों महत्वपूर्ण है
オープンソースAIプラットフォームにおける非合意Deepfake問題はコンテンツモデレーションと規制議論に直結する重要課題である。
AI Forensicsの調査によると、Hugging Faceの上位9つの画像編集Spacesのうち7つが女性の服を脱がせた画像を容易に生成でき、1週間で収集した1,000件以上のプロンプトの73%が性的内容だった。
欧州の非営利団体AI Forensicsが2026年7月に発表した報告書によると、オープンソースAIプラットフォームHugging Faceには、非合意のDeepfake問題が広く存在することが明らかになった。
研究者たちはHugging Faceの上位9つの画像編集Spacesをテストし、そのうち7つが衣服を着た女性の画像をトップレス画像に簡単に変換できることを確認した。さらにAI Forensicsは、実際には画像を生成しないハニーポット型の画像編集Spacesを独自に作成し、1週間で1,000件以上のプロンプトと画像を収集・追跡した。
結果として、受信したプロンプトの73%が性的内容であり、そのうち83%は提出された写真の人物の服を脱がせるか性的に描写しようとするものだった。対象者の95%は女性であり、性的リクエストの6.7%は明らかに子供を対象としていた。
AI Forensicsの主任研究員Paul Bouchaud氏は「テストしたSpacesのほとんどが非合意の親密な画像生成に利用可能であり、ユーザーが実際にHugging Faceをその目的で使用している」と述べた。
WIREDによる独自調査でも、Hugging FaceのサイトにNudify技術を宣伝するページや、著名人や政治家の性的画像を生成できるAIモデルが複数確認された。Hugging Faceはコンテンツポリシーで児童性的虐待素材や非合意のDeepfakeを禁止しているが、WIREDの問い合わせに対してコメントを提供しなかった。WIREDが接触した後、Nudify関連の一部ページは削除されたが、両者の関連は不明である。