Hugging FaceでAIディープフェイク裸画像が蔓延
Judul asli: Hugging Face Has a Deepfake Nudes Problem
Mengapa Ini Penting
AI基盤プラットフォームのコンテンツモデレーション責任が業界全体の課題として浮上している。
AI Forensicsの調査で、Hugging Faceの上位9つの画像編集Spacesのうち7つが女性の衣服を簡単に除去でき、受信プロンプトの73%が性的内容だったことが判明した。
欧州非営利団体AI Forensicsが発表した報告書によると、オープンソースAIプラットフォームHugging Faceにおいて、非合意のディープフェイク画像生成が広範に行われている実態が明らかになった。研究者らは上位9つの画像編集Spacesをテストし、そのうち7つで女性の着衣画像を容易にトップレス画像に変換できることを確認した。また、研究者が独自に設置したハニーポット型Spacesで1週間に受信した1,000件超のプロンプトのうち73%が性的内容で、そのうち83%は写真の人物を裸にする目的だった。対象の95%は女性で、6.7%は明らかに子どもと見られる人物を標的にしていた。AI Forensicsのリード研究者Paul Bouchaud氏は「ユーザーが実際にHugging Faceをこの目的で利用している」と述べた。Hugging Faceは子どもの性的虐待素材および非合意の性的ディープフェイクを禁じるポリシーを持つが、WIREDの取材に対してコメントを行わなかった。一部のページはWIRED接触後に削除されたが、関連性は不明。米国では法執行機関がディープフェイクサイトを摘発しており、EUとUKは年内に「nudify」アプリ禁止の計画を進めている。