Hugging FaceでAIディープフェイク問題が深刻化
원제: Hugging Face Has a Deepfake Nudes Problem
왜 중요한가
수십억 달러 규모로 평가받는 오픈소스 AI 플랫폼에서 비동의 성적 딥페이크가 조직적으로 유통되고 있어, AI 플랫폼의 콘텐츠 안전 관리 체계와 규제 공백에 대한 업계 전반의 재검토가 요구된다.
AI Forensicsの調査により、オープンソースAIプラットフォームHugging Faceで非合意のディープフェイクヌード生成が蔓延していることが2026年7月29日に判明した。テスト対象の上位9つの画像編集Spacesのうち7つで女性の衣服を除去した画像の生成が容易に可能で、1週間で収集した1,000件超のプロンプトのうち73%が性的内容だった。
유럽의 비영리단체 AI Forensics가 2026년 7월 29일 발표한 보고서에 따르면, Hugging Face의 상위 이미지 편집 Spaces 9개를 테스트한 결과 7개에서 여성의 옷을 입은 이미지를 상반신 노출 이미지로 쉽게 변환할 수 있었다. AI Forensics 연구진은 자체적으로 이미지를 실제로 생성하지 않는 허니팟 방식의 Spaces를 만들어 1주일 동안 1,000건 이상의 프롬프트와 이미지를 수집·분석했다. 그 결과 수신한 프롬프트의 73%가 성적인 내용이었으며, 이 중 83%는 제출된 사진의 인물을 탈의시키거나 성적으로 묘사하려는 목적이었고, 대상의 95%는 여성이었다. 또한 성적 요청의 6.7%는 아동으로 추정되는 인물을 대상으로 했다. AI Forensics의 수석 연구원 Paul Bouchaud는 "사용자들이 실제로 비동의 성적 이미지 생성 목적으로 Hugging Face를 활용하고 있으며, 이는 이론적 위협이 아닌 현실"이라고 밝혔다. WIRED의 추가 조사에서도 Hugging Face 사이트 내에 누디파이 기술을 홍보하거나 유명 연예인 및 정치인의 성적 이미지 생성 가능성이 있는 AI 모델 페이지가 다수 확인되었다. Hugging Face는 아동 성착취물(CSAM)과 명시적 동의 없이 생성된 성적 딥페이크를 금지하는 콘텐츠 정책을 보유하고 있으나, WIRED의 수차례 질의에 응답하지 않았다. WIRED가 연락한 이후 일부 페이지가 삭제되었으나 양자 간 연관성은 불명확하다.