AI 포르노 제작 교육으로 수익 창출한 남성들 고발
원제: These Men Allegedly Profit Off Teaching People How to Make AI Porn
왜 중요한가
AI 딥페이크 기술 악용이 상업화되어 여성들의 이미지 도용과 성착취가 산업화되고 있음을 보여주는 중요한 사례
애리조나주 여성 3명이 자신들의 사진을 무단 사용해 AI 포르노 인플루언서를 제작하고, 이를 다른 사람들에게 교육하며 수익을 올린 남성들을 상대로 소송을 제기했다. 피고들은 월 24.95달러에 AI 생성 과정을 온라인으로 판매했다고 주장된다.
애리조나주 스코츠데일에 거주하는 20대 여성 MG는 작년 여름 자신과 똑같이 생긴 여성의 선정적인 사진과 영상이 인스타그램에서 유포되고 있다는 사실을 알게 됐다. 해당 이미지들은 AI ModelForge라는 플랫폼 광고에 사용되고 있었으며, 이 플랫폼은 남성들에게 AI 인플루언서 생성 방법을 교육하는 서비스였다. MG를 포함한 3명의 여성이 1월 잭슨 웹, 루카스 웹, 보 슐츠 등 피닉스 거주 남성 3명과 50명의 미상 피고를 상대로 소송을 제기했다. 소송에 따르면 피고들은 인터넷에서 젊은 여성들의 사진을 수집한 후 AI를 이용해 그들과 똑같이 생긴 가상 모델의 사진과 영상을 생성하여 구독 플랫폼 Fanvue에서 판매했다. 또한 Whop 플랫폼에서 월 24.95달러에 다른 남성들에게 실제 여성 사진을 기반으로 AI 인플루언서를 만드는 방법을 교육하는 온라인 과정을 판매했다고 주장된다. 피고들은 여성들의 소셜미디어 계정에서 이미지를 수집하고 CreatorCore의 생성형 AI 모델에 입력하는 방법에 대한 '블루프린트'를 제공했으며, 의복을 제거하고 성적으로 노골적인 이미지와 영상을 생성하는 별도 앱도 사용했다고 알려졌다.