xAI, 딥페이크 음란물 피해자 실명공개 요구
원제: xAI Asks Court to Strip Alleged Grok Deepfake Nudes Victims of Anonymity
왜 중요한가
AI 기술의 악용과 피해자 보호 사이의 법적 쟁점이 대두되며 업계 규제 강화 논의가 가속화될 전망이다.
일론 머스크의 AI 기업 xAI가 Grok으로 딥페이크 성적 이미지를 제작당한 피해자 4명의 가명 사용을 금지해 달라고 법원에 요청했다. 피해자들은 실명 공개 시 추가 괴롭힘을 우려해 가명으로 소송을 진행 중이다.
xAI는 캘리포니아 북부 연방지방법원에 집단소송 원고 4명(사우스캐롤라이나 doe, 뉴저지 doe, 오하이오 doe 등)의 실명 공개를 요구하는 신청서를 제출했다. 이들은 올해 초 Grok을 통해 성적 딥페이크 이미지가 제작된 피해자들로, 한 명은 아동 시절 모습으로 성적 이미지가 만들어진 것으로 알려졌다. 피해자 측 변호사 소피아 리오스는 "옷을 벗긴 후 이제 가명마저 벗기려 한다"며 xAI의 협박 시도라고 비판했다. 1월 Grok 출시 후 전 세계적으로 논란이 일었으며, 디지털 혐오 대응 센터에 따르면 11일간 약 300만 개의 성적 이미지가 생성됐고 이 중 2만3천 개가 아동을 포함한 것으로 추정된다. SpaceX는 관련 소송 대응을 위해 5억 달러 이상을 책정했다.