Meta, 여성 정치인 딥페이크 음란 앱 광고 게재
원제: Meta Ran Ads for an App That Promised to Nudify Female Politicians
왜 중요한가
플랫폼 정책에도 불구하고 비동의 딥페이크 음란물 생성 도구의 광고가 반복적으로 유통되며, 여성 정치인 등 공인에 대한 악용 위험성이 부각되고 있다.
Meta 플랫폼이 미국 여성 정치인을 닮은 딥페이크 음란 영상 생성을 유도하는 AI 앱 'Kromix'의 광고를 최근 게재한 사실이 WIRED의 취재로 확인됐다. 동 앱은 Apple App Store에 등록되어 있었으나, WIRED의 문의 후 Apple이 삭제했다. Meta는 총 32개 광고가 최장 46시간 게재됐다고 밝혔다.
WIRED의 보도에 따르면, Meta의 Facebook 및 Instagram 플랫폼에서 AI 음란물 생성 도구 'Kromix'의 광고가 노출됐다. Kromix는 스스로를 'AI 이미지 스타일러'로 소개하지만, 실제 광고에서는 '제한 없음', '모든 캐릭터는 실제 인물'이라고 홍보했다. WIRED가 확인한 광고 영상 중 하나에는 미국의 저명한 여성 정치인을 닮은 얼굴이 등장했으며, 이후 동일한 얼굴의 여성이 음란 영상에 나오는 장면으로 전환됐다.
Meta의 광고 라이브러리에 따르면, 이 광고들은 남성 이용자만을 대상으로 설정됐으며, 계정 전체에서 총 32개의 광고가 집행됐다. 게재 시간은 5시간에서 최대 46시간이었으며, 대부분은 10회 이하의 노출에 그쳤다. 광고는 WIRED의 문의 이후 삭제됐다.
Kromix 앱은 유료 이용자가 사진을 업로드하면 '침실 강간', 'Disney love' 등의 시나리오에 활용할 수 있다고 안내했다. Apple은 WIRED의 문의 후 동 앱을 App Store에서 삭제했다. 샌프란시스코 시 검사는 올여름 Apple에 유사 앱 13개의 삭제를 요구하는 경고장을 이미 발송한 바 있다.
광고를 발견한 Tech Transparency Project의 Katie Paul 소장은 '이번 광고들은 모두 여성을 성적으로 대상화하고 AI 음란물에 등장시키는 것으로, Meta가 이런 콘텐츠를 특히 여성 정치인과 관련해 어떻게 다룰 것인지에 대한 심각한 의문을 제기한다'고 밝혔다. 정치인을 대상으로 한 비동의 딥페이크 피해는 수년간 지속되어 왔으며, 피해자는 압도적으로 여성이 많다.