샌프란시스코, Apple·Google에 AI 누드화 앱 삭제 요구
원제: San Francisco Demands Apple and Google Delete AI ‘Nudify’ Apps From App Stores
왜 중요한가
공권력이 직접 빅테크 앱 스토어의 AI 딥페이크 유해 앱 유통 책임을 법적으로 추궁한 최초 사례로, 플랫폼 규제 논의에 중요한 선례가 될 수 있다.
샌프란시스코 시 검사 David Chiu는 2026년 7월 17일, Apple과 Google에 대해 AI로 비동의 누드 이미지를 생성하는 '페이스 스왑' 앱 13개를 각사 앱 스토어에서 즉시 삭제하도록 요구하는 중단 및 금지 서한(cease-and-desist letter)을 발송했다.
샌프란시스코 시 검사 David Chiu는 Apple과 Google에 법적 통지서를 발송하고, AI를 이용해 비동의 누드 이미지를 생성할 수 있는 앱 13개를 각사 앱 스토어에서 제거하고 해당 앱 개발자와의 비즈니스 관계를 끊을 것을 요구했다. 통지서는 두 회사가 이러한 앱의 인앱 결제를 통해 수수료를 수취함으로써 수백만 달러를 벌어들였을 가능성이 있다고 지적했다. Chiu 시 검사는 WIRED에 "비동의 친밀한 이미지 생성은 불법이며 해롭고 전혀 용납할 수 없다"고 밝혔다. 캘리포니아주 법률은 딥페이크 포르노그래피를 생성하는 서비스를 지원하는 행위를 금지하고 있다.
Google 대변인 Dan Jackson은 성명을 통해, Chiu 시 검사 측이 지목한 Android 앱 5개를 포함해 누드화 기능을 가진 앱 수백 개를 정책 위반으로 이미 삭제했으며, 스토어 내 'nudify' 등 관련 검색어 접근도 제한했다고 밝혔다. Apple은 기사 게재 전까지 별도 입장을 내놓지 않았다.
Chiu 시 검사실은 이전에도 인기 딥페이크 웹사이트 16개를 대상으로 법적 조치를 취한 바 있다. Apple과 Google 모두 개발자 정책상 플랫폼 내 포르노그래피, 남용, 괴롭힘을 금지하고 있으며, 연구자 및 언론의 보고 후 누드화·딥페이크 앱 수십 개를 삭제한 전례가 있다. 한편, 최근 5년간 딥페이크 누드화 기술 시장이 급성장했으며, xAI의 Grok가 2025년 1월 수백만 건의 성적 이미지 생성에 활용된 사례도 있었다.