MetaがAI児童虐待広告350件以上を見逃す
원제: Meta Failed to Catch Hundreds of AI Child Abuse Ads. Some Included Images of Real Kids
왜 중요한가
글로벌 최대 SNS 플랫폼의 AI 광고 심사 시스템이 CSAM 차단에 반복적으로 실패하며, 플랫폼 안전 규제 강화 논의에 중대한 시사점을 제공한다.
Meta이 2026년 8월 이후 Facebook·Instagram·Threads에서 아동 성적 학대 이미지(CSAM) 포함 광고 250건 이상을 추가로 게재한 것으로 TTP 연구진이 확인했다. 전체 350건 이상이며, 일부에는 유럽 왕실 아동의 실제 사진을 변환한 성적 영상이 포함됐다.
비영리 조사기관 Tech Transparency Project(TTP)가 WIRED와 공유한 조사 결과에 따르면, Meta의 SNS 플랫폼에서 2025년 말부터 2026년 9월까지 CSAM을 포함한 광고가 350건 이상 게재된 것으로 나타났다. Meta는 앞선 WIRED 보도를 계기로 지난달 약 50건의 광고를 삭제하면서, 신규 AI 탐지 시스템을 도입해 유해 광고를 차단하겠다고 밝힌 바 있다. 그러나 8월 초 이후에도 250건 이상의 추가 광고가 발견되며 AI 탐지 시스템의 실효성에 의문이 제기되고 있다.
특히 이번 조사에서는 실제 아동의 이미지가 사용된 사례가 확인됐다. 유럽 왕실 공식 웹사이트에 게재된 왕실 아동의 사진이 AI를 통해 성적 영상으로 변환된 것으로, WIRED도 원본 이미지의 출처를 독자적으로 확인했다. TTP의 Katie Paul 디렉터는 "단순한 AI 생성 CSAM의 문제가 아니라, 웹에서 수집된 실제 아동 이미지가 사용되고 있으며 Meta는 이 과정에서 광고 수익을 올리고 있다"고 말했다.
문제의 광고 상당수는 중국 개발사와 연관된 '누디피케이션(nudification)' 앱으로 연결되는 링크를 포함했다. TTP 연구진은 광고를 발견할 때마다 즉시 Meta의 신고 도구와 미국 아동 보호 당국에 신고했으나, Meta가 신고 후 검토를 완료하기까지 최대 1주일이 소요된 사례도 있었다. 그 기간 동안 해당 광고는 수백 회 추가 조회된 것으로 확인됐다. Meta는 자사 정책상 모든 광고를 사전 검토한다고 밝히고 있으나, 해당 광고들은 정책 위반임에도 게재됐다. 유럽 의회 의원들은 이 사안에 대한 조사 계획을 밝혔다.