OpenAI, CSAM 차단 이미지 분류기 출시

원제: OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM

왜 중요한가

AI 생성 CSAM이 급증하는 상황에서 OpenAI의 탐지 기술 공유는 업계 전반의 아동 보호 기준을 높일 선례가 될 수 있다.

OpenAI가 2026년 11월 16일 아동 성착취물(CSAM) 대응 목적으로 신규 이미지 분류기와 ChatGPT 경고 기능을 공개했다. 분류기는 NCMEC와 공동 개발됐으며 AI 생성 이미지 포함 미확인 CSAM을 탐지하고, 초기 테스트에서 검토 대상 이미지를 48% 줄이면서 동일한 수의 학대 이미지를 적발했다.

OpenAI는 아동 성착취물(CSAM) 대응을 위한 복합 조치를 한 번에 발표했다. 핵심은 새 이미지 분류기다. NCMEC(국립 실종·착취아동 센터)와 공동 개발한 이 도구는 AI 생성 이미지를 포함해 기존에 없던 CSAM을 탐지하고, 각 이미지에 위험 점수를 부여해 검토자의 판단을 돕는다. OpenAI는 Tech Coalition 및 ROOST와 협력해 이 분류기를 API를 통해 선별된 기업에 무상 제공한다. 초기 파트너 테스트 결과, 검토 대상 이미지는 48% 감소한 반면 적발 건수는 동일하게 유지됐고, 분류기가 플래그한 이미지가 실제 학대 이미지일 확률은 기존 대비 2배 높았다.

ChatGPT에는 아동 성적 대상화 콘텐츠 접근 시도를 감지하면 경고 화면을 표시하고, 유해 행동 중단을 위한 전문 지원 채널을 안내하며, 계정을 24시간 일시 정지하는 기능이 추가됐다. 반복 위반 시 계정이 영구 삭제될 수 있다. 해당 메시지와 가이드라인은 Protect Children, Lucy Faithfull Foundation, 태즈매니아 대학교의 Joel Scanlan 등 외부 기관과 연구자들이 독립 평가에 참여해 완성됐다.

개발자 대상으로는 CSAM 예방·탐지·신고를 위한 가이드라인을 별도 공개했으며, 초기 테스트에서 다수 개발자가 아동 안전 도구를 도입하고 NCMEC에 CSAM 신고를 등록했다고 OpenAI는 밝혔다. 법집행기관을 위해서는 전용 플러그인, 수사 도구, 복잡 데이터 분석 기능과 현장 가이드, 수사관 훈련 프로그램도 함께 제공한다.

이번 발표는 AI 기술이 아동에게 해를 끼친다는 복수의 소송과 Common Sense Media의 '10대에 부적합' 판정이 이어지는 가운데 나왔다. Grok 등 경쟁 챗봇이 아동을 포함한 비동의 성적 이미지 생성에 악용된 사례도 배경으로 작용했다.

출처

techcrunch.com — 원문 읽기 →