Claude 일기 쓴 여성, Anthropic 신고로 중범죄 기소
원제: Anthropic reported diary entry to police, woman faces felony charge
왜 중요한가
AI 챗봇이 수집한 대화가 실제 형사 기소로 이어진 사례로, AI 서비스의 정보 신고 기준과 사용자 프라이버시 범위에 대한 법적·사회적 논의가 본격화될 전망이다.
플로리다주 여성 Carli Michelle Heller가 Anthropic의 AI 챗봇 Claude를 일기장처럼 사용하다 2026년 9월 26일 보안관 사무소를 '총격하겠다'고 입력한 내용이 신고돼 서면 폭력 위협 혐의로 2급 중범죄 기소를 받았다. Anthropic의 안전 시스템이 해당 내용을 자동 감지한 후 인간 검토자가 신뢰할 만한 위협으로 판단해 경찰에 신고했다.
Bonita Springs 거주 Heller는 Claude에 보안관 사무소를 공격하겠다는 내용을 입력했고, 이를 Claude의 안전 시스템이 자동 플래그 처리해 인간 검토자에게 에스컬레이션했다. 검토자는 해당 내용을 신뢰할 만한 위협으로 판단하고 법 집행 기관에 신고했다. Heller는 이후 체포 과정에서 Claude를 '일기'처럼 사용했다고 진술했다.
Anthropic은 사용자 정보를 원칙적으로 비공개로 유지하지만, 사망 또는 심각한 신체 피해를 막기 위해 필요하다고 판단하면 제한적으로 정보를 공유할 수 있다는 방침을 명시하고 있다. 플로리다주 법령 836.10에 따르면 타인이 볼 수 있는 방식으로 살인, 대량 총격, 테러 행위를 위협하는 전자적 기록을 전송하거나 게시할 경우 2급 중범죄에 해당한다.
이번 사건은 AI 기업의 안전 신고 기준이 실제 법적 결과로 이어진 최근 사례 중 하나다. 반면 OpenAI는 캐나다 브리티시컬럼비아 총기 사건 전 해당 사용자의 총기 폭력 관련 대화를 내부적으로 감지했음에도 법적 신고 기준에 미치지 않는다는 이유로 경찰에 통보하지 않았고, 이를 두고 현재 소송이 진행 중이다. 같은 달 Microsoft Copilot 이미지 에디터의 인간 계약 검토자들도 사용자 프롬프트와 업로드 사진을 열람할 수 있다는 사실이 보고서를 통해 드러나 AI 서비스의 개인정보 처리 방식에 대한 우려가 커지고 있다.