Claude日記投稿で女性が重罪起訴
原題: Anthropic reported diary entry to police, woman faces felony charge
なぜ重要か
AIチャットボットが「日記」感覚で使われる実態が露呈。プラットフォームの安全監視体制と個人のプライバシー期待のギャップが法的問題として顕在化しており、業界全体の利用規約と通報基準の見直しを迫る事例となる。
フロリダ州在住のCarli Michelle Hellerは2026年9月26日、Anthropicの AI「Claude」に保安官事務所を「撃つ」と記述。Claudeの安全システムが検知し、人間のレビュアーが警察へ通報。Hellerは現在、フロリダ州法のもと書面による暴力的脅迫の第二級重罪で起訴されている。
フロリダ州Bonita Springs在住のCarli Michelle Hellerは、Anthropicのチャットボット「Claude」を「日記」として使用していた。9月26日、彼女はそのやり取りの中で地元の保安官事務所を「撃ち込む（shoot up）」と記述。Claudeの安全システムがこの投稿を検知し、人間のレビュアーへエスカレーション。レビュアーは脅威が現実のものと判断し、法執行機関へ通報した。
Anthropicは、死亡または重大な身体的危害を防ぐために必要と判断した場合、限定的な緊急事態においてユーザー情報を共有する方針を持つ。Lee郡保安官事務所（LCSO）の捜査官がHellerの自宅を訪問し、抵抗なく身柄を確保。その後、LCSO情報部のdetectiveが捜査を引き継いだ。
Hellerが問われているフロリダ州法836.10は、殺傷、銃乱射、またはテロ行為を脅迫する書面・電子記録を、第三者が閲覧できる形で送信・投稿・伝達することを第二級重罪と定める。
この事件は、AI企業が安全対応で積極的な姿勢を取り始めている状況を示す。先月には、OpenAIがカナダ・ブリティッシュコロンビア州での銃乱射事件に際し、元ユーザーの銃暴力に関する会話を安全チームが把握していたにもかかわらず、法的通報の基準に達しないとして警察へ連絡しなかったことが報じられ、同社は訴訟を受けている。2025年のフロリダ州立大学銃撃事件をめぐっても、フロリダ州がOpenAIとSam Altman CEOを提訴している状況だ。