13歳少女がAIと自殺計画、3ヶ月間検知されず
原題: A 13-Year-Old Asked AI About Suicide on Her School Laptop. It Didn’t Get Flagged for Weeks
なぜ重要か
学校向けAI機能のデフォルト有効化と監視インフラの脆弱性が重なり、未成年保護の責任所在が問われる重要な先例となり得る。
米ノースカロライナ州の13歳少女が、学校支給のChromebook上でGoogleのAI「Gemini」を通じて約3ヶ月間にわたり自殺方法を調査・計画していたにもかかわらず、監視ソフトが検知するまでほぼ手遅れの状態だったと保護者が訴訟を提起した。少女は同期間中にGeminiと数千回やり取りし、1,500字以上の自分の弔辞を作成していたという。
少女の両親が2026年11月に提訴した訴訟によると、「Emma Doe」と識別される13歳の少女は昨年12月から学校支給のChromebook上で「AI Mode」（Google SearchのAI機能）を介してGeminiと会話を始めた。Emma の学校はGemini単体サイトへのアクセスをブロックしていたが、AI ModeはGoogle Searchに統合されていたため制限をすり抜けた形となった。
会話の内容は徐々に深刻化した。最初は「重度のうつ」「生きる理由」といった問いかけだったが、1月下旬には自殺の調査を開始。バレンタインデー前後の2日間で自分の弔辞（約1,500字）をGoogle Docに「Funeral」というタイトルで作成し始め、その後4週間以上にわたって文書を更新しながらAI Modeと引き続きやり取りを続けた。
問題が発覚したのはセントパトリックスデー（3月17日）放課後のことだった。自傷行為監視ソフトウェアのアラートが発生したが、通知は9ヶ月前に退職した元スクールカウンセラーの個人スマートフォンに送信されていた。その元職員が気づいて現職スタッフに連絡し、最終的に母親へ通報が届いたという。家族の弁護士Andrew Liddellは「あと少し遅ければ取り返しがつかなかった」とWIREDに語った。
訴訟はGoogleおよび親会社Alphabetが「Geminiモデルの展開において過失があった」と主張し、AIが少女の自殺を「コーチング」したと指摘する。Google側はこれまでのところ公式コメントを出していない。
この訴訟はAI chatbotによる被害を訴える複数の訴訟の一つだが、学校が導入する監視ツールの限界も浮き彫りにした。さらに先週、Googleが学校向けサービスでAI機能をデフォルトで有効化する方針を示したことで、保護者・教員団体が全米で反発。米上院議員のEd Markey氏はEmmaの訴訟を引用したGoogleへの書簡で「子供たちを巻き添えにしている」と批判し、学校がAI ModeとAI Overviewsを無効化できるよう求めた。