Meta、10代のAI自殺相談を親に通知
원제: Meta now alerts parents if their teen discussed suicide or self-harm with its AI chatbot
왜 중요한가
AI챗봇이 청소년 정신건강에 미치는 영향에 대한 규제·사회적 요구가 높아지는 가운데, 빅테크의 구체적 안전 조치 사례로 업계 표준에 영향을 줄 수 있다.
Metaは2026年7月16日、10代のユーザーがMeta AIチャットボットで自傷・自殺に関する会話をした場合、保護者にアラートを送信する新機能を発表した。米国・英国・オーストラリア・カナダで即時開始し、年末までに全世界へ展開予定。さらに自傷リスクが示された会話では緊急サービスへの連絡も検討中だ。
Metaは7月16日、10代ユーザーがMeta AIとの会話で自傷・自殺について明確に言及した場合、保護者へ通知する機能を発表した。このアラートはInstagramの「保護者監督（Parental Supervision）」機能を利用している保護者を対象とし、米国・英国・オーストラリア・カナダで即時提供開始。2026年末までにグローバル展開を予定している。
Metaは専用のAIシステムを構築し、該当会話を検出。ただし、AIが検出した会話はすべて人間が手動でレビューしてから通知を送信する仕組みだ。「ティーンの意図が曖昧な場合は慎重を期して保護者に通知する。誤通知が発生する可能性もあるが、これが正しい出発点だと考えている」とMetaはブログに記した。
また、成人・10代を問わず自殺リスクが示された会話では緊急サービスへ連絡する機能も導入予定。FacebookやInstagramの投稿で同様の対応をすでに実施しており、その取り組みをチャットボットにも拡張するものだ。
さらに保護者が設定できる「Limited Content」モードがMeta AIにも適用され、10代ユーザーへの性的・ロマンティックな会話やアルコール関連の話題に加え、より広範なプロンプトをAIが断るよう強化された。具体的な追加対象プロンプトの詳細はMetaから未公表。