Meta、10代がAIに自傷相談で親に通知する機能を導入
Judul asli: Meta now alerts parents if their teen discussed suicide or self-harm with its AI chatbot
Mengapa Ini Penting
AI企業が未成年者の安全規制に対応する上での重要な業界モデルとなり得る取り組み。
Metaは2026年7月16日、10代のユーザーがMeta AIチャットボットで自傷・自殺に言及した場合、保護者に通知する機能を米英豪加で開始した。
Metaは木曜日、10代のユーザーがMeta AIチャットボットで自傷または自殺に関する明確な言及をした場合、保護者に通知する新機能を発表した。通知はInstagramのペアレンタルスーパービジョン機能を利用している保護者向けに米国、英国、オーストラリア、カナダで開始され、年内にグローバル展開される予定。
Metaは専用AIシステムを構築し、危険な会話を検出する仕組みを導入。ただし誤検知を防ぐため、AIがフラグを立てた会話はすべて人間がレビューしてから通知が送られる。「意図が曖昧な場合は慎重を期して保護者に通知する」とMetaはブログに記載した。
また、成人・10代を問わず、自殺リスクが示唆される会話があった場合に緊急サービスへ連絡する機能も開発中と発表。これはFacebook・Instagramの投稿で既に行っている措置をAIチャットボットにも拡張するものだ。さらに「Limited Content」設定がMeta AIにも適用され、より幅広いプロンプトをチャットボットが拒否するよう強化された。