MetaのAIチャットボット、10代の自傷会話を保護者に通知
原題: Meta now alerts parents if their teen discussed suicide or self-harm with its AI chatbot
なぜ重要か
AI企業がチャットボットの安全設計に責任を問われる中、Metaの対応は業界全体の未成年保護基準に影響を与える可能性がある。
Metaは2026年7月16日、同社のAIチャットボット「Meta AI」で10代のユーザーが自殺や自傷に関する会話をした場合、保護者に通知する新機能を発表した。この機能は米国・英国・オーストラリア・カナダで既に提供開始されており、年内に全世界へ展開予定。また、会話内容が自傷リスクを示す場合は緊急サービスへの通報も検討している。
Metaは2026年7月16日（木）、AIチャットボット「Meta AI」において、10代のユーザーが自傷や自殺に関する発言をした際に保護者へアラートを送る機能を発表した。同社はこれに加え、会話内容が自傷リスクを示す場合に緊急サービスへ連絡する機能も開発中であることを明らかにした。
同社によると、10代のユーザーが自傷について明確に言及した会話を検出する専用AIシステムを構築した。アラートが誤報とならないよう、AIが検出した会話はすべて人間が手動でレビューしてから保護者へ通知される仕組みだ。「ティーンの意図が曖昧な場合は、慎重を期して保護者に通知する。懸念が不要な場合に通知することもあるかもしれないが、これが正しい出発点だと考えている」とMetaはブログで述べた。
このアラート機能はInstagramの「保護者による監督（Parental Supervision）」機能を利用する保護者向けに、米国・英国・オーストラリア・カナダで既に提供が開始されており、年内にグローバル展開される予定。今回の機能は、Instagramで10代のユーザーが自傷関連ワードを繰り返し検索した際に保護者へ通知する既存機能や、過去1週間に子どもがMeta AIと話したトピックを保護者が確認できる機能を拡張したものだ。
また、保護者が10代の子どもをInstagram上でより制限的な環境に設定できる「制限コンテンツ（Limited Content）」設定がMeta AIにも適用されるようになった。Meta AIはすでに10代との性的・ロマンチックな会話やアルコール関連の会話を避けるよう設計されており、同設定により、より幅広いプロンプトへの回答も制限される。具体的な対象プロンプトの詳細はMetaから公表されていない。
さらに、ユーザーが10代か成人かを問わず、Meta AIとの会話内容が自殺リスクを示す場合、緊急サービスに連絡する方針も発表した。FacebookやInstagramの投稿でリスクが示された際に既に行っている対応をAIチャットボットにも拡張するものとなる。
これらの変更は、AIチャットボットが危機状態のユーザー、特に10代への対応について規制当局や保護者からの監視が強まる中での対応となる。