Meta、10代のAI自殺・自傷相談を親に通知
Original : Meta now alerts parents if their teen discussed suicide or self-harm with its AI chatbot
Pourquoi c'est important
AI チャットボットの未成年保護をめぐる規制圧力が業界標準に影響する重要事例。
Meta は2026年7月16日、10代のユーザーが Meta AI チャットボットで自殺や自傷について話した場合、親に通知する機能を発表した。米国・英国・オーストラリア・カナダで即日開始、年末までに世界展開予定。
Meta は、10代ユーザーが Meta AI チャットボットで自傷・自殺に言及した場合に保護者へ警告を送る新機能を発表した。同社は専用AIシステムを構築し、明確な自傷リスクを含む会話を検出。誤検知を防ぐため、フラグが立った会話はすべて人間が手動でレビューしてから通知が送られる。「意図が曖昧な場合は安全側に倒し、保護者に通知する」と Meta はブログ投稿で説明した。このアラートは Instagram ペアレンタルスーパービジョンを使用する保護者向けに米国・英国・オーストラリア・カナダで即日提供開始、年末までにグローバル展開される。また、成人・10代を問わず、会話内容が自殺リスクを示唆する場合は緊急サービスへの連絡も検討中だ。この措置は Facebook や Instagram の投稿に対してすでに実施されており、チャットボットにも同一基準を適用する。さらに「Limited Content」設定が Meta AI にも拡張され、10代向けに性的・ロマンティックな会話やアルコール関連の話題に加え、より幅広いプロンプトを拒否するよう設定される。