Metaが10代のAIチャット自傷通知機能を導入
मूल शीर्षक: Meta now alerts parents if their teen discussed suicide or self-harm with its AI chatbot
यह क्यों महत्वपूर्ण है
AI챗봗의 未成年保護규제が강화되는 추세 속에、MetaのAIチャットボット안전设計이업계기준에영향을미칠가능성がある。
Metaは2026年7月16日、10代のユーザーがMeta AIチャットボットで自殺・自傷に関する会話をした場合、保護者に通知する機能を発表した。米国・英国・オーストラリア・カナダで即時開始し、年内に全世界へ展開予定。
Metaは、10代のユーザーがMeta AIチャットボットで自殺や自傷に関する内容を話した場合、保護者に警告を送る新機能を発表した。この機能は現在、米国・英国・オーストラリア・カナダでInstagramの保護者監督機能を使用している親向けに提供されており、2026年末までに世界全体へ展開される予定だ。
Metaは専用のAIシステムを構築し、10代ユーザーが自傷に関する明確な言及をした会話を検出する仕組みを設けた。誤検知を防ぐため、AIが検出したすべての会話は人間によるレビューを経てから保護者へ通知される。意図が曖昧な場合は「念のため」保護者に通知する方針をMetaは公式ブログで明言している。
また、成人を含むすべてのユーザーとMeta AIの会話で自殺リスクが示唆された場合、緊急サービスへの連絡も行う機能を整備中だ。Metaはすでにこの対応をFacebookやInstagramの投稿に対して実施しており、今回はその取り組みをチャットボットにも拡大する形となる。
さらに、保護者が10代の子どもにより制限的なInstagram体験を提供できる「Limited Content」設定がMeta AIにも適用された。Meta AIはすでに10代との性的・ロマンティックな会話やアルコール関連の話題を避けるよう設定されており、この設定によりさらに幅広いプロンプトが制限される。具体的な対象プロンプトの詳細はMetaから明かされていない。
これらの変更は、AIチャットボットが危機状況にあるユーザー、特に10代の若者にどう対応するかについて、規制当局や保護者からの監視が強まる中で実施された。