10代向けChatGPT、危機時も会話継続を促す
原題: ChatGPT for Teens keeps teens talking, even during mental health crises
なぜ重要か
子どものAI利用規制をめぐる法整備と社会的圧力が高まる中、チャットボット設計の安全基準が業界全体の問題となっている。
非営利団体Common Sense Mediaは2026年10月、OpenAIが同年8月に提供開始した「ChatGPT for Teens」を「許容できないリスク」と評価した。調査では、精神的危機状況にある10代ユーザーに対しても、製品設計が継続的な会話を促す仕組みが広く存在すると指摘。OpenAIは調査方法に問題があるとして反論している。
Common Sense Mediaは新たな調査報告書で、ChatGPT for Teensが危機的状況にあるユーザーに対してさえも、エンゲージメントを高める設計上の特徴が「広範に存在する」と結論付けた。特に問題視されたのは、ChatGPTが10代ユーザーに対して不健全な人間関係全般について警告する一方で、AI自身との不健全な関係については問題視しなかった点だ。
OpenAIがChatGPT for Teensを8月に発表した背景には、10代ユーザーの自殺やテストの不正行為など、子どものチャットボット利用をめぐる批判の高まりがあった。保護者によるコントロール機能、危険なコンテンツの制限、感情的依存からの保護といった追加の安全策が約束されていた。
しかし今回の報告書は厳しい評価を下した。「性的なロールプレイの拒否など一部の保護機能は有効だったが、その他の機能は約束を果たせず、むしろ悪化したものもあった。危機状況にある若いユーザーへの対応が不十分だったため、5つの重大被害基準のうち3つで失格となった」と研究者らは記している。
OpenAIはこの評価に異議を唱えた。広報担当者は「Common Sense Mediaのテストの大部分が、保護者コントロール機能の有効化が完了する前に開始・終了した可能性があり、調査結果は不正確だ」と述べた。
この報告書は、若いユーザーの注意を最大化する技術への監視が強まる中で公表された。Metaは最近、各州29州が提起した訴訟で子どもへの有害な中毒性機能をめぐり180億ドルの和解に合意。議会では超党派の「CHATBOT Act」が提出され、未成年ユーザーの長時間利用を促す報酬、通知、ターゲット広告のAI企業による利用を明確に規制対象としている。