EUがAIチャットボットと子どもを引き離す法案
原題: The EU Wants to Break Up Kids and Their Chatbots
なぜ重要か
EUの規制が確定すれば、ChatGPTやCharacter.aiなどグローバルなチャットボットサービスは製品設計の根本的な見直しを迫られ、未成年向けAI市場の在り方が変わる。
EUは2026年9月17日、「EU Kids Act」草案を公表した。18歳未満との会話でチャットボットが感情や対人関係を模擬することを禁止し、13歳未満は保護者の監督なしにチャットボットへアクセスできなくなる。違反した企業には全世界売上高の最大6%の制裁金が科される。ChatGPT、Character.ai、Snapchat My AIが規制の対象となる見込みだ。
欧州委員会が提案した「EU Kids Act」は、子どもとAIチャットボットの関係を根本から制限する内容だ。最大の焦点は、チャットボットが18歳未満のユーザーに対して感情や人間関係を「演じること」の禁止だ。委員会は、子どもがAIへ感情的に依存することで人間関係の発達が阻害されると警戒している。
草案によると、13歳未満は保護者の監督がなければチャットボットに一切アクセスできない。会話をまたいだ記憶の保持も禁止される。委員会は長期的なデータ蓄積が有害なインタラクションパターンを強化しうると判断した。さらに、SNS・動画共有プラットフォーム・ゲームのプロバイダーは、AIチャットボットを未成年に対してデフォルトで有効化したり、推奨したりすることが禁じられる。Snapchatがかつてコンタクトリストの最上部にAIを固定表示していたような手法が明示的に禁止対象となる。
ウルズラ・フォン・デア・ライエン欧州委員会委員長は記者会見で「プラットフォームは子どものメンタルヘルスを軽く扱ってきた」と発言。State of the Union演説でもAI生成の性的ディープフェイク被害に言及し、欧州として対処する意志を示した。
フランス・ドイツ・スウェーデン・アイルランドを対象にしたIpsos BVAの調査では、11〜25歳の欧州人の約半数がAIチャットボットに親密または個人的な事柄を打ち明けた経験があるという。オーストラリアや英国も、SNS規制を通じて未成年のチャットボットアクセスを制限しようとしており、西側諸国での規制包囲が進む。
ブリュッセルのNGO「European Digital Rights」のポリシーアドバイザー、Simeon de Brouwerは規制の方向性を歓迎しつつ、「依存性を持つように設計されたAIや、感情的依存を生むAIから守られるべきは若者だけではない」と指摘。より広範な規制を求めた。委員会は今年後半に公表予定の「Digital Fairness Act」でアダクティブデザイン規制を成人にも拡大する方針だ。