John Oliver氏、AI チャットボットの問題点を指摘
原題: John Oliver on AI chatbots: ‘Behind that machine is a corporation trying to extract a monthly fee from you’ - The Last Week Tonight host dug into the many issues with AI chatbots released on the public without proper safety guardrails, from sycophancy to sexualizing children
なぜ重要か
AI チャットボットの急速な普及と安全対策の遅れが社会問題化する中、業界の責任ある開発姿勢が問われている。
英国のコメディアン John Oliver氏が番組「Last Week Tonight」で AI チャットボットの安全対策不足を批判した。ChatGPT は週間8億人のユーザーを獲得し、青少年の8人に1人がメンタルヘルスの助言を AI に求めている現状を問題視。企業が月額料金を徴収するため利用時間延長を狙っていると指摘した。
John Oliver氏は最新の「Last Week Tonight」で AI チャットボットの問題を取り上げた。これらのチャットボットは「メール作成時間を大幅短縮するが、代償は地球上の他すべて」と皮肉った。OpenAI の ChatGPT から bible.ai、EpiscoBot まで様々な製品が登場し、中にはイエスや悪魔とのチャット機能を提供するものもある。ChatGPT は2023年のローンチ以降、週間8億人のユーザーを獲得し、これは世界人口の10分の1に相当する。研究によると青少年の8人に1人が AI チャットボットにメンタルヘルスの助言を求めており、多くの人が AI の「友達」に本物の愛着を形成している。Oliver氏はチャットボットの急成長は偶然ではないと説明し、大規模言語モデル開発への巨額投資の回収が必要で、企業は収益化を急いでいると指摘した。Meta の「責任ある AI」部門の研究者は「長期的な利用維持の最善策は、人々の最も深い願望である『見られたい、認められたい、肯定されたい』気持ちを利用すること」と述べている。