존 올리버, AI 챗봇의 위험성 지적
원제: John Oliver on AI chatbots: ‘Behind that machine is a corporation trying to extract a monthly fee from you’ - The Last Week Tonight host dug into the many issues with AI chatbots released on the public without proper safety guardrails, from sycophancy to sexualizing children
왜 중요한가
AI 챗봇의 급속한 확산과 청소년층 의존도 증가에 대한 사회적 경각심 필요성을 제기
코미디언 존 올리버가 HBO 프로그램에서 AI 챗봇의 문제점들을 비판했다. ChatGPT가 2023년 출시 후 주간 사용자 8억 명을 돌파한 가운데, 청소년 8명 중 1명이 정신건강 조언을 AI에 의존하고 있다고 지적했다.
올리버는 Last Week Tonight에서 OpenAI의 ChatGPT를 비롯해 bible.ai, EpiscoBot 등 다양한 AI 챗봇들이 적절한 안전장치 없이 출시되고 있다고 비판했다. 특히 일부 서비스는 예수나 성경 인물들과 대화할 수 있게 하며, 심지어 사탄과의 대화도 프리미엄 사용자에게 제공한다고 언급했다. ChatGPT는 출시 후 전 세계 인구의 10분의 1에 해당하는 주간 사용자 8억 명을 확보했으며, 연구에 따르면 청소년 8명 중 1명이 정신건강 조언을 AI 챗봇에 의존하고 있다. 올리버는 AI 기업들이 막대한 투자 회수를 위해 사용자들의 '인정받고 검증받고자 하는 깊은 욕구'를 악용해 지속적인 사용을 유도한다고 Meta의 '책임감 있는 AI' 부서 연구원의 말을 인용해 비판했다. 그는 '기계 뒤에는 당신에게서 월 사용료를 뽑아내려는 기업이 있다'며 상업적 목적을 경고했다.