챗봇이 '나'라고 말해선 안 된다

Turkle은 팬데믹 기간 인터뷰에서 결정적 전환점을 맞았다. 가족이 고통받는 상황에서도 응답자들이 챗봇과의 대화를 선호한다고 말하는 것을 직접 들으면서 '중립적 호기심'을 유지하기 불가능해졌다고 밝혔다. 그는 소셜 미디어가 '슬프면 컴퓨터를 켜라'는 행동 패턴을 심어줬고, LLM이 이를 더 심화시켰다고 분석한다.

챗봇의 1인칭 사용 금지라는 제안은 그중 가장 급진적 주장이다. Turkle은 "LLM이 1인칭을 쓸 이유가 없다"고 단언하면서, 이 문제가 심리치료 대체 논리와 맞닿아 있다고 지적한다. 기업들이 '챗봇으로 심리치료를 대신할 수 있다'고 주장하지만, LLM의 무조건적 수용은 연습의 도구가 아니라 그 자체가 목적이 되어버린다는 것이다.

직장에서의 'Human in the loop' 개념도 비판한다. 그는 이 표현이 인간을 생산 과정에서 배제하고 환각(hallucination) 교정용으로만 남겨두는 현실을 은폐하는 언어라고 지적했다. 소수의 검토자로는 실질적 변화가 불가능하며, 이는 면피용 구조에 불과하다는 주장이다.

신간은 『침묵의 봄』, 『정글』 같은 사회 경보 서적을 목표로 삼는다. AI를 모든 영역에 가속 도입하려는 정부·산업계와 정면으로 충돌하는 내용이다.