AI 기업들, 인간 인지 과정 이름 사용 중단해야
원제: I Am Begging AI Companies to Stop Naming Features After Human Processes
왜 중요한가
AI 기업들의 인간적 명명법이 사용자 인식에 미치는 영향과 기술 발전 방향성을 보여주는 사례
Anthropic이 개발자 컨퍼런스에서 AI 에이전트가 '기억'을 정리하는 '꿈꾸기' 기능을 발표했다. AI 업계가 인간의 인지 과정 이름을 기능명으로 사용하는 트렌드에 대한 비판이 제기되고 있다. OpenAI의 '추론' 모델, '사고' 시간 등 유사 사례가 지속되고 있다.
Anthropic이 샌프란시스코 개발자 컨퍼런스에서 AI 에이전트용 '꿈꾸기(dreaming)' 기능을 발표했다. 이 기능은 에이전트가 최근 완료한 작업의 기록을 분석해 성능 개선을 위한 통찰을 얻는 기능이다. 에이전트들이 여러 웹사이트 방문이나 다중 파일 읽기 등 다단계 작업을 수행할 때, 활동 로그에서 패턴을 찾아 능력을 개선한다고 설명했다. Anthropic은 블로그 포스트에서 '기억과 꿈꾸기가 함께 자가 개선 에이전트를 위한 강력한 기억 시스템을 형성한다'며 '기억은 각 에이전트가 작업하며 학습한 내용을 포착하고, 꿈꾸기는 세션 간 기억을 정제해 에이전트들 간 공유 학습을 끌어내고 최신 상태로 유지한다'고 설명했다. 2022년 챗봇 혁명 이후 AI 기업들이 인간의 뇌 활동에서 따온 명칭을 사용하는 경향이 지속되고 있다. OpenAI는 2024년 챗봇이 '사고' 시간을 필요로 하는 첫 '추론' 모델을 출시했으며, 다수 스타트업들도 사용자에 대한 '기억'을 가진다고 설명한다. 이는 인간과 기계 간 경계를 모호하게 만드는 마케팅 전략으로 분석된다.