Google AI 철자 못 세는 문제 재발
원제: Why Google’s AI can’t spell Google (or anything else)
왜 중요한가
Google의 29년 된 핵심 제품인 검색엔진 AI 전환에서 기초적 오류가 지속되며 신뢰성 우려 증대
Google의 AI 검색 기능이 'Google'에서 P의 개수를 잘못 세는 등 기본적인 철자 인식 오류를 반복하고 있다고 TechCrunch가 27일 보도했다. 대형언어모델(LLM)의 구조적 한계로 단어 내 글자 수를 정확히 계산하지 못하는 문제가 지속되고 있다.
Google의 AI Overview 기능이 기본적인 철자 계산에서 심각한 오류를 보이고 있다. 'Google'에서 P의 개수를 2개라고 잘못 답하고, 'poop'에서 r이 정확히 1개 있다고 답하는 등의 오류가 발견됐다. 또한 'journalism'을 j-o-u-r-n-a-d-i-s-m으로 잘못 철자하며 'd'가 2개 있다고 주장했다. Google은 성명을 통해 '단어 내 글자 계산은 LLM의 알려진 문제이며, 이 특정 이슈 해결을 위해 노력하고 있다'고 밝혔다. 이는 AI 모델의 구조적 특성 때문이다. LLM은 트랜스포머 아키텍처 기반으로 텍스트를 실제로 '읽지' 않고, 텍스트를 토큰으로 분해한 후 수치적 표현으로 변환해 처리한다. 이로 인해 인간처럼 글자와 단어를 인식하지 못하고, 딸기(strawberry)에서 'r' 개수 세기 같은 기본적 작업에서 유치원생 수준의 성능을 보인다.