GoogleのAIが「Google」を正しく綴れない理由
原題: Why Google’s AI can’t spell Google (or anything else)
なぜ重要か
検索最大手のGoogleでさえAIの根本的制約を克服できていない現状は、生成AI普及における技術的課題の深刻さを示している。
Googleの検索機能に統合されたAI Overviewが基本的なスペリングで深刻なエラーを起こしている。Googleという単語のPの数を間違えたり、journalismをj-o-u-r-n-a-d-i-s-mと誤記するなど、LLMの根本的な制約が露呈。Googleは「単語内での文字数計算はLLMの既知の課題」と認め修正に取り組んでいると発表した。
GoogleのAI Overviewが基本的なスペリングで重大なエラーを起こしている問題が明らかになった。同機能は「Google」という単語にPが2つあると回答したほか、「poop」という単語に「r」が1つあると述べ、journalismを「j-o-u-r-n-a-d-i-s-m」と誤記した。米大統領の名前についても1つのPがあると正しく認識したが、「t-r-p-u-m」と綴った。これはGoogleが29年間運営してきた検索エンジンを生成AIを中心とした仕組みに全面改修する中で発生した問題だ。過去にもAI Overviewは風刺サイトThe OnionやRedditの投稿を引用し、岩を食べることやピザに糊を付けることを推奨する問題があった。今回も同様の課題が浮上している。Googleは「単語内での文字数計算はLLMの既知の課題であり、この特定の問題の修正に取り組んでいる」とTechCrunchに声明を発表した。LLMは人間のように文章を単語や文字で構成された言語単位として認識せず、transformerモデルに基づいて文章をトークンに分解し、数値表現に変換して処理するため、基本的なスペリング能力に制約がある。