AIの数学優位は「記憶力」が鍵か

原題: AI has access to a vastly larger working memory than the human brain

なぜ重要か

AIの数学的優位性の源泉が推論ではなく記憶容量にあるとすれば、今後のAI設計や人間とAIの協働戦略に根本的な示唆を与える。

研究者のDavide Pifferは、AIが数学の難問を解く主な要因は推論能力の向上ではなく、人間の脳をはるかに上回る「作業記憶(ワーキングメモリ)」にあると指摘した。人間が同時に保持できる情報量は極めて限られているのに対し、AIのコンテキストウィンドウは問題文全体・数百の中間式・複数の試行アプローチを同時に保持できる。

Davide Pifferが公開した論考によると、AIが難しい数学問題を解く際に一般的に用いられる説明——大量の学習データ、強化学習による推論戦略の向上、数学的直観の萌芽——はいずれも一定の妥当性を持つが、より根本的な要因を見落としている可能性があるという。その要因とは、AIが人間の脳と比べて圧倒的に広大な「外部シンボリック作業空間」を持つことだ。

人間の作業記憶は極めて制限されており、例えば頭の中だけで3桁同士の掛け算を行う際の困難さはこの制約に起因する。紙に書き出すことで問題が解きやすくなるのは、知能が上がるからではなく、有効な作業記憶が拡張されるためだ。数学者が記号表記・メモ・図・補題を活用するのも、思考を外に出すことで認知的に実行可能にするためである。

熟練者は「チャンキング(情報の塊化)」によってこの制約を補う。長い記号列を一つの概念的オブジェクトとして認識することで、同じ作業記憶の限界内により多くの情報を収める。しかしチャンキングは制約を圧縮するだけであり、排除するものではない。

一方、AIモデルはコンテキストウィンドウ内に問題文全体、数百の中間式、複数の放棄したアプローチ、定義、制約、過去の結論を同時に保持できる。これは人間の最も重要な生物学的制約の一つを取り除くことに相当する。

また、作業記憶と数学的パフォーマンスの関係は人間の間でも実証されており、AlllowayとPassolunghi(2011年)の研究では、子どもの作業記憶の測定値がIQとは独立して数学成績に寄与することが示されている。PifferはAIをAIを「電子のアインシュタイン」ではなく「機械で増幅されたフォン・ノイマン」——膨大な速度・幅・シンボリック記憶を持つ存在——に例えている。

出典

davidepiffer.com — 元記事を読む →