AIモデルが意図的に「知識」より「推論」を優先する理由
原題: Models Are Getting Dumber on Purpose
なぜ重要か
推論能力と事実知識のトレードオフは、モデルの実用設計において検索拡張生成（RAG）の重要性をさらに高める業界的転換点を示す。
AI研究者Walter van der Giessenは2025年8月17日、最新の言語モデルがパラメータ数を削減しながら推論ベンチマークのスコアを向上させている一方、事実の正確性が著しく低下していると指摘した。GLM-5.2はAIME 2026で99.2%を記録するが、SimpleQAでの最高スコアはGemini 2.5 Proの53%にとどまり、Qwen3.5の小型モデルではハルシネーション率が80〜82%に達する。
ブログ「W4G1」の著者Walter van der Giessenは、最近のAIモデルにおける顕著なトレードオフを分析している。
推論能力については、GLM-5.2がアクティブパラメータ約400億でAIME 2026のスコア99.2%を達成し、Qwen3.5は170億アクティブパラメータで91.3%を記録する。DeepSeek V4-Flashは130億のアクティブパラメータで動作する。2023年に推定約2,800億のアクティブパラメータを持つGPT-4がAIMEの問題をほとんど解けなかったことと比較すると、パラメータ効率の向上は著しい。
一方、事実の正確性は大幅に低下している。ツールなしの事実想起ベンチマーク「SimpleQA」では、現時点の最高スコアはGemini 2.5 Proの53%であり、最良のモデルでも半数の質問に誤答する。Qwen3.5の4Bおよび9Bモデルのハルシネーション率は、Artificial Analysisの測定で80〜82%に達する。
このトレードオフは意図的な設計判断とされている。「Physics of Language Models」シリーズの研究によれば、事実の知識はパラメータあたり約2ビット程度の容量を必要とするのに対し、推論手順は蒸留や強化学習によって小型モデルに効率よく転移できる。Phi-4（140億パラメータ）が数学に強く雑学に弱い特性も、合成教科書データ中心の訓練方針を反映している。
さらに、事実は陳腐化するが手順は陳腐化しないという観点も重要だ。フロンティアモデルの訓練には数ヶ月と数億ドルのコストがかかり、完成した瞬間から内部の事実は古くなり始める。代数学や問題分解のような手順は1970年代から変わらず有効であり、重みに焼き込む価値が高い。このため現代のモデルは「広く浅い知識と高い推論能力」を持つ設計が主流になりつつあると指摘している。