600実験で判明したJEPA世界モデルの実態
原題: After 600 experiments, here's what I discovered about JEPA world models
なぜ重要か
生成型世界モデル対JEPAという現在進行形の論争において、追加学習不要で性能を劇的に改善できるとする実証的データは、ロボット制御や自律エージェント開発の方向性に影響を与えうる。
研究者Haddy Alchaerは、Yann LeCunらが開発したJEPA世界モデル「LeWM」に対して約600回の実験を実施。追加学習なしの新たな4つの計画手法を考案し、長期タスクの成功率を22%から85%へ大幅に向上させた。さらに目標スコアリング方法の変更1点だけで成功率を60ポイント改善し、完全物理シミュレーターへの置き換え効果の3倍を達成したと報告している。
AI分野では現在、「世界モデル」の在り方をめぐる議論が続いている。主流となっている生成型世界モデルは画素単位で未来を予測するが、Yann LeCunらはその大半の画素が行動決定に不要であり、予測自体が困難だと批判する。対案として提唱されているのがJEPA（Joint-Embedding Predictive Architecture）だ。JEPAはエンコーダー・プレディクター・プランナーの3要素で構成され、観測フレームをコンパクトな埋め込みベクトルに変換してから予測・計画を行うため、行動に関連する情報だけを学習すればよいとされる。
LeCunらのチームが今年公開したLeWMは、ロボットがT字型ブロックを目標位置まで押し込むシミュレーション「Push-T」を主なベンチマークとする。AlchaerはこのLeWMを用いて600回の実験を展開した。
まず最初の検証として、LeWMのプレディクターをシミュレーターの完全物理エンジンに置き換えた比較実験を実施。75ステップ先のゴールを追う長期タスクでは、オリジナルLeWMが78%、完全物理版が77%という結果になり、訓練済みの予測精度はすでに完璧な物理シミュレーターに匹敵することが判明した。
次にAlchaerは、モデルを再学習せずに4つの新計画手法を考案した。その中で特に注目されるのが2点。まず「25ステップ間隔のサブゴール計画」の活用で、公開状態のLeWMが22%だった長期タスク成功率を85%まで引き上げ、専門家デモンストレーションから理想的なサブゴールを与えた場合とほぼ同等の水準に達した。さらにゴールのスコアリング方法を変えるという1つの修正だけで成功率を60ポイント改善し、完全物理シミュレーターへの置き換えによる改善幅（約1ポイント）の実に60倍に相当する効果を示した。
この結果はJEPA世界モデルの性能向上において、モデル自体の予測精度よりも「どう使うか」という計画アルゴリズムの設計が鍵になる可能性を示唆している。