Raspberry Pi Pico 2Wでゲームを生成・プレイするミニWorld Model
原題: A tiny world model running games on a Raspberry Pi Pico 2 W
なぜ重要か
エッジデバイス単体でWorld ModelとRL学習を完結させた実証例は少なく、超低コストハードへのAI縮小技術の可能性を示す。
開発者のSheepSebが、2つの小型ニューラルネットワークを用いてRaspberry Pi Pico 2W上でゲームの生成とプレイを同時に実行する「tinyworldformer」をGitHubで公開した。World ModelネットワークとActorネットワークの2本立て構成で、現在のフレームとアクションから次フレームと報酬を予測しながら、マイクロコントローラー単体でRL（強化学習）を完結させる。
「tinyworldformer」は、Raspberry Pi Pico 2W上で動作する超軽量World Modelの実装だ。プロジェクトは2つのニューラルネットワークで構成される。1つ目はWorld Modelネットワークで、現在のフレームとアクションを入力として次フレームと報酬を予測する。2つ目はActorネットワークで、生成されたフレームを見てアクションを選択する。つまり、ゲームの「夢」の中でAIがプレイを学習するという構造だ。
技術的な肝は「Looped Transformer」の採用にある。通常のTransformerは複数の異なる層を積み重ねるが、Looped Transformerは同一の重みを持つTransformerブロックを繰り返し適用する。重みを使い回すことでメモリ使用量を大幅に削減でき、マイクロコントローラーへの搭載が現実的になった。
Pico 2Wを選んだ理由は2点。価格が安いことと、FPU（浮動小数点演算ユニット）を内蔵していること。ゲームはnumpyで直接実装できるほど小規模なものを選び、生成フレームを実機と逐一比較して検証した。後からStreaming RLエージェントも追加し、ボード単体が自身の「夢の中」でプレイを学習できるようにした。
コードはRustと Python（uvで管理）で書かれており、GitHubには量子化・チップへの書き込み・ブラウザからの操作方法なども含む詳細なドキュメントが整備されている。公開から間もないにもかかわらず、すでにスター数は159に達している。