4BモデルでPostgresより81%速いクエリプランを生成
Judul asli: Training a 4B model to produce 81% faster query plans than Postgres
Mengapa Ini Penting
小規模モデルでもRLによりDBオプティマイザを超えられることを実証し、エッジやオンプレミスDBへの応用可能性を示す。
Rohan Bansalが4BパラメータのQwenモデルをSFTとRL手法で学習させ、Join Order Benchmarkで最大81%、113クエリ全体で平均44.7%の実行時間短縮を達成した。
データベースのクエリ最適化は長年の難題だ。結合順序の決定はNP困難として知られており、Leis らが2015年と2025年に行った調査でも、Postgresを含む既存のクエリオプティマイザは依然として改善余地が大きいと結論付けている。
Rohan Bansalは、この問題にオープンウェイトの4BモデルであるQwenを活用して挑んだ。手順は2段階だ。まず教師ありファインチューニング（SFT）でモデルにクエリ最適化の基礎を仕込み、続いてGRPO変形のエージェンティックRLで実際のPostgres実行時間を報酬シグナルとして重みを更新した。
実験開始時点では、4BモデルはJoin Order Benchmarkの113クエリのうち99件でプランを生成できなかった。SFTとRL後は、同ベンチマーク上で最大81%の高速化、全ワークロード平均で44.7%のレイテンシ削減を記録した。
技術面での工夫も多い。Linuxページキャッシュの競合ノイズを最小化するPostgres計測rig、並列コンテナでのノイジーな環境に対応したカスタムGRPOバリアント、vLLMとトレーナーを2台のマシンに分割するRL構成などが実装された。LoRA（低ランク適応）も採用し、計算コストを抑えている。