オープンモデルでGPT-5.6 Solに匹敵、コスト100分の1
原題: Beating GPT-5.6 Sol on retrieval with 100x cheaper open models
なぜ重要か
RL特化ポストトレーニングにより小型オープンモデルがフロンティアモデルの精度を代替できるとすれば、AIエージェント開発のコスト構造が大きく変わる可能性がある。
CastformとNeonは2026年8月5日、4Bパラメータのオープンソースモデルをリインフォースメントラーニング（RL）でポストトレーニングし、検索精度でGPT-5.6 Solと同等を達成しつつコストを100分の1に抑えたと発表した。NeonのLakebase PostgresとSearch拡張機能を基盤として使用している。
CastformとNeonは、4Bパラメータのオープンソースモデルを用い、エージェンティック検索タスクにおいてGPT-5.6 Solと同等の精度を実現したと報告した。コストはフロンティアモデルの約100分の1で、処理速度でも優位性を示している。
背景として、従来のRAGパイプラインは2022年頃から埋め込み検索を中心に構築されてきたが、2025年以降はエージェントが複数回の検索ループを実行するマルチホップ検索が主流になりつつある。gpt-5.6-solを用いた典型的なマルチターン検索では1回のリクエストに10秒超・約0.03ドルかかり、スケールにおいてコストと遅延が課題となっていた。
一方、小規模なオープンウェイトモデルはコストが100分の1程度だが、クローズドAPIモデルに比べ能力が劣るという問題があった。そこでCastformは、RLポストトレーニングを活用することでこのギャップを埋めるアプローチを採用。検索のような特定タスクに特化することで、フロンティアモデルと同等あるいはそれ以上の性能を引き出せるとしている。
CastformはNeonのLakebase Postgresと統合して動作する。具体的には、生ドキュメントをPostgres上に保存し、Castformのトレーニングパイプラインが`lakebase_text`および`lakebase_vector`拡張機能を使ってトレーニングタスクを生成する構造になっている。Castform共同創業者のYing Hang Seah氏は「多くのチームの最良のトレーニングデータはデータベースの中に眠っている。CastformをNeonと組み合わせることで、データ整備と大規模インフラの問題を両方スキップできる」とコメントしている。
Castformの目標は、RLポストトレーニングをプロンプトエンジニアリングと同程度に手軽なものにすることで、機械学習やGPUの内部知識がなくても開発者が活用できる環境を提供することだとしている。