4Bオープンモデルで GPT-5.6 Sol を100倍安く超える
Judul asli: Beating GPT-5.6 Sol on retrieval with 100x cheaper open models
Mengapa Ini Penting
オープンモデルのRL後訓練がフロンティアモデルに匹敵する精度を低コストで実現できることを実証した事例として業界に示す。
CastformとNeonは、4Bパラメータのオープンソースモデルを強化学習でポストトレーニングし、検索精度でGPT-5.6 Solと同等を達成しながらコストを100分の1に削減した。
NeonとCastformは共同で、4Bパラメータのオープンソースモデルを強化学習（RL）によってポストトレーニングし、検索タスクにおいてGPT-5.6 Solと同等の精度を実現しながら、コストを約100分の1に抑えることに成功したと発表した。
背景として、2022年頃は埋め込み検索とRAGパイプラインが主流だったが、2025年以降はエージェントによるマルチホップ検索が普及。GPT-5.6 Solを使った典型的なマルチターン検索では1リクエストあたり10秒超・約0.03ドルのコストがかかり、スケール展開の障壁となっていた。
CastformのポストトレーニングパイプラインはNeonのLakebase Search上で動作する。コーパスはNeon上のPostgresに保存され、合成データ生成には「lakebase_text」および「lakebase_vector」拡張が使用される。Castform共同創業者のYing Hang Seah氏は「チームの最良のトレーニングデータはデータベースに眠っている。CastformをNeonに向けることで、データ整備とインフラ構築の両方をスキップできる」と述べている。
Castformの目標は、ポストトレーニングをプロンプトエンジニアリングと同程度に手軽にすることで、MLやGPU内部の知識なしに開発者が利用できる環境を提供することだ。