4Bオープンモデルがフロンティアモデルに100分の1のコストで匹敵
원제: Beating GPT-5.6 Sol on retrieval with 100x cheaper open models
왜 중요한가
RL 사후 훈련으로 소형 오픈소스 모델이 프런티어 모델 수준의 검색 성능을 100분의 1 비용에 실현함으로써, 에이전틱 AI의 비용 구조가 근본적으로 변화할 가능성을 시사한다.
Castform와 Neon은 2026년 8월 5일, 4B 파라미터 오픈소스 모델을 RL 사후 훈련하여 검색 정확도에서 GPT-5.6 Sol과 동등한 성능을 달성하면서 비용을 100분의 1로 줄이는 데 성공했다고 발표했다. 기존 멀티턴 검색에서 GPT-5.6 Sol은 1회당 10초 이상, 약 0.03달러의 비용이 소요됐다.
Castform와 Neon은 2026년 8월 5일, 오픈소스 4B 파라미터 모델을 강화학습(RL) 기반 사후 훈련(post-training)으로 특화시켜, 검색(retrieval) 태스크에서 GPT-5.6 Sol과 동등한 정확도를 달성했다고 밝혔다. 비용은 프런티어 모델 대비 약 100분의 1 수준이다.
배경으로, 2022년경에는 임베딩 검색(embedding search)과 RAG 파이프라인이 주류였으나, 2025년부터는 에이전틱 검색(agentic retrieval)이 주목받기 시작했다. 에이전틱 검색에서는 모델이 반복적으로 검색을 계획하고 실행하는 멀티홉(multi-hop) 방식을 채택하며, GPT-5.6 Sol 기반의 전형적인 멀티턴 검색 요청은 1건당 10초 이상, 약 0.03달러의 비용이 발생해 실용적인 대규모 배포에 제약이 있었다.
Castform은 이 문제를 해결하기 위해 개발자가 머신러닝 및 GPU 내부 지식 없이도 RL 사후 훈련을 수행할 수 있는 플랫폼을 구축했다. Neon의 Lakebase Postgres 및 Search 확장을 통해 원시 문서를 Postgres에 저장하고, lakebase_text 및 lakebase_vector를 활용해 합성 훈련 데이터를 생성하는 파이프라인을 구성했다.
Castform 공동창업자 Ying Hang Seah는 "대부분의 팀에서 가장 좋은 훈련 데이터는 데이터베이스에 있지만, 이를 활용하기 어렵다. Castform을 Neon과 연결하면 두 문제를 모두 건너뛸 수 있다"고 밝혔다.