잠재 공간 추론 AI 에이전트 HybridAgent 공개
원제: Hybrid Reasoning Agents: LLM agents that think in latent space, act through text
왜 중요한가
잠재 공간 추론을 에이전트 행동과 결합한 접근은 LLM 추론 비용과 속도 문제를 동시에 공략하는 실용적 대안을 제시한다.
Stanford 및 UIUC 공동 연구팀이 2026년 10월 13일 arXiv에 'Hybrid Reasoning Agents(HybridAgent)' 논문을 공개했다. HybridAgent는 내부 추론을 잠재 공간에서 수행하고 외부 행동은 텍스트로 처리하는 구조로, 11개 벤치마크에서 기존 대비 성능 10.4% 향상, 토큰 최대 54.7% 절감, 추론 속도 최대 2.6배 향상을 달성했다.
HybridAgent는 LLM 에이전트가 텍스트로만 추론하는 기존 한계를 넘어, 잠재 공간(latent space) 추론과 텍스트 기반 행동을 하나의 생성 프로세스 안에서 동적으로 전환한다. 핵심 구성 요소는 두 가지다. 경량 모듈 HybridLink가 텍스트 모드와 잠재 모드 간 전환을 담당하고, 연속적 작업 메모리(continuous working memory)가 멀티턴 대화 전반에 걸쳐 하이브리드 컨텍스트를 손실 없이 유지한다. 덕분에 잠재 공간에서 이뤄지는 내부 사고도 직접 검사(inspect)할 수 있어 투명성 문제를 일부 해소했다.
학습 방법론도 새로 설계됐다. HybridSFT는 백본 모델이 HybridLink와 협조해 툴 통합 하이브리드 생성을 안정적으로 수행하도록 지도 학습을 적용한다. 이후 HybridRL이 강화학습을 통해 언제 잠재 공간에서 사고하고 언제 텍스트로 행동할지를 스스로 학습하도록 한다.
3가지 모델 규모에서 수학, 과학, 의학, 검색, 에이전트 추론 등 11개 벤치마크를 평가한 결과, 텍스트 기반 및 잠재 방법을 포함한 최신 LLM 에이전트 대비 평균 성능이 10.4% 향상됐다. 토큰 사용량은 35.5~54.7% 줄었고, 추론 속도는 1.8~2.6배 빨라졌으며, 비용은 2.7~3.7배 절감됐다. 코드와 데이터는 공개된 URL을 통해 접근할 수 있다. Jiaru Zou 외 7명이 참여한 45페이지 분량의 논문이다.