AI 에이전트에 메모리 말고 문서가 필요한 이유
원제: Agents don't need memory, they need documentation
왜 중요한가
AI 에이전트 개발 방법론의 방향성을 놓고 RAG 기반 메모리 vs. 문서 기반 접근법이라는 설계 철학 논쟁이 본격화되고 있다.
개발자 Kevin Liao는 2026년 10월 3일 자신의 블로그에서 현재 시중의 모든 메모리 플러그인이 동일한 RAG 기반 아키텍처를 사용하며 근본적인 문제를 해결하지 못한다고 주장했다. 그는 AI 에이전트에 필요한 것은 과거 대화 재현이 아니라 구조화된 문서라고 밝혔다.
Liao에 따르면 현재 시장의 메모리 플러그인은 모두 같은 방식으로 작동한다. 세션 기록을 분석해 수천 개의 스니펫을 생성하고 벡터 데이터베이스에 저장한 뒤, 매 프롬프트마다 유사도 상위 5개를 삽입하는 구조다. Dreamers, 다계층 메모리, 리랭커 등 부가 기능은 결국 이 동일한 아키텍처 위의 변형에 불과하다.
그가 지적하는 핵심 문제는 다섯 가지다. 첫째, 유사도 검색은 정확성이나 최신성을 보장하지 않는다. 둘째, RAG 스니펫에는 맥락, 의도, 배경 정보가 빠진다. 셋째, 코드베이스는 매일 바뀌는데 과거 스니펫은 진실로 취급된다. 넷째, 에이전트는 자신이 모르는 것을 검색할 수 없다. 다섯째, 수만 개의 임베딩 중 어떤 것이 오래됐거나 잘못됐는지 감사할 방법이 없다.
Liao는 이 문제의 본질이 "기억력 부족"이 아니라고 말한다. 사람도 3년 전 회의 녹화를 다시 보지 않는다. 대신 기록을 남기고 그 기록을 참조한다. AI가 빠른 속도로 코드와 기능을 생성하는 지금, 문서화는 오히려 더 중요해졌다. 그는 해법으로 과거 대화 재현이 아닌 문서 기반 메모리를 제안하며, AGENTS.md 같은 구조적 문서가 그 출발점이라고 밝혔다.