LM이 스스로 가중치를 재작성한다

원제: Language Models Can Rewrite Their Own Weights

왜 중요한가

재학습·프롬프트 엔지니어링 없이 모델이 스스로 개선되는 경로가 열리면, AI 개발 비용 구조와 모델 유지보수 패러다임이 근본적으로 바뀔 수 있다.

2026년 11월 16일 공개된 arXiv 논문에서 Jiajun Fan 외 10명은 27B 오픈 모델이 그래디언트 없이 추론만으로 자체 가중치를 수정해 미지의 문제에서 정확도를 6.6포인트 높이고, 손상된 복사본을 원본 가중치 열람 없이 원본 정확도의 80% 이상으로 복구하는 'self-rewriting'을 최초 시연했다고 발표했다.

기존 언어 모델 개선 방식은 두 가지였다. 재학습(training)을 통해 가중치를 업데이트하거나, 프롬프트·추론 시간 계산(test-time scaling)을 통해 출력을 개선하는 방식이다. 이번 연구는 세 번째 경로를 제시한다. 모델이 '자신의 최적화기'가 되어 가중치 자체를 고쳐 쓰는 것이다.

핵심 실험에서 27B 오픈 모델은 자신의 가중치, 채점된 오답, 그리고 자기 자신을 실행할 수 있는 환경을 제공받았다. 모델은 실패 원인을 진단하고 해당 가중치를 직접 수정했다. 수정 후 모델은 학습 중 한 번도 보지 못한 문제에서 정확도가 6.6포인트 상승했다. 8회 연속 편집 세션에서 정확도는 단조적으로 향상됐으며, 각 편집이 이전 편집 위에 쌓이는 구조다.

또 다른 실험에서는 손상된 모델 복사본(거의 아무것도 풀지 못하는 상태)을 원본 가중치를 읽지 않고도, 재학습 없이 원본 정확도의 80% 이상으로 복구하는 데 성공했다. 연구진은 이 능력이 규모에 따라 창발한다고 밝혔다. 같은 모델 패밀리에서 소형 모델은 편집을 하지 못하거나 오히려 성능이 저하된 반면, 최대 크기 모델만이 자기 개선과 복구 모두에 성공했다.

test-time scaling과의 차이점도 명확하다. self-rewriting은 개선 효과를 가중치에 영구 기록하므로 답변당 추가 비용이 없다. 학습과의 차이는 순방향 패스(forward pass)만 사용한다는 점이다. 연구진은 "학습과 추론의 경계는 지능의 속성이 아니라 도구의 한계"라고 주장하며, 이를 재귀적 자기 개선(recursive self-improvement)의 필수 단계로 위치시켰다.

출처

arxiv.org — 원문 읽기 →