Anthropic, 자기복제 AI 임박 경고
원제: Anthropic warns that it’s very close to RSI capability, aka self-building AI
왜 중요한가
IPO를 앞둔 Anthropic이 공식 공시에서 RSI 임박을 인정한 것은 AI 업계 안전 논의의 수위를 한 단계 높이는 사건이다.
Anthropic이 2026년 11월 2일 제출한 S-1A 수정 공시에서 재귀적 자기개선(RSI) 임박 가능성을 공식 경고했다. 회사는 AI를 활용한 R&D 과정에서 이미 예상치 못한 성능 도약이 발생한 사례가 있었다고 밝혔으며, 내부 추정치 기준으로 RSI 정의 충족이 '임박'했다고 명시했다.
Anthropic의 S-1A 수정 공시에서 재무 지표와 함께 주목해야 할 내용이 등장했다. 회사는 Risk Factors 항목에 새로운 문구를 추가해, AI를 활용한 연구개발 가속화가 안전·정렬·보안 조치 개발 속도를 앞지를 수 있다고 경고했다.
구체적으로 Anthropic은 두 가지 사실을 인정했다. 첫째, 과거에 AI를 활용해 새로운 모델을 개발하는 과정에서 당시에는 인식하지 못한 대규모 성능 가속이 이미 발생했다. 둘째, 현재 모델이 아닌 미래 모델에 대한 내부 추정치를 기준으로, 자사 Responsible Scaling Policy가 정의한 '인공지능에 의한 극적인 진보 가속화' 기준을 '임박하게' 충족할 수 있다고 밝혔다.
RSI(Recursive Self-Improvement)란 AI가 스스로를 훈련시키는 능력이 충분히 향상돼 AI 역량이 급격히 가속화되는 지점을 가리킨다. AI 안전 연구자들은 이를 인간 통제 이탈의 분기점으로 보는 반면, 기술 낙관론자들은 전례 없는 생산성과 과학적 발견의 계기로 해석한다.
Anthopic은 현재 어떤 모델도 이 RSI 임계값을 초과하지 않았다고 명시했으며, 가까운 미래에도 R&D 과정에서 인간이 핵심 역할을 유지할 계획이라고 밝혔다. 회사는 RSI를 '약속이자 위험'으로 규정하며, Responsible Scaling Policy를 통해 위험을 모니터링하고 완화하겠다는 방침을 재확인했다.