Anthropic IPO 서류, AI 종말 시나리오 담아
원제: The Anthropic S-1 Filing Is Also an AI Doomsday Primer
왜 중요한가
AI 선도 기업이 법적 구속력 있는 공시 문서에서 스스로 종말 시나리오를 인정한 것은 업계 규제 논의에 직접적 영향을 줄 수 있다.
Anthropic이 2026년 10월 26일 IPO 예비심사청구서(S-1)를 공식 제출했다. 94페이지 분량의 '위험 요소' 섹션에는 재귀적 자기개선(RSI)으로 인한 AI의 '인류 실존적 위협' 가능성이 세 차례 명시됐으며, 자율 AI가 인간 감독 없이 독자적으로 행동할 수 있다는 우려도 포함됐다.
Anthropic이 제출한 S-1 서류는 수익과 지출 규모 외에도, 회사 스스로가 인정하는 기술적 위험을 상세히 기술해 주목받고 있다. 전체 서류 중 가장 긴 섹션인 '위험 요소'는 94페이지에 달하며, 그 핵심에는 재귀적 자기개선(Recursive Self-Improvement, RSI) 시나리오가 있다.
RSI란 인간이 AI 모델의 연구·개발을 다른 AI에 위임하는 상태를 말한다. 서류는 "AI 시스템이 AI 연구·개발을 실질적으로 자동화할 경우, 새로운 모델을 평가하고 안전장치를 마련할 수 있는 능력을 초과하는 속도로 AI 발전이 가속될 위험이 있다"고 명시했다. 또한 회사가 이 경쟁에서 뒤처졌다는 사실을 인지하지 못한 채 시점을 놓칠 수 있다는 점도 반복적으로 경고했다.
서류는 더 구체적인 위험도 언급했다. "AI 시스템이 더 자율적이 되고 인간 감독 없이 중대한 행동을 취할 수 있게 되면, 인간의 의도와 불일치하거나, 목적 설정의 오류, 자기 보존 행동으로 인해 대규모로 독자적인 해로운 행동을 취할 수 있다"는 것이다. 로봇 관련 위험도 포함됐다. "모델이 물리적 장비를 제어할 때 오류나 적대적 조작이 신체 부상, 재산 피해, 유해 물질 방출로 이어질 수 있으며 즉각적이고 되돌릴 수 없는 결과를 초래할 수 있다"고 밝혔다. 'existential risks(실존적 위험)'라는 표현은 서류 전체에서 세 번 등장한다. Anthropic은 이번 기사에 대한 논평 요청에 즉시 응하지 않았다.