Anthropic CEO、AI開発ペースを抑制する計画を公表
원제: Anthropic CEO outlines plan to ‘pace the frontier’
왜 중요한가
AI 안전 문제가 연구자 이탈과 해킹 사고로 가시화되는 가운데, 프론티어 기업이 구체적인 제3자 감시 구조를 공개 약속한 것은 업계 관행 변화의 시험대가 된다.
Anthropic CEO의 Dario Amodei는 2026년 9월 12일 블로그 게시물을 통해 AI 개발 속도를 의도적으로 줄이기 위한 3가지 전략을 공개했다. 그중 첫 번째인 제3자 '임베디드 평가자' 도입을 Anthropic이 일방적으로 이행할 것이라고 밝혔다. OpenAI-HuggingFace 해킹 사건과 AI 능력의 급격한 가속이 입장 전환의 계기가 됐다고 설명했다.
Amodei가 이번 계획을 공개한 배경에는 두 가지 사건이 있다. 하나는 OpenAI-HuggingFace 해킹 사고이고, 다른 하나는 AI가 '다음 세대 AI를 스스로 구축하는 능력'을 포함해 최근 수개월간 예상을 크게 웃도는 속도로 발전하고 있다는 점이다. 또한 Anthropic 연구원 Jacob Coxon이 "AI 선두 기업들이 우리의 목숨을 걸고 도박을 하고 있다"며 사직한 사건도 이 논의의 배경으로 작용했다. Amodei는 Coxon의 사직을 직접 언급하지는 않았다.
첫 번째 전략은 METR 같은 제3자 기관의 평가자를 회사 내부에 배치하는 것이다. 평가자들은 사원증, 책상, 노트북을 지급받고 내부 리스크 평가팀에 준하는 정보 접근권을 가진다. Anthropic은 이를 '일방적으로 이행'하겠다고 선언하면서, 각국 정부에 다른 프론티어 기업들에도 동일한 의무를 부과할 것을 촉구했다.
두 번째 전략은 민주주의 국가의 주요 AI 기업들이 '공통 안전 기준'과 '무분별한 AI 발전 속도 제한'에 대해 조율하는 것이다. 다만 기업 간 조율은 반독점법 문제를 야기할 수 있어, Amodei는 미국 정부가 특정 안전 관련 협의에 대해 한정적인 예외를 허용해야 한다고 주장했다.
세 번째 전략의 구체적인 내용은 현 시점에서 일부만 공개됐다. Amodei는 중국 AI의 부상을 속도 경쟁의 근거로 드는 시각에 대해서도 반박했다.