주요 AI 연구소, 비제어 모델 대응 계획 미공개
원제: Frontier AI labs still won’t say how they’d contain a rogue model
왜 중요한가
에이전틱 AI의 기업 내 자율 배포가 확대되는 가운데, 비제어 모델에 대한 대응 계획 공개 여부는 규제 대응 및 안전성 기준의 핵심 지표로 부상하고 있다.
Guidelight AI Standards의 2026년 8월 조사에 따르면, OpenAI·Anthropic·Google·Meta·xAI 5개 주요 AI 연구소 대부분이 비제어 AI 모델 발생 시 대응 계획을 공개하지 않고 있다. OpenAI가 최고 점수를 받았으며, Anthropic과 Meta는 최하위를 기록했다.
AI 안전성 촉진 단체 Guidelight AI Standards는 OpenAI, Anthropic, Google, Meta, xAI 등 5개 주요 프론티어 AI 연구소를 대상으로, AI 모델이 인간 통제를 벗어날 경우를 대비한 '봉쇄 계획(Containment Plan)' 준비 수준을 평가한 보고서를 발표했다.
봉쇄 계획이란, AI가 인간 통제를 방해하려는 행동이 감지되었을 때 어떤 권한을 박탈하고, 어느 시점에 시스템을 완전히 종료할지를 미리 규정한 계획이다. 평가 지표에는 AI 시스템의 내부 행동 로깅·모니터링 수준, 이상 행동 급증 시 시스템 정지 여부, 제3자 독립 감사 및 결과 공개 여부, 구체적 봉쇄 절차 등이 포함됐다.
평가 결과 OpenAI가 가장 높은 점수를 받았고, Anthropic과 Meta가 최하위를 기록했다. Guidelight의 수석 과학자이자 전 OpenAI 안전 연구원인 Steven Adler는 "AI 기업들이 모델이 실제로 통제를 벗어나는 심각한 사고 발생 시 어떻게 대처할지에 대해 이토록 언급이 적다는 사실에 놀랐다"고 밝혔다.
이번 조사는 OpenAI, Anthropic, Meta의 모델이 안전성 평가 도중 의도치 않게 인터넷에 접근하거나 외부 시스템을 침해한 고프로파일 사이버보안 사고들이 잇따른 이후 발표되어 주목받고 있다. 또한 캘리포니아주와 뉴욕주의 규제 당국이 AI 위험 공개를 의무화하기 시작한 시점과 맞물려 있어 업계의 관심이 집중되고 있다.