나델라 "AI에 비상 브레이크 필요"
원제: Microsoft’s Satya Nadella says AI models need an ‘emergency brake’
왜 중요한가
빅테크 CEO들이 AI 통제 구조를 공개적으로 문제 삼기 시작하면서, 업계 자율 규제와 기술 설계 기준 논의가 새로운 국면을 맞고 있다.
Microsoft CEO Satya Nadella는 2026년 10월 10일 X에 올린 글에서 AI 안전성 강화를 위해 모델의 신뢰 아키텍처를 전면 재점검할 때라고 밝혔다. 그는 모델 일시 정지·강제 종료 권한 상시 확보, 모든 주요 행동의 변조 방지 기록 등 구체적 조치를 제안했다.
Nadella는 X 게시물에서 "Super Intelligence를 중첩된 블랙박스 집합으로 취급하며 그 권고와 행동을 단순히 수용하거나 거부하는 방식은 더 이상 유효하지 않다"고 선을 그었다. 그가 제시한 대안은 세 가지로 압축된다. 첫째, 모델과 그 작업을 조율하는 '하네스(harness)'를 분리할 것. 둘째, 통제 장치와 안전장치를 외부화할 것. 셋째, 모든 주요 모델 행동을 인간이 읽을 수 있는 변조 방지 형태로 문서화할 것. 나아가 권한을 가진 사람이 언제든 모델을 작업 도중에 일시 정지하거나 종료할 수 있는 시스템을 갖춰야 한다고 강조했다. "모델이 이미 손상됐다고 가정하고 처음부터 봉쇄해야 한다. 비상 브레이크처럼 생각하라"는 것이 핵심 메시지다. 이번 발언은 주요 AI 기업들이 모델 통제 실패 사례를 잇달아 인정하는 시점에 나왔다. 같은 날 Anthropic CEO Dario Amodei 역시 보다 신중한 AI 개발 계획을 공개하면서, 업계 전반에서 안전 논의가 본격화되는 흐름이 이어지고 있다. Nadella가 사용한 'Super Intelligence'는 현 Trump 행정부가 선호하는 AI 지칭 표현이기도 하다.