Altman "AI에 통제권 넘기는 건 최악"

원제: Sam Altman warns against a future where AI, not humans, calls the shots

왜 중요한가

AI 권한 이양 논쟁이 OpenAI 내부에서도 공식 의제로 부상했다는 점에서 업계 안전 기준 논의에 중요한 분기점이 된다.

OpenAI CEO Sam Altman은 2026년 11월 18일 뉴욕타임스 DealBook Summit에서 AI가 주요 산업과 기관의 의사결정권을 가져가는 '점진적 권한 이양' 시나리오를 강하게 반대했다. Altman과 공동창업자 Greg Brockman은 인간이 미래를 통제해야 한다는 원칙에 동의하며, AI의 재귀적 자기개선(RSI)에 따른 위험성을 경고했다.

Sam Altman은 무대 위에서 Silicon Valley 일부에서 거론되는 'AI 점진적 권한 이양론'을 "싸워야 한다는 사실 자체가 황당하지만 반드시 맞서야 할 흐름"이라고 표현했다. 그는 Greg Brockman과 함께 "인간이 미래를 깊이 있는 방식으로 통제해야 하며, 의도적이든 우발적이든 AI로의 권한 이양은 최악의 아이디어"라고 단언했다.

이 논쟁의 배경에는 '재귀적 자기개선(Recursive Self-Improvement, RSI)' 개념이 있다. AI 모델이 충분히 강력해지면 스스로 더 나은 버전을 만들어내고, 결국 인간이 통제할 수 없는 초지능(superintelligence)으로 진화한다는 이론이다.

Altman은 Brockman과 최종 목표에는 완전히 동의하지만, 이를 실현하는 방법과 예상되는 도전 과제에 대해서는 의견 차이가 있다고 밝혔다. 그러면서 이를 큰 그림을 공유하는 두 사람 사이의 "토론"으로 규정했다.

Brockman은 모델 성능이 높아질수록 정렬(alignment), 안전성, 보안에 대한 책임도 커진다고 강조했다. 특히 모니터링 기술의 한계를 지적하며, 현재 연구자들이 활용하는 'chain of thought' 방식—AI가 문제를 풀면서 사고 과정을 텍스트로 기록하는 방식—이 더 고도화된 모델에는 통하지 않을 수 있다고 말했다. "모델이 발전할수록 사고를 굳이 기록하지 않고도 더 많은 것을 처리할 수 있게 된다. 새로운 모니터링 접근법이 필요하다"고 그는 덧붙였다.

출처

techcrunch.com — 원문 읽기 →