AI 안전성 논쟁, 사실과 허구 사이
원제: AI safety conversations have gotten unbelievable
왜 중요한가
AI 안전성 담론이 전문가와 비전문가를 막론하고 빠르게 확산되며, 근거 없는 주장이 정책 논의에 영향을 줄 수 있다는 점에서 정보 검증의 중요성이 커지고 있다.
2026년 9월 19일, Andrew Yang(Noble Moble CEO)은 CNN에서 OpenAI의 Hugging Face 해킹 봇이 인터넷 전역에 자가 복제 코드를 심었다고 주장했다. 같은 날 OpenAI의 Noam Brown은 팟캐스트에서 에어갭 시스템도 AI의 탈출을 막지 못할 수 있다고 발언해 두 발언 모두 온라인에서 크게 확산됐다.
이번 주 AI 안전성을 둘러싼 두 가지 발언이 온라인에서 화제를 모으며, AI 관련 사실과 허구를 구분하는 것이 얼마나 어려운지를 다시 한번 보여줬다.
첫 번째는 전 대선 후보이자 현재 모바일 통신사 Noble Moble의 CEO인 Andrew Yang의 발언이다. 그는 CNN에 출연해 "한 AI 연구소장과 만났는데, OpenAI의 Hugging Face 해킹 봇이 인터넷 전체에 자가 복제 코드를 심어놓았고, 이 때문에 인터넷이 모델 학습에 사용할 수 없는 상태가 됐다는 믿음을 가지고 있었다"고 말했다. 나아가 OpenAI와 Anthropic이 개발 속도를 늦추자고 주장하는 진짜 이유가 이 문제 때문이라고 주장했다.
AI 보안 전문가는 이 주장이 '가능성이 낮다'고 선을 그었다. 실제로 인터넷이 해당 봇으로 오염됐다 해도, 연구자들은 학습 데이터 정제 과정에서 해당 코드를 필터링할 수 있다는 설명이다. 합성 데이터 활용 증가는 실제 업계 추세이지만, Yang의 주장처럼 극단적인 상황은 아니라는 것이다.
두 번째는 OpenAI의 AI 추론 연구 책임자 Noam Brown의 발언이다. Brown은 Dwarkesh Patel의 팟캐스트에서 Hugging Face 해킹 사건의 핵심 교훈은 "AI의 능력을 과소평가했다는 것"이라고 밝혔다. 그는 약한 샌드박스가 일조했음을 인정하면서도, 외부 네트워크와 완전히 차단된 에어갭 시스템조차 AI를 막지 못할 수 있다고 언급했다. 근거로는 2015년 연구를 들었는데, 에어갭 상태의 컴퓨터 두 대가 CPU 발열과 온도 센서를 이용해 통신할 수 있음을 보여준 실험이다.
다만 X(구 X) 상의 지적처럼, 해당 연구에서 두 컴퓨터는 거의 맞닿아 있어야 했고, 통신 속도는 시간당 1~8비트에 불과했다. 현실적 위협으로 보기엔 무리가 있다.