Anthropic, 정부 명령으로 최강 AI 모델 접근 차단
원제: Anthropic’s safety warnings may have just backfired — the government has pulled the plug on its most powerful AI
왜 중요한가
AI 안전성을 강조한 기업이 오히려 정부 규제로 최고 모델 서비스 중단, AI 개발과 규제 균형점 모색 필요성 부각
미국 정부가 6월 12일 국가보안 우려를 이유로 Anthropic의 최고 성능 AI 모델인 Claude Fable 5와 Claude Mythos 5에 대한 전 세계 접근을 즉시 차단하라고 명령했다. Anthropic은 X를 통해 명령에 따랐지만 정부 판단이 잘못됐다고 반박했다.
미국 정부는 수출통제 조치의 형태로 Anthropic에게 오후 5시 21분 지시문을 전달했으며, 이는 외국인뿐만 아니라 전 세계 모든 사용자의 접근을 차단하는 것이다. Claude Mythos 5는 Anthropic이 4월 초 공개한 가장 뛰어난 AI 모델로, 소프트웨어 보안 취약점 발견 능력이 뛰어나 모든 주요 운영체제와 웹 브라우저에서 결함을 식별했다. 이 때문에 회사는 Amazon, Apple, Google, Microsoft, CrowdStrike 등 약 50개 검증된 조직에만 제한적으로 제공하는 Project Glasswing 프로그램을 운영했다. 3일 전 출시된 Claude Fable 5는 사이버보안과 생물학 등 고위험 영역 응답을 차단하는 가드레일을 장착한 Mythos의 상용 버전으로, Vals AI 벤치마크 테스트에 따르면 대중이 접근할 수 있는 가장 뛰어난 AI 모델이었다. 정부는 Fable 5의 탈옥(jailbreak) 가능성을 우려한다고 밝혔지만, Anthropic은 이것이 다른 공개 모델들과 비슷한 수준이며 사이버보안 전문가들이 방어 목적으로 일상적으로 사용하는 기능이라고 반박했다.