미국 정부의 Anthropic 모델 수출 금지에 사이버보안 전문가 반발
원제: Cybersecurity vets protest ‘dangerous’ US government ban on Anthropic’s most powerful models
왜 중요한가
AI 보안 능력과 국가안보 사이의 균형 문제가 대두되고 있으며, 강력한 AI 모델에 대한 규제가 실제 방어 역량을 약화시킬 수 있다는 산업계의 우려가 제기되고 있습니다.
미국 정부가 Anthropic의 Fable과 Mythos 모델의 수출을 제한하자, 76명의 사이버보안 전문가들이 공개 서한을 발표했습니다. 전문가들은 이 금지 조치가 취약점 발견에 필요한 최고 성능의 모델을 방어자들로부터 빼앗는 '위험한' 행동이라고 지적했습니다.
미국 정부는 6월 15일 국가안보 우려를 이유로 Anthropic의 Fable과 Mythos 모델의 수출을 제한하는 행정명령을 발령했습니다. 이에 따라 Anthropic은 전 세계 모든 사용자에 대한 모델 접근을 중단했습니다.
사이버보안 업계 인사 76명은 공개 서한을 통해 이 조치의 해제를 요청했습니다. 서명자에는 Facebook 전직 보안 책임자 Alex Stamos, 버그 바운티 플랫폼 Bugcrowd 설립자 Casey Ellis, 암호학자 Jon Callas, Block 응용 보안 엔지니어링 부서 전직 책임자 Dino Dai Zovi 등이 포함되었습니다.
Mythos는 4월 프리뷰 버전으로 출시되었으며, Anthropic은 보안 취약점 발견에 뛰어나다고 주장했습니다. Anthropic은 초기에 약 50개 회사에만 접근을 허용했으나, 최근 15개국 약 150개 기관으로 확대했습니다. 최근 공개된 Fable 버전은 생물학, 화학, 사이버보안 분야의 사용을 차단하는 강력한 보안 메커니즘을 탑재했으나, 사이버보안 전문가들은 이 제한이 너무 엄격해 사실상 모든 관련 쿼리를 차단한다고 지적했습니다.
Amazon 연구진의 논문에서 Fable의 보안 메커니즘을 우회하는 방법이 발견되었다는 보도가 있으며, 이것이 수출 제한의 근거가 된 것으로 보입니다.