트럼프, AI 안전성 테스트 필요성 인정
원제: Spooked by Mythos, U.S President suddenly realized AI safety testing might be good | U.S President forced to admit Biden was right on AI safety testing.
왜 중요한가
미국 정부의 AI 안전성 규제 정책 전환으로 글로벌 AI 개발 및 출시 절차에 중대한 변화가 예상된다.
트럼프 대통령이 이번 주 Google DeepMind, Microsoft, xAI와 AI 모델 정부 안전성 검사 협정을 체결했다. 앞서 바이든 정책을 과도한 규제라며 폐기했던 트럼프가 Anthropic의 Claude Mythos 모델 출시 보류 발표 이후 입장을 180도 전환했다.
트럼프 행정부가 이번 주 Google DeepMind, Microsoft, xAI와 첨단 AI 모델의 출시 전후 정부 안전성 검사 실시 협정을 체결했다고 발표했다. 트럼프는 취임 후 바이든 시대의 자발적 AI 안전성 검사 정책을 과도한 규제라며 폐기하고, 미국 AI 안전 연구소(AI Safety Institute)를 AI 표준 혁신 센터(CAISI)로 개명해 '안전성'이라는 단어를 제거하기까지 했다. 하지만 Anthropic이 최신 Claude Mythos 모델의 고도화된 사이버보안 기능이 악용될 위험성을 우려해 출시를 보류한다고 발표한 후 입장을 급변했다. 백악관 국가경제위원회의 케빈 해셋 국장에 따르면 트럼프는 곧 고급 AI 시스템의 출시 전 정부 테스트를 의무화하는 행정명령을 발표할 예정이다. CAISI는 현재까지 미출시 모델을 포함해 약 40건의 평가를 완료했다고 밝혔다. 안전장치가 제거된 상태에서 테스트를 진행해 국가보안 관련 역량과 위험을 보다 철저히 평가한다고 설명했다.