AI가 양자내성암호 후보 HAWK의 치명적 취약점 발견
원제: Mythos attack on 3rd-round PQC algorithm candidate puts it out of commission
왜 중요한가
AI가 다년간의 인간 검토를 통과한 양자내성암호 후보의 치명적 취약점을 수십 시간 만에 발견함으로써, 암호 분석 분야에서 AI 활용 가능성과 위험성이 동시에 부각되었다.
Anthropic의 AI 보안 모델 Mythos가 NIST PQC 3차 심사 중이던 디지털 서명 알고리즘 HAWK에서 치명적 취약점을 발견했다. 약 60시간, 약 10만 달러의 컴퓨팅 비용으로 수행된 분석 결과, HAWK 개발자는 2026년 7월 29일 알고리즘을 심사에서 자진 철회했다.
Anthropic은 2026년 7월 28일(현지시간), AI 보안 모델 Mythos를 이용해 NIST의 양자내성암호(PQC) 표준화 심사 3라운드에 있던 디지털 서명 알고리즘 HAWK의 치명적 취약점을 발견했다고 발표했다. Mythos는 현재 일부 신뢰된 연구자에게만 제한적으로 제공되는 모델이다.
HAWK는 격자 동형 문제(Lattice Isomorphism Problem)의 수학적 난이도에 보안 기반을 두는 양자내성 디지털 서명 방식으로, 기존 NIST PQC 심사의 1·2라운드를 통과했다. Anthropic에 따르면 암호학 전문 지식이 없는 연구원이 Mythos를 활용해 약 60시간, 약 10만 달러의 컴퓨팅 비용만으로 HAWK에 대한 기존 최선 공격을 개선해 사실상 키 강도를 절반으로 줄이는 데 성공했다. Anthropic이 발표한 다음 날인 7월 29일, HAWK 개발자는 해당 알고리즘을 심사에서 공식 철회했다.
한편, Mythos는 널리 사용되는 AES 암호에 대해서도 수학적 취약점을 발견했다고 Anthropic은 밝혔다. 다만 몇 가지 주의 사항이 있다. 이번 결과는 점진적 발전이며, 현재 실제로 사용 중인 암호 시스템을 즉시 깨는 것은 아니다. 테스트에 사용된 인스턴스는 명세서 저자가 적대적 동료 검토용으로 제공한 '약화된 버전'으로, 실제 운용 환경의 암호화는 훨씬 더 강력하다. 또한 현재로서는 해당 공격 기법이 테스트 환경 밖에서 현실적으로 실행되기 어렵다는 점도 지적됐다.