AI가 양자내성 암호 알고리즘의 치명적 결함 발견
원제: Mythos uncovers crypto weaknesses that went unknown for years
왜 중요한가
AI가 수년간 발견되지 않은 암호 알고리즘의 치명적 결함을 발견함으로써, AI 기반 암호 분석이 표준화 프로세스에 실질적 영향을 미칠 수 있음을 입증했다.
Anthropic의 AI 보안 모델 Mythos가 2026년 7월 29일, NIST의 양자내성암호(PQC) 3라운드 후보 알고리즘 HAWK에서 치명적 취약점을 발견했다고 발표했다. 약 60시간의 작업과 약 10만 달러의 컴퓨팅 비용으로 HAWK의 키 강도를 절반으로 줄이는 공격이 가능함이 밝혀졌으며, HAWK 개발자는 이튿날 해당 알고리즘을 공식 철회했다.
Anthropic의 AI 보안 모델 Mythos가 NIST의 PQC(양자내성암호) 표준화 3라운드 심사를 통과하고 있던 디지털 서명 알고리즘 HAWK에서 치명적 결함을 발견했다. HAWK는 Lattice Isomorphism Problem(격자 동형 문제)의 수학적 난이도에 기반한 알고리즘으로, 양자 컴퓨터 공격에도 안전하다고 여겨졌다.
Mythos는 암호학 전문 지식이 없는 Anthropic 연구원의 프롬프트 유도 하에, 약 60시간의 작업과 약 10만 달러의 컴퓨팅 비용으로 기존 최선의 공격 방법을 개선해 HAWK의 실효 키 강도를 절반으로 줄이는 데 성공했다. Anthropic이 7월 28일 결과를 발표한 다음 날인 29일, HAWK 개발자는 해당 알고리즘을 NIST 심사에서 공식 철회했다.
또한 Mythos는 널리 사용되는 대칭 암호 알고리즘 AES에서도 취약점을 발견했다고 Anthropic은 밝혔다.
단, 몇 가지 중요한 제한 사항이 있다. 이번 공격은 사양서 작성자가 제공한 약화된 테스트용 '챌린지 인스턴스'를 대상으로 한 것으로, 실제 운영 환경의 암호 시스템은 훨씬 더 강력하다. 또한 현재 실제 서비스에서 사용 중인 암호 시스템은 파괴되지 않았으며, 공격 방법도 테스트 환경 밖에서는 실행이 어려운 수준이다. Mythos는 현재 일부 신뢰된 사용자에게만 제한적으로 제공되고 있다.