Anthropic, AI 모델 신원 증명 시스템 개발
원제: Anthropic is working on a system to prove AI models’ identity
왜 중요한가
AI 모델 위변조 방지 기술은 AI 서비스 신뢰성 검증과 규제 준수 요건이 강화될수록 업계 표준으로 부상할 가능성이 있다.
Anthropic이 2026년 11월 3일 AI 모델의 출력물 출처를 암호학적으로 검증하는 오픈소스 시스템 'FlashProve'를 공개했다. 이 시스템은 특정 출력이 어떤 AI 모델에서 생성됐는지 수학적으로 증명하는 '증명 가능한 추론(provable inference)' 기술을 기반으로 한다.
Anthropic 연구진이 AI 모델의 신원을 암호학적으로 검증하는 시스템 'FlashProve'를 발표했다. 이메일 디지털 서명처럼, FlashProve는 특정 출력물이 실제로 어떤 모델에서 나왔는지를 수학적으로 보장한다.
핵심 기능은 AI 기업이 모델마다 '지문(fingerprint)'을 공개적으로 등록하고, 이를 이후 출력물과 대조해 진위를 확인하는 방식이다. 중요한 점은 이 지문이 모델의 가중치(weights)를 노출하지 않는다는 것이다. 가중치는 Anthropic, OpenAI 같은 클로즈드 모델 기업들이 핵심 자산으로 비공개 유지하는 내부 수치다. 즉, 상업용 모델에도 적용 가능하다.
연구진이 주목하는 주요 활용 사례는 두 가지다. 첫째, AI 기업이 비용 절감을 위해 몰래 저가 모델로 교체하거나, 성능 과시를 위해 고가 모델을 슬쩍 끼워 넣는 행위를 방지할 수 있다. 둘째, 제3자가 '이 작업은 최첨단 모델이 처리했다'고 주장할 때 사용자가 이를 직접 검증할 수 있다. 연구진은 "소프트웨어 라이브러리의 보안 취약점 스캔이나 사업 계획 검토 같은 고부가 작업에서 사용 주체 확인이 가능해진다"고 설명했다.
시스템은 로컬 기기에서 경량으로 검증을 수행할 수 있도록 설계됐으며, 기술 명세서와 작동 코드가 GitHub에 오픈소스 라이선스로 공개됐다. 다만 현재로선 Anthropic이나 다른 AI 기업에 실제 배포할 계획은 없다. 연구진은 "이번 발표는 중간 진행 상황 공유"이며, 다른 연구자들이 이를 발전시켜 주길 바란다"고 밝혔다.